Еще будучи студентом, Гайдай поработал режиссером— практикантом и снялся как актер в комедии Барнета "Ляна". В 1958 году Гайдай снялся еще в одном фильме —  в оптимистической драме "Ветер". Это была последняя его работа в качестве актера в чужих фильмах. С середины 50— х годов Леонид Иович обратился к режиссуре и с тех пор на экране появлялся лишь изредка в эпизодических ролях в собственных фильмах.

С 1955 года Гайдай —  режиссер киностудии «Мосфильм». Первый фильм «Долгий путь» (1956, совместно с В. И. Невзоровым) Гайдай поставил по сибирским рассказам В. Г. Короленко, таким образом отдав дань своему дальневосточному происхождению. Несмотря на то, что это была не комедия, Михаил Ромм разглядел в молодом режиссере талант комедиографа и посоветовал ему работать в этом направлении.

В мастерской Ромма и родился первый веселый фильм Гайдая «Жених с того света» с Вициным и Пляттом в главных ролях. Впрочем, радоваться успеху режиссеру не пришлось. Картина была встречена в штыки —  в 1958 году сатирическое изображение бюрократов вряд ли могло понравиться чиновникам Министерства культуры. В результате фильм обругали, сократили и пустили вторым экраном.

Леонид Гайдай испытал сильное душевное потрясение. Следующий его фильм вышел через два года и не имел к комедии ни какого отношения. Фильм «Трижды воскресший» (1960), решенный в жанре героической киноповести с явным идеологическим пафосом, считается вынужденным в творчестве Гайдая, который все— таки был чужд политике. Картина с треском провалилась, и начинающий режиссер впал в отчаяние, не зная, что снимать.

Гайдай уехал к родителям в Иркутск, где и произошел решающий поворот в его судьбе. На чердаке деревянного дома он обнаружил номер «Правды» с фельетоном в стихах «Пес Барбос» Степана Олейника. Фельетон необычайно увлек его. Он тут же рассказал сюжет жене (актрисе Нине Гребешковой): «Нинок, ты послушай, как это смешно! Бежит Пес —  2 метра пленки, за ним Бывалый —  3 метра, оглядывается —  1,5 метра. Общий план —  бегут все...» Родные только плечами пожали: «Три дурака бегают от собаки со взрывчаткой, которую сами же и бросили. Что ж тут смешного?» Но мудрая Гребешкова, знающая характер мужа, тихо вздохнув, сказала: «Потрясающе!».

Как оказалось, она была права. 9— минутный фильм «Пес Барбос и необычайный кросс» имел огромный успех, его тут же разослали по посольствам. В невидимом перенесении во времени, в ориентации на сатирическо— комедийное искусство 1920— х годов как советское, так и американское (Чарли Чаплин, Бастер Китон и Гарольд Ллойд), Гайдай нашел настоящую «золотую жилу». И даже приемы эксцентрической американской комедии приобрели у него чисто российское и вполне советское звучание. Эта незатейливая короткометражка породила уникальный феномен трех суперпопулярных героев-масок советского кинематографа —  Балбеса, Труса и Бывалого, которые потом были задействованы в следующей короткометражке «Самогонщики» (1962), в третьей новелле комедии «Операция «Ы» и другие приключения Шурика» (1965) и в «Кавказской пленнице» (1966).