Отец, Иов Исидорович Гайдай, был железнодорожным служащим, уроженцем Полтавщины. Мать, Мария Ивановна была родом из Рязанской области. У Леонида Гайдая была сестра Августа.
Леонид Гайдай принимал участие в Великой Отечественной войне, имел тяжёлое ранение, после которого его комиссовали.
В 1942 году Леонида Гайдая призвали в армию, сначала его отправили в мирную Монголию, из которой он всеми силами пытался вырваться в действующую армию. Когда военком приехал в их полк за пополнением для фронта, позднее вспоминал режиссер, то на каждый вопрос офицера Гайдай отвечал: «Я». «Кто в артиллерию?» — «Я», «В кавалерию?» — «Я», «Во флот?» — «Я». «Да подождите вы, Гайдай, — сказал военком, — Дайте огласить весь список». Из этого случая, по словам самого Гайдая, через много лет родился эпизод фильма «Операция „Ы“ и другие приключения Шурика».
Гайдай сам нередко снимался в своих фильмах. Как правило, это крошечные эпизоды, но в «12 стульях» режиссёр снялся в роли Варфоломея Коробейникова — просто он не смог найти подходящего актёра на эту роль.
Умер от тромбоэмболии лёгочной артерии.