Когда началась Великая отечественная война, Зиновий Гердт ушел добровольцем на фронт. Был старшим лейтенантом саперной роты. В феврале 1943 года под Белгородом он был тяжело ранен в ногу.
Трудовую деятельность начал в 1933г. электриком в ТРАМе в Москве.
В 1990-х гг. был ведущим популярной телепередачи «Чай-клуб».
Похоронен на Кунцевском кладбище.
Народный артист СССР (1990).