В 1968 году с отличием окончил Гарвардский университет со степенью бакалавра и был первым в его классе по физике. Далее поступил в радиационную лабораторию в Беркли, которая находится в университете Калифорнии, где и получил в 1972 году степень доктора философии (Ph.D).
Во время вьетнамской войны Каку закончил базовую подготовку в форте Беннинг (Джорджия) и тренинг для пехоты в форте Льюис (Вашингтон).
В 1973 году начал вести лекции в Принстонском университете.