Его отец Джон Уильямс старший, был джазовым барабанщиком, который играл в группе «Raymond Scott».
В 1952 году Уильямс был призван на службу в ВВС США, где выполнял обязанности аранжировщика и дирижёра Оркестра ВВС до окончания службы.
Полное имя — Джон Тоунер Уильямс.
По словам Брайана Сингера, изначально Джон Уильямс должен был написать музыку к фильму «Люди Икс» (2000), однако он не смог этого сделать из-за занятости на других проектах.
С 1980 года по 1993 год он работал дирижёром Бостонского Эстрадного Оркестра и сейчас является его заслуженным дирижёром.