Убежденный республиканец Шлезингер был министром обороны при Ричарде Никсоне и Джеральде Форде. Он стремился перестроить ядерную стратегию США после войны во Вьетнаме и часто спорил с тогдашним госсекретарем Генри Киссинджером.
В период президентства демократа Джимми Картера Шлезингер занимал пост министра энергетики США.
В 2002 году президент Джордж Буш ввел Шлезингера в состав Совета по внутренней безопасности. Он также был консультантом министерства обороны США и членом Совета по оборонной политике.