Rumsfeld est diplômé de l’Université de Princeton en 1954 avec un diplôme en sciences politiques et a ensuite servi dans la Marine pendant trois ans. Le natif de l’Illinois a lancé une campagne pour le Congrès dans le 13e district du Congrès de l’Illinois, gagnant en 1962 à l’âge de 30 ans. Il a été l’un des principaux co-sponsors de la Freedom of Information Act.
Il a servi sous plusieurs présidents. Il a été nommé au Bureau des opportunités économiques par le président Richard Nixon en 1969. Il a également dirigé le programme de stabilisation économique de Nixon avant d’être nommé ambassadeur auprès de l’OTAN.
En 1974, Rumsfeld est retourné à Washington pour servir en tant que chef de cabinet du président Ford. Lorsque Ford l’a nommé plus tard secrétaire à la Défense, Rumsfeld a recruté Dick Cheney, son jeune ancien membre du personnel et un fidèle allié, pour reprendre son rôle.
Rumsfeld a la distinction d’avoir servi deux mandats non consécutifs à la tête du DoD, puisqu’il a ensuite été nommé à nouveau en 2001 par le président George W. Bush. Il était aussi le plus jeune, à 43 ans, et le plus âgé, à 74 ans, à avoir le titre.