Rubalcaba fue ministro y vicepresidente del Gobierno. Se presentó a la Secretaría General del PSOE en 2012, y ganó. Pero también supo asumir la derrota. Tras los malos resultados electorales en 2014, anunció que abandonaba la política y se reincorporaba como profesor en la universidad, donde decía que se sentía "feliz y tranquilo".
Fue una figura clave de la política española. Pérez Rubalcaba fue ministro y ocupó puestos de gran relevancia desde la época de Felipe González. Con él fue secretario de Estado de Educación, ministro de Educación y Ciencia, titular de la cartera de Presidencia y portavoz del Gobierno. En la etapa final tuvo que lidiar con los escándalos de corrupción y de los GAL.
En 2004, con la victoria de Zapatero en las elecciones generales, ocupó el puesto de portavoz del PSOE en el Congreso y con él también fue ministro del Interior entre 2006 y 2011. Desde 2010 asumió además la Vicepresidencia y la Portavocía del Gobierno.
El descalabro en las elecciones autonómicas y municipales de mayo de 2011 fueron el principio del fin de su carrera política. El Comité Federal lo avaló para competir en las primarias para suceder a Zapatero. Rubalcaba se presentó a las generales, pero el PSOE sacó su peor resultado hasta ese momento: 110 diputados frente a los 186 diputados de Mariano Rajoy, que le dieron la mayoría absoluta.
Se disputó el liderazgo de la Secretaría General del PSOE en 2012 con Carme Chacón y ganó por solo 22 votos. Se convirtió así en el líder de la oposición, pero tras unos malos resultados en las elecciones europeas de 2014, donde los socialistas perdieron nueve de 23 diputados, anunció que abandonaba la política. Era mayo y ya había decidido no presentarse al Congreso Extraordinario convocado para julio.
Pero en junio llegó la abdicación de Juan Carlos, y Rubalcaba aguantó un poco más a petición del rey. Finalmente, en septiembre de 2014 volvió a la universidad, a la Complutense de Madrid. Era doctorado en Química Orgánica. Lo anunció así: "Vuelvo a la universidad, espero que me echéis de menos, tanto como yo a vosotros". Llevaba en el Congreso de los Diputados desde 1993. Reapareció esporádicamente en actos del partido y ha colaborado en alguna ocasión con Pedro Sánchez.
El 10 de mayo de 2019 fallecía Alfredo Pérez Rubalcaba al no recuperarse de un ictus por el que fue ingresado en el Hospital Puerta de Hierro de Madrid.