Университет создан по инициативе нобелевского лауреата по физике академика Ж. И. Алферова в соответствии с постановлением президиума Российской академии наук № 290 от 8 октября 2002 года как Академический физико-технологический университет РАН (АФТУ РАН). Фактическим предшественником университета был Санкт-Петербургский физико-технологический научно-образовательный центр РАН (СПбФТНОЦ РАН), основанный при Физико-техническом институте имени А. Ф. Иоффе РАН в 1997 году с целью подготовки научных кадров высшей квалификации с использованием лучших достижений российской и зарубежной систем высшего и послевузовского образования.
В соответствии с постановлением Президиума РАН от 10 декабря 2002 г. № 363 был создан научно-образовательный комплекс «Санкт-Петербургский физико-технический научно-образовательный центр РАН» (НОК «СПб ФТНОЦ РАН») в состав которого вошли: Академический физико-технологический университет РАН (АФТУ РАН); Физико-технический институт им. А. Ф. Иоффе РАН; научно-технологический центр микроэлектроники при Физико-техническом институте им. А. Ф. Иоффе РАН; лицей «Физико-техническая школа» при Физико-техническом институте им. А. Ф. Иоффе РАН.
Распоряжением Правительства Российской Федерации от 14 марта 2006 г. № 343-р Университету присвоен статус федерального государственного учреждения высшего профессионального образования. В дальнейшем неоднократно менялись его организационные формы и название. В 2010 году он получил статус национального исследовательского университета. С 2015 года Университет стал именоваться «Федеральное государственное бюджетное учреждение высшего образования и науки «Санкт-Петербургский национальный исследовательский Академический университет Российской академии наук» (СПбАУ РАН)», а с 2018 года был передан в ведение Минобрнауки России с сохранением наименования.
Во исполнение Указа Президента Российской Федерации приказом Минобрнауки России в сентябре 2019 года Университету присвоено имя основателя и первого ректора – Ж. И. Алферова.
