Академический университет был создан как научно-образовательный центр Физико-технического института им. А.Ф. Иоффе РАН в 1999 году в целях интеграции науки и образования в области физики и информационных технологий. Инициатива его организации принадлежала директору ФТИ им. А.Ф. Иоффе РАН, вице-президенту РАН, академику Ж.И. Алфёрову, который возглавляет его с момента создания по настоящее время и является сегодня ректором Академического университета.
Ещё при создании Санкт-Петербургской Академии наук Петром I была высказана идея «триединой композиции» — Академии наук, Академического университета и Академической Гимназии. Спустя три века в Санкт-Петербурге удалось реализовать эту идею в Академическом университете, объединяющем научно-исследовательские лаборатории, университетские кафедры и лицей «Физико-техническая школа». Обучение школьников, студентов и аспирантов осуществляется непосредственно в контакте с активно работающими учёными как в учебных аудиториях на лекциях и семинарах, так и в лабораториях. Это отвечает передовым мировым тенденциям подготовки кадров в области нанотехнологий и создает необходимые предпосылки для сохранения лидирующей позиции России в научно-техническом прогрессе XXI века. Система подготовки научных кадров, задуманная ещё академиком А.Ф. Иоффе, постоянно совершенствовалась, развивалась и после создания Санкт-Петербургского академического университета приобрела законченный характер.
В 2002 году Президиум РАН создал новое образовательное учреждение в системе Академии наук- Академический физико-технологический университет РАН.
В 2011 году Академический университет получил статус Национального исследовательского университета.
