Академический архив, как и сама Российская академия наук, своими корнями восходят к Аптекарскому приказу, известному с 1593–1594 гг., первому органу государственного управления медицинским делом в России. К концу XVII века Аптекарский приказ «играл роль, подобную… Академии наук», — ведал иноземными врачами, аптекарями, «астрологами, алхимистами, часовых дел мастерами, … хранил… редкие для того времени книги…”. С воцарением Петра I науки в России получили мощный импульс к развитию благодаря его реформаторскому замыслу организации в России Академии наук, созревшему задолго до его практической реализации. В 1703 г. был основан Санкт-Петербург, ставший новой столицей России. Здесь в 1707 г. при Главной аптеке была образована особая Аптекарская канцелярия, существовавшая параллельно с Аптекарским приказом. Постепенно Аптекарский приказ утрачивал высшие административные функции, переходившие в Аптекарскую канцелярию в Санкт-Петербурге. Таким образом, медицинское ведомство с полным правом можно назвать предшественником и самой Академии наук, и академического архива, в недрах которого с конца XVII в. стал формироваться комплекс его первоначальных документов. Поэтому датой создания современного Архива РАН, вобравшего научные и научно-организационные материалы Аптекарского приказа/Медицинской канцелярии, следует считать 1707 год. Таким образом, архив старше Академии наук на 17 лет. В 1922 г. стал общеакадемическим и получил название Архив РАН, в 1925 г. постановлением СНК СССР признан научным учреждением. После реформы архивного дела в АН СССР, последовавшей сразу за «академическим делом» (1929-1931), в архив поступило значительное число документальных материалов членов АН и других ученых из Рукописного отдела БАН и ряда научно-исследовательских учреждений, большинство которых было лишено права постоянного хранения документов. В связи с переездом центрального аппарата АН СССР в Москву в 1936 г. было создано Московское отделение Архива. В 1963 г. дирекция Архива АН СССР была также переведена в Москву и ленинградская часть архива была преобразована в отделение. В 1991 г. отделение получило статус филиала, в который с 1987 г. вошла общеакадемическая Лаборатория консервации и реставрации документов.

Документы XVIII – XX вв., отложившиеся в результате работы научных и научно-вспомогательных учреждений АН, представлены фондами Библиотеки, Архива, Издательства, Типографии, Книжной лавки, Ботанического сада, Главной астрономической обсерватории в Пулково, департаментов и палат (рисовальной, гравировальной, инструментальной и пр.), существовавших в XVIII в. в составе Петербургской АН, а также материалами академических экспедиций XVIII – XX вв. не только по территории России, но и по многим регионам мира. Имеются фонды музеев, начиная с Кунсткамеры, и созданных на ее основе в начале XIX в. специализированных научных хранилищ – музеев антропологии и этнографии, геологического, зоологического, минералогического и др.

Развитие науки в кон. XIX – первой трети XX в. характеризуют материалы многочисленных комитетов, ассоциаций и комиссий (Археографической, Византийской, Комиссий по изучению естественных производительных сил (1915-1930) и племенного состава населения СССР (1917-1930) и т. п.), и созданных на их основе лабораторий и институтов, находившихся в Петербурге-Ленинграде — Астрономического, Физико-математического, Геоморфологического, Химического, Демографического, Петрографического и пр., а также Института русской литературы (Пушкинского Дома), Азиатского музея – Института востоковедения и других институтов гуманитарного профиля.