17 февраля 1925 г. по постановлению СНК СССР Архив был признан научным учреждением. С июля 1925 г. стал именоваться Архивом Академии наук СССР.
В 1926 г. Президиум АН СССР принял решение о хранении рукописей и архивов действительных членов Академии в Архиве Академии наук.
По Положению об Архиве, утвержденному Общим собранием АН СССР в 1930 г., Архив стал центральным хранилищем всех академических архивных материалов. Первым директором Архива АН СССР был известный историк и архивист Г.А. Князев.
В связи с решением о переезде Академии наук в Москву постановлением Президиума АН СССР от 25 сентября 1935 г. было образовано Московское отделение Архива, первым заведующим назначен Ф.Д. Гетман. В 1937 г. в Архиве образован Ученый совет.
18 января 1963 г. Президиум АН СССР принял решение о преобразовании Московского отделения архива в Архив АН СССР. Директором Архива назначен Б.В. Левшин. В Ленинграде было создано Ленинградское отделение архива, с 1991 г. – Санкт-Петербургский филиал Архива РАН.
С 2003 г. директором Архива РАН является к.и.н. В.Ю. Афиани. Заместитель директора – к.и.н. И.Н. Ильина.
В составе Архива РАН работают: Архив РАН (г. Москва), Санкт-Петербургский филиал АРАН, Отдел страхового документального фонда АРАН (Ярославская обл.).
Архив РАН осуществляет контроль за работой архивов РАН, обеспечивает деятельность Центральной экспертно-проверочной комиссии РАН (председатель д.и.н. Б.В. Левшин), серии РАН «Научное наследство» (председатель редакционного совета академик В.С. Мясников).