А.М. Терпигорев выехал в Москву и начал новый этап научно-педагогической деятельности профессором на кафедре эксплуатации полезных ископаемых Московской горной академии (1922–1937). Он организовал при кафедре кабинет горного искусства и музей горного дела. Позже музею было присвоено его имя. С 1923 г. Терпигорев занимал должность проректора по учебной части, входил в Правление вуза, руководившее учебной и хозяйственной деятельностью академии. В 1927 г. по его инициативе в МГА создали лабораторию врубовых машин, в которой началась научно-исследовательская работа.
Будучи членом Госплана СССР (1922–1929), хорошо понимавший необходимость механизации процессов выемки и транспортировки полезного ископаемого, Терпигорев в 1925 г. ввёл на своей кафедре новую соответствующую дисциплину и поставил цель создания по ней учебников. Появившимися учебниками пользовались студенты всех горных вузов страны, а некоторые из них были переведены на польский, немецкий и китайский языки. Одновременно профессор возглавлял бюро инженерно-технической секции Московского комитета союза горнорабочих (1925–1928) и был членом пленума инженерно-технической секции Центрального комитета союза горнорабочих (1926–1930).
В мае 1930 г. МГА была разделена на шесть самостоятельных вузов, Терпигорев продолжил преподавательскую, научную и организационную деятельность в Московском горном институте. Он редактировал сборники трудов МГИ. Был членом Бюро (с 1930 г.), а затем и председателем (1931–1934) секции научных работников при МГИ. Стал заведующим учебной частью по угольной специальности, заместителем директора по учебной части (1932–1933), а затем и директором института (1933–936).
В 1934 г. за вклад в науку ему присуждена учёная степень доктора технических наук без защиты диссертации и присвоено звание заслуженного деятеля науки и техники. В том же году учёный стал членом Высшей аттестационной комиссии, а позже – заместителем председателя Комитета по делам высшей школы при СНК СССР (1936–1937). Вместе с тем профессор состоял членом (с 1932 г.) и председателем (1934–1938) Оргбюро Всесоюзного горного инженерно-технического общества, членом Московского городского Совета рабоче-крестьянских и красноармейских депутатов (1934–1935).
По инициативе А.М. Терпигорева в институте были созданы первые в практике горного образования кафедры: по горным машинам, по рудничному транспорту. Он заведовал кафедрой горных машин (1938–1948), затем – кафедрой разработки пластовых месторождений (1949–1959).
В 1935 г. Терпигорев избран действительным членом АН СССР и стал заместителем председателя группы горного дела в Отделении технических наук Академии (1935–1938). Горная наука отставала от запросов практики, силами группы преодолеть это отставание было нереально, и появилась необходимость создания в системе АН СССР Института горного дела. В 1938 г. группу преобразовали в ИГД АН СССР. Под руководством Терпигорева в отделе методов разработки полезных ископаемых (1938–1951) были завершены начатые в ней работы и развернуты новые.
В 1939 г. он был награждён орденом Трудового Красного Знамени.