В 1909 г. Ферсман занял должность сверхштатного ассистента при Минералогическом кабинете Московского университета и продолжил работать с В.И. Вернадским. Ферсман первым получил золотую медаль им. А.И. Антипова (1909), которую Минералогическое общество присуждало молодым ученым. Принял активное участие в организации Народного университета им. А.Л. Шанявского, где в 1910 г. его избрали профессором минералогии, с 1912 г. начал читать лекции по новой науке – геохимии. С 1912 г. Ферсман переключился на изучение пегматитовых жил Урала. Урал, его природа, его минеральное царство с разнообразными самоцветами увлекли Ферсмана.
В конце 1911 г. Ферсман переехал в Санкт-Петербург (в знак протеста против реакционной политики царского правительства в области просвещения) и приступил к работе в Академии наук в качестве старшего хранителя Минералогического отделения Геологического и минералогического музея Академии наук. В 1912 г. избрали профессором минералогии Бестужевских высших женских курсов, где он читал лекции по кристаллографии и геохимии.
Как минералог Ферсман занимает одно из самых почетных мест в истории минералогии нашей страны. Ранние исследования ученого посвящены ряду гипергенных минералов. В работе «Исследования в области магнезиальных силикатов. Группа циллерита, церматтита и палыгорскита» (1913) он дал концепцию минерального вида, различные типы химических превращений, говорил об искусственности и условности систематики минералов.
Появились его статьи о письменной структуре пегматитов и причинах ее возникновения (1915), природе пегматитовых образований (1924), процессах замещения в гранитных пегматитах (1926), об их классификации (1931) и др. Эта серия работ увенчивается монографией «Пегматиты. Их научное и практическое значение. Том 1. Гранитные пегматиты» (1931). Она ценна для минералогов возможностью сопоставления отдельных минералов и минеральных ассоциаций по месту в ходе пегматитового процесса. Ферсман так определял главные задачи минералогии как науки о минерале, его свойстве, его истории: изучение природы минералов; всестороннее изучение свойств минералов; изучение образования минералов в земной коре; изучение сочетания минералов в природе – законов парагенезиса – и постановка проблем региональной минералогии; к ним добавляются проблемы прикладной минералогии и метеоритики.