Выдвинулся после Февральской революции 1917 г. Будучи меньшевиком, всецело поддержал Временное правительство. Его речи на митингах привлекли внимание, и он был назначен комиссаром Первого участка милиции Якиманского района Москвы, а затем после организации новых органов власти стал председателем управы Якиманского района. По списку меньшевиков был избран в районную и кооптирован в городскую думу. В 1917 г. издал брошюру «Какие нам нужны городские думы?», в которой восхвалял муниципальную реформу Временного правительства, утверждал, что она «превзошла самые смелые ожидания». Выполняя распоряжение Временного правительства, он принимал практические меры по розыску и аресту В.И. Ленина, скрывавшегося после июльских событий в Петрограде. В 1917–1918 гг. – сотрудник Московского городского продовольственного комитета. В 1919–1923 гг. – заведующий отделом учета и начальник управления распределения Наркомата продовольствия РСФСР.
В 1920 г. Вышинский вышел из меньшевистской партии и вступил в РКП(б). Обладая феноменальной работоспособностью, успевал совмещать в 1921–1922 гг. работу деканом экономического факультета Московского института народного хозяйства им. К. Маркса и преподавание (как профессор Московского государственного университета). В 1923–1925 гг. – прокурор уголовно-следственной коллегии Верховного суда СССР. Выступал в качестве государственного обвинителя на многих процессах: Дело «Гукон» (1923); Дело ленинградских судебных работников (1924); Дело Консервтреста (1924); Дело о некомплектной отгрузке комбайнов (1933); Дело о гибели парохода «Советский Азербайджан» (1935); Дело бывшего начальника зимовки на острове Врангеля Семенчука и каюра Старцева (1936); Дело о вредительстве на электрических станциях СССР (1933); Дело троцкистско-зиновьевского террористического центра (1936); Дело антисоветского троцкистского центра (1937); Дело антисоветского «право-троцкистского блока» (1938).
В 1925–1928 гг. Вышинский – ректор МГУ. При нем на факультетах действовали «проверочные комиссии», была сокращена автономия учебных подразделений, усилилась политико-пропагандистская работа среди студентов. В результате удаления из университета старой профессуры снизился уровень преподавания.
В 1928–1931 гг. – член коллегии Наркомата просвещения РСФСР. В мае 1931 г. – июне 1933 г. – заместитель наркома юстиции РСФСР и прокурор РСФСР. С июня 1933 г. – заместитель прокурора, а в марте 1935 г. – мае 1939 г. – прокурор СССР. Выступал как государственный обвинитель на фальсифицированных НКВД политических процессах 1936–1938 гг. Был представителем специального присутствия Верховного суда по Шахтинскому делу (1928), по делу Промпартии (1930). Государственный обвинитель по процессу «Метро-Виккерс» (1933), политическим процессам 1936, 1937, 1938 гг. С началом перестройки и открытием архивов стало ясно, что и эти дела были созданы следователями ОГПУ и не имели под собой никаких реальных фактов.
