Исследования с дрожжами, плесневыми грибками и азотусвояющими бактериями обозначили начало еще одного из успешных направлений научной деятельности Костычева в микробиологии. Не будучи изначально по своей специализации микробиологом, он как одаренный ученый быстро ее освоил и добился серьезного отношения микробиологов к своим трудам. Эти труды позволили ему стать с 1918 г. членом-консультантом отдела бактериологии Сельскохозяйственного Ученого комитета, который в 1923 г. был преобразован в Государственный институт опытной агрономии, где Костычев заведовал отделом микробиологии. После реорганизации отдела во Всесоюзный институт сельскохозяйственной микробиологии ВАСХНИЛ (1930) он стал его директо-ром. Научные труды и другие заслуги послужили основанием для избрания Костычева
в 1922 г. членом-корреспондентом, а в 1923 г. – действительным членом Академии наук.
Став одним из ведущих специалистов страны по сельскохозяйственной микробиологии, Костычевположил начало исследованиям по так называемой «биодинамике почв». Он был убежден, что одним из важнейших факторов плодородия почвы является азотный режим, а точнее– деятельность нитрифицирующих и азотфиксирующих бактерий. Содержание азота в почве зависит от накопления в ней деятельных микробов. О том свидетельствовало обследование табачных плантаций на крымских почвах, когда Костычев нашел в ризосфере табака большое количество азотобактера и нитрифицирующих бактерий. Хотя интенсивное выращивание табака велось на этих почвах без внесения удобрений, из года в год баланс азота оставался в них на высоком уровне. В связи с тем, что табак потребляет большое количество азота, которое не пополнялось извне, он пришел к выводу, что высокое содержание азота зависит от деятельности азотобактера.
Тогда же Костычев уделил большое внимание генезису лимонной и других органических кислот, образуемых плесневыми грибами. Онразвил интересную теорию образования лимонной кислоты при незавершенном синтезе аминокислот, а для практи-ческих нужд создал полузаводскую установку для ее получения биологическим путем при участии плесневого грибка аспергилла. Позже на этой основе в Ленинграде был построен завод.
После передачи в 1919 г. для летних практических занятий студентов бывших дворцовых построек в Новом Петергофе Костычев организовал там филиал университетской лаборатории и стал проводить вместе со своими учениками, ассистентами и студентами различные исследования по анатомии и физиологии растений, проявив незаурядные способности и в этих областях науки. Так, в результате его анато-мических исследований, начатых еще в домашних условиях при временном закрытии университетской лаборатории в 1918–1820 гг., он выступил с пересмотром традиционного представления о строении и утолщении стебля двудольных растений. Тогда же им были проведены оригинальные эксперименты по изучению суточного хода фотосинтеза, о воз-можности воздушного питания растений в белые ночи, а также об изменении фотосинтеза в различных природных условиях. Опыты проводились непосредственно в разных местах обитания растений. Позднее эти эколого-физиологические работы были значительно расширены и велись одновременно за Полярным кругом, на Кольском полуострове и Черноморском побережье Кавказа, в Крыму и Средней Азии. Их результаты до сих пор представляют большой интерес.