В московский период в полной мере проявился педагогический талант ученого. Уже в 1979 г. его ученик, член-корреспондент АН СССР С.М. Рытов, сам к тому времени создавший школу, к которой принадлежали академик Р.В. Хохлов и многие другие, отмечал, что преподавание Мандельштама не имело ничего общего с традиционным университетским преподаванием. «Все его восемь семинаров и шесть лекционных курсов в Москве были совершенно различны по тематике или по содержанию. Даже курс теории колебаний, начатый в 1944 г., вовсе не был воспроизведением курса под тем же названием, прочитанного в 1930–1932 гг., а был по замыслу совершенно иным. И я вижу теперь, что главное заключалось в том, что Мандельштам не просто любил и умел учить, а в том, что его лекции, семинары, доклады были необходимы и ему самому. Он жаждал поделиться своими идеями, плодами своих размышлений как по специальным, более узким вопросам, так и общефизическим. Поэтому его преподавание не было обычным обучением физике, а было прежде всего школой физического мышления».
С 1934 г. Л.И. Мандельштам работает и в ФИАНе. В июле 1941 г. его вместе с рядом академиков эвакуируют из Москвы в курортный центр Боровое (Казахстан); он оказался оторван от сотрудников и учеников, выехавших вместе с ФИАНом в Казань. При первой возможности в 1943 г., приехав на сессию АН СССР в Москву, Мандельштам остаётся там. Возвращается из эвакуации ФИАН, начинаются занятия в университете. Весной 1944 г. он успевает прочитать четыре лекции по теории колебаний. На большее у него уже нет сил. Мандельштам умер 27 ноября 1944 г. вследствие тяжелой болезни сердца.