Эти юношеские размышления стали, однако, для Шмидта путеводными указателями на всю жизнь. В отношении религии он стал убеждённым атеистом. В отношении политики после революции 1917 г. он сразу, сознательно и деловито вступил на путь реального, без громких фраз, строительства нового социалистического уклада в России, которую молодой Н.И. Бухарин в 1931 г. метко назвал «строительной площадкой социализма». Шмидт сознательно вступает в 1918 г. в коммунистическую партию, видя лишь в ней реальную организационную силу для этого нового строительства в условиях чудовищной разрухи, унаследованной от гражданской войны. Его задача не только строить новое, но и сохранить культурное наследие, направить творческие силы остававшейся в стране интеллигенции на это строительство.
С первых лет советской власти О.Ю. Шмидт – видный государственный деятель на самых трудных участках – в руководстве Наркомпрода, Наркомфина, Наркомпроса. Именно к нему обращается за помощью в начале 20-х гг. старая русская интеллигенция в борьбе с детской беспризорностью и, получив поддержку, создаёт, видимо, лучшие за всю советскую историю детские «приюты», нашедшие отклик и помощь всего мира («пока… они не были прикрыты чиновниками от большевиков, опасавшимися неправильного воспитания «наших» детей бывшими членами не-большевистских партий… Сами же создатели приютов были частью высланы на знаменитом «философском» пароходе, частью арестованы и расстреляны»). Шмидт участвует в реформе школьного образования, дополняя его новыми элементами – приобретением учениками практических профессий, и вместе сохраняя все полезное старое, привлекая всюду к сотрудничеству и старых «спецов». Он организатор высшего образования, финансового и издательского дела, основатель и главный редактор первого издательства (1924–1942); исследователь Курской магнитной аномалии. При этом и здесь, как и при реформировании денежной системы страны, Шмидт успешно использует свою эрудицию и глубокую интуицию математика.
Не забыта и чистая наука: в 1920 г. Шмидт выступает организатором Московского института математических наук в МГУ, где с 1921 г. начинает преподавать высшую алгебру, с 1924 г. – профессор (03.09.1954 г. именно он прочел первую лекцию на физфаке в новом комплексе МГУ на Ленинских горах). С 1929 г. Шмидт – заведующий кафедрой алгебры на мехмате; с 1951 г. – заведующий геофизическим отделением физфака, в 1953–1954 гг. – заведующий кафедрой физики Земли. Всемирную славу приносят ему математические труды, начатые с ранней и уже фундаментальной монографии «Абстрактная теории групп» (Киев, 1916, 285 с.) и достигшие высшей точки в работе, созданной всего за пару месяцев командировки в Гёттинген в 1927 г., открывшей миру «теорему Шмидта» и поразившей самого великого тогда математика Европы Гильберта.