Версия для печати
Вернуться к списку

Президент РАН Александр Сергеев: «Мы не должны допустить лидерства искусственного интеллекта»

21 апреля в Российской академии наук состоится общее собрание. На нем академики подведут итоги работы, расскажут о планах на будущее. Незадолго до этого мероприятия президент РАН Александр Сергеев посетил нашу редакцию и немного анонсировал то, о чем будет идти речь на итоговом мероприятии, рассказал, каким видит выход из сложившейся непростой ситуации в нашей науке.

Узнав, что к нам приедет президент РАН, читатели прислали много накопившихся у них вопросов: о том, чем занимается сейчас академия, почему наша наука не гремит, как раньше, как надо учиться, чтобы стать академиком...

Поскольку на каждый из вопросов Александр Михайлович отвечал очень подробно, и в процессе этого возникали дополнительные, мы положили их в основу нашей интереснейшей беседы.

«Штыков у академии нет»

Анна Ивановна, Томск: «Добрый день, Александр Михайлович. Вот мы знаем, что раньше Академия наук была собранием ученых, которые определяли развитие науки в стране. Чем сейчас занимается академия и за что отвечает?»

– Хороший вопрос. Я бы сказал, что сейчас Академия наук – это по-прежнему собрание ученых. Но теперь, в отличие от того времени, о котором вы говорите, к сожалению, уже не отвечает организационно за важные направления развития нашей науки. Ведь раньше у нашего собрания ученых были еще и научные институты. Эта модель традиционна для отечественной науки, она расцвела в советское время и помогла фундаментальной науке выжить в новое российское время; институты работали оперативно и синхронно с академией, откликаясь на те задачи, которые она ставила перед ними. Сейчас собрание ученых осталось, но поставить задачи оперативно оно уже не может. Все институты сейчас являются подведомственными Министерству науки и высшего образования, они работают по госзаданиям, и эти госзадания в значительной степени планируют и пишут себе сами.

Наталья Веденеева, завсектором науки «МК»:

– То есть, по сути, главный «мыслительный орган» страны – сравним его с мозгом человека – остался не у дел, и остальные органы (институты) действуют уже не под его руководством, а как получится?

– С точки зрения академии – почти так. Приведу пример последнего времени. Мы считаем, что вклад академических (т.е. прежде находившихся в составе академии) институтов в борьбу с коронавирусом мог бы быть больше при должном организационном участии академии. В институтах есть большой задел, созданный еще в то время, когда академия имела рычаги влияния на нашу науку, оперативно ставила задачи перед институтами и отвечала за результат. И этот задел можно было бы мобилизовать сполна.

Но институты, за исключением немногих, работали в прошлом году по планам своих госзаданий, утвержденных в доковидное время. И нового, мобилизационного задания им никто не поставил.

Давайте представим, что было бы с нашей страной во время войны, если бы научные институты продолжали работать по довоенным планам. Даже если вы всем своим клубом ученых видите, что нужно вложить средства и сконцентрировать усилия на создании новых диагностик, материалов, лекарственных препаратов и вакцин, у вас нет штыков, и некого поставить под ружье. Вы вынуждены обращаться в одно место, в другое и просить, чтобы вас услышали и поняли. В каких-то случаях это получается, в каких-то – нет.

Возможность быстро мобилизовать ученых под антиковидные задачи есть у профильных министерств и ведомств. Это Минздрав, Роспотребнадзор, ФМБА. Там есть и интеллектуальные центры, и свои научные организации, которым они могут давать задания, и финансовые ресурсы. И они хорошо отработали. У РАН, к сожалению, такой возможности нет. Мы считаем, что это неправильно. Неправильно, чтобы Академия наук существовала только в виде интеллектуального клуба. Наш потенциал – выше, мы недовостребованы. Но есть другие взгляды на этот счет...

Да, есть страны, где академии – это интеллектуальные клубы. Но наша крепкая сцепка с институтами всегда была сильной стороной нашей науки. И это признавали во всем мире. Сейчас что есть, то есть...

Н.В. – Так за что сейчас отвечает академия?

– У РАН есть определенный функционал. Она совершает научно-методическое руководство институтами и научными подразделениями вузов в части использования ими бюджетных средств на науку. Конечно, этот функционал надо постоянно расширять, что мы и делаем, постоянно предлагая научные программы по интересным направлениям. Только за последний год было сформулировано несколько таких программ: по исследованию мозга, исследованиям океана, фундаментальной вирусологии и других.

Н.В. – Как идет их продвижение?

– После того как они уходят в правительство, быстрой обратной связи, как правило, не возникает.

Как становятся академиками

Игорь, 65 лет, Санкт-Петербург: «Здравствуйте, Александр Михайлович. Как стать членом Академии наук? Мой внук увлечен физикой и угрожает, что станет академиком. Это меня радует, однако на вопрос, как это сделать, я не могу ему дать ответ. Может, вы поможете?»

– Академия – это организация, в которую новых членов выбирают сами академики. Ты должен иметь соответствующий уровень признания среди профессионалов. Если такого признания нет, они тебя не выберут, не пригласят в свое сообщество. То есть ответ такой: нужно быть хорошим и признаваемым ученым и в какой-то конкретной области работать на самом высоком мировом уровне.

Во всех академиях такой порядок. Это демократически построенные организации, которые работают по принципу членства, и членство формируется в результате таких выборов. Мы считаем, что это очень хорошо, потому что все-таки коллективный разум профессионалов и тайное голосование в условиях открытой состязательности – это залог того, что в академию попадают самые сильные профессионалы. Причем у нас нет никаких ограничений: такой человек может работать и в академическом институте, и в университете, и в госкорпорации.

А то, что внук «пугает», очень хорошо... Значит, молодежь демонстрирует желание прийти и работать в науке. Это очень серьезная проблема сейчас. Чтобы такие ребята начиная со школьных лет мечтали прийти в науку, нужно много условий. Прежде всего – чтобы престиж науки в стране был достаточно высоким.

Н.В. – Мы этого констатировать не можем?

– Престиж у нас существенно снизился по сравнению с советским временем или даже с раннероссийским. Причин тому несколько. Одна из них – мы живем в другой формации. Если раньше лучшие выпускники школ шли в университет, лучшие выпускники университетов шли в академические институты – это было максимально престижно. А дальше – работай, вкалывай, и ты добьешься всего. А сейчас так много других траекторий успеха. Кто-то мечтает стать выдающимся деятелем шоу-бизнеса – а чем плоха профессия?..

В нашей семье возникают дискуссии в последнее время: одна из внучек делает успехи в фигурном катании. Встает вопрос: для того, чтобы дальше специализироваться, нужно, чтобы она шла в спортивную школу и росла в этом направлении. Но мы все из науки, и родители ее тоже работают в университете... С другой стороны, разве карьера спортсмена – не достойная? Конечно, достойная, занятия спортом развивают прекрасные человеческие качества.

Есть еще траектория – политика, которая в наше время более популярна, чем раньше; есть траектория финансиста, банкира, много всего интересного. Поэтому меньше ребят приходит в науку.

Н.В. – Но все-таки мечтают – уже неплохо.

– Мечтают. И одной из задач Российской академии наук должна быть работа со школьниками. Когда приезжаешь в какой-то город, встречаешься с губернаторами, руководством институтов, потом наносишь визит в школу. Вы знаете, насколько искренне ребята ждут таких встреч! Для них это настоящее событие: послушать академика или профессора РАН, которые приезжают к ним пообщаться, прочитать лекцию... Мы интересны им, и этим надо пользоваться. Два года назад мы запустили программу «Школы РАН» – это больше 100 школ в 32 регионах страны, в которых мы хотим целенаправленно начать воспитание будущих академиков, по-настоящему увлечь ребят наукой.

Как российские ученые все звезды пересчитали

Карина П., Москва: «Александр Михайлович, в СМИ только и слышно: китайцы сделали это, американцы открыли то... Почему не слышно о наших ученых?»

– Этот вопрос был ожидаем. Да, действительно надо признать, что сейчас все меньше остается научных направлений, в которых мы можем конкурировать с научными лидерами мира. Как в области фундаментальной науки, так и в области приложений. И мы понимаем, что это существенно определяется нашим экономическим состоянием, тем уровнем финансирования науки, которое у нас есть.

Наверное, уже вся страна знает, мы 20 лет об этом говорим, что у нас на поддержку науки идет всего 1 процент ВВП. В странах – научных лидерах – существенно больше: это и 3, и 4 процента. А если учесть, что ВВП у нас сам по себе не очень большой в абсолютных единицах, то отсюда и получается, что финансирование одного рабочего места в науке (это финансирование складывается из стоимости новых приборов, инфраструктуры, зарплат) у нас в разы меньше, чем в крупных научно ориентированных странах.

А если говорить про Китай, который сейчас ускоренно развивается, то разница финансирования их и наших ведущих ученых отличается почти на порядок. Как можно после этого ожидать от российских исследователей много суперважных результатов, чтобы мы были первыми?..

Н.В. – Есть ли рецепты, как выходить из этого положения?

– Конечно. Мы не одни находимся в такой ситуации. Есть много стран, которые не могут себе позволить выделять большие средства на науку. Эти страны идут по пути расширения и углубления международного научного сотрудничества. И сейчас типично, что фундаментальная наука делается большими международными коллективами. В той области, где ты силен, туда тебя и приглашают. Да, открытие получается мировое, и мы там есть. Это одна из форм существования, на которые мы возлагаем надежды.

Международное сотрудничество дает нам дополнительные возможности. Мы хорошо увидели пользу от такого общения, от открытости научных данных о вакцинах, которыми все делились в ковидный год. Но по многим другим направлениям действительно есть ограничения. Не очень просто бывает входить в международные коллаборации. К сожалению, мы иногда наблюдаем тенденцию, когда наши коллеги говорят: «В России уже мало осталось интересного». В сложившихся экономических и геополитических условиях работать вместе порой бывает очень тяжело, но мы должны понимать, что даже в условиях кризиса дипломатических отношений мы должны находить способы развития такого сотрудничества. Это скрепы между странами.

Н.В. – Где мы все-таки смотримся конкурентно?

– Мы признаем, что наш вклад в мировые достижения уменьшается, но есть ряд направлений, где у нас есть результаты мирового уровня, которыми можно гордиться. Я уже упоминал вакцины...

Еще один результат, который «расцвел» в прошлом году, – это наш космический аппарат «Спектр-РГ», который был запущен с Байконура. Там стоят два рентгеновских приемника, которые непрерывно осуществляют мониторинг всего неба в рентгеновском диапазоне частот. Есть разные диапазоны: оптический, рентгеновский, инфракрасный. Одни события, происходящие во Вселенной, видны лучше в радиодиапазоне, другие – в рентгеновском, третьи – в оптике. Используя разные методы наблюдения, в целом мы получаем более полную информацию об объекте.

Н.В. – Что ученые лучше видят в рентгеновском диапазоне волн?

– Рентгеновский диапазон связан с экстремальными событиями – когда, например, взрываются различные крупные объекты во Вселенной, когда происходят слияния двух черных дыр и другие мощные энергетические процессы.

Н.В. – И что нового увидел «Спектр-РГ»?

– С помощью высокого пространственного разрешения российского и немецкого приемников «Спектр-РГ» построил карту всего неба в рентгеновском диапазоне, дополнив прежнюю миллионом новых объектов. К слову, для прежних телескопов две рядом расположенные звезды сливались в одну, а «Спектр-РГ» их различает. Думаю, через какое-то время этот успех будет отмечен научными премиями самого высокого калибра. Отмечу, что над проектом работали Институт космических исследований РАН, НПО им. Лавочкина, Федеральный ядерный центр в Сарове, Институт прикладной математики РАН.

Перейдем к другим наукам. Очень хороший результат был достигнут в прошлом году нашими химиками, которые продемонстрировали, чем можно заменить дорогой литий в литий-ионных батареях, которыми мы все с вами пользуемся. Его запасов на Земле осталось не очень много, поэтому ученые всего мира давно исследуют возможности других металлов. Одними из первых получили близкий к внедрению результат исследователи из МГУ им. Ломоносова. Они создали натрий-ионную батарею. Натриевые батареи могут быть потяжелее существующих в связи с тем, что сам металл тяжелее лития, но зато его очень много, и это открывает возможности новой индустрии. Россия здесь в тренде.

В последнее время тема аккумуляторов активно обсуждается в связи с темой разработки аккумуляторов на водороде, так называемых водородных топливных элементов. Здесь мы тоже имеем очень хорошие результаты. К ученым приходят солидные инвесторы, чтобы вместе строить заводы по производству.

Н.В. – Чем привлекателен водород?

– Вообще-то, когда-то на водороде летал «Буран», его двигатели были мощнее, чем те, которые работали на углеводородном топливе. Сегодня в Европе и Японии на водородных двигателях ездят автомобили и поезда. Сейчас об этом элементе стали говорить громче в связи с климатическими проблемами, с тем, что в будущем нужно переходить на безуглеродную энергетику и стремиться к карбононейтральной экономике. Если введут трансграничный углеродный налог в соответствии с Парижским соглашением, это будет грозить потерями нашей экономике.

Н.В. – Россия все-таки ратифицировала Парижское соглашение?

– Да, конечно, мы его приняли! Это очень важно. Поэтому переход на водород в качестве источника энергии может стать хорошим выходом из сложившейся ситуации.

Водород может быть абсолютно «зеленым» топливом, не связанным с переработкой углеводородов. Его могут вырабатывать с использованием электроэнергии, полученной солнечными батареями или ветряками.

Когда мы говорим о последних достижениях нашей науки, обязательно надо вспомнить наших биологов и геофизиков. В сентябре прошлого года, как вы знаете, произошло печальное событие, которое оказало серьезное воздействие на животный мир, – это экологическая катастрофа на Камчатке. В течение двух недель гибель беспозвоночных в прибрежной зоне была одной из топовых новостей. Многие требовали найти и наказать виновных. Версии выдвигались самые разные: кто-то говорил о следах ракетного топлива, гептила, кто-то о свалках...

Возможно, кого-то и наказали бы, если бы вовремя не включились российские ученые из академических институтов и университетов. Оперативно проверив все возможные гипотезы, они поняли, что человек здесь ни при чем. Процесс инициировала сама матушка-природа: беспозвоночные на Камчатке пострадали от стремительного размножения токсичных микроводорослей, которые появились в результате природного процесса взаимодействия различных факторов в экосистеме Тихого океана. Одним из факторов может быть потепление воды, температура которой была там в прошлом году на 6 (!) градусов выше нормы.

Н.В. – Точным наукам, к которым в последнее время уже относят и биологию, традиционно уделяется больше внимания, чем гуманитарным. Но наверняка и их представители не сидят без дела.

– Великолепные результаты получены специалистами Института археологии РАН по раскопкам в Кремле, в самом сердце нашей страны. В прошлом году им удалось подвести итоги. Все же интересно понять: откуда взялась Москва, кто жил здесь до прихода славян? Известно, что это были финские племена. Но что должно было произойти, чтобы Москва превратилась в столицу? Второй вопрос: когда Москва уже превратилась в центр силы и власти, как происходила эволюция, что было аналогом наших министерств и ведомств? Как все управлялось? Ответы на эти вопросы уже частично дали раскопки в Кремле – и скоро ученые займутся их музеефикацией, созданием на их основе познавательной экспозиции, чтобы все смогли увидеть эти результаты.

Не умрет ли профессия космонавта?

Ангелина, г. Черноголовка: «Добрый день. 12 апреля исполнилось 60 лет полету Юрия Гагарина в космос. Это великое достижение для всего мира, однако теперь я везде читаю: Америка, Илон Маск, Корея, Китай... А куда делись мы? Какие у нас теперь достижения в космосе? Почему о них совсем не слышно?»

– Академия наук подошла ко Дню космонавтики с общим собранием, одна из сессий которого будет посвящена 60-летию полета. Мы делаем эту сессию с Роскосмосом. На ней будет очень много интересных сообщений и по истории вопроса, и по современному научному космосу. Сегодня мы отчетливо понимаем, что его результаты – те же системы дистанционного зондирования Земли, навигационные, телевещательные и метеорологические спутники, – нужны для экономики страны.

Н.В. – И у нас все это развивается?

– Конечно. Может, не вся информация доходит до людей.

Н.В. – А полеты на Луну нам нужны?

– Наш аппарат «Луна-24» последний раз садился на Луну в 1976 году. С тех пор мы Луной не занимались. После серии успешных пилотируемых миссий США все дальнейшие полеты к ней – как с нашей стороны, так и с их – были заморожены. Долго ходили разговоры о Марсе, о полетах на астероиды и к дальним планетам, «Хаббл» присылал новую информацию... Пока, лет десять назад, о Луне опять не заговорили с большим интересом – после открытия воды под ее поверхностью. Появились серьезные программы у США и у Китая.

Я бы подчеркнул, что важным катализатором процесса стал именно Китай. Он очень быстро развивает космические технологии, демонстрируя нам, что он уже не ученик, а лидер. Его прошлогодняя посадка аппарата на обратную сторону Луны и получение уникальной информации с развернутых там приемников – это выдающееся событие в научном космосе. Обратная сторона Луны идеальна и для наблюдения за Вселенной, потому что туда не проходят многие шумы от Земли в разных диапазонах длин волн.

В США, как я говорил, тоже есть программа возвращения на Луну. Причем уже даже не с позиции научного освоения, а с экономическими прикидками на будущее, колонизацией, изучением возможностей создания из лунного реголита строений и использования Луны как плацдарма для дальнейшего продвижения в космосе.

Н.В. – Насколько я знаю, точных данных о наличии полезных ископаемых на Луне нет, только гипотезы...

– Зато точно доказано, что есть вода. Вода есть жизнь. Луна в этом смысле очень интересный объект. Она, как известно, не имеет атмосферы – эдакого защитного зонтика, который избавляет нас от множества метеоритов. Потому все, что прилетает, падает на ее поверхность, как когда-то, возможно, падало на молодую Землю. В этом плане Луна – это зеркало нашей системы, которое с годами не стирает информацию, как Земля. И если мы найдем в лунной воде живые организмы – это, возможно, станет доказательством панспермии (занесения жизни на Землю из космоса), о которой говорят некоторые исследователи. И, кроме того, если воды окажется много, это поможет освоению ее людьми.

Есть еще один момент, который подталкивает нас активней возвращаться к лунной программе, – политэкономический. Все мы знаем, что насчет Луны у нас с американцами и еще рядом стран имеется договор о том, что никакая национализация ее территории или ресурсов с чьей-либо стороны недопустима. Однако американцы вдруг меняют правила – заявляют, что склоняются считать лунную территорию, на которой они создадут свою базу, территорией США. Это очень спорный вопрос, который требует подключения специалистов по международному космическому праву.

Н.В. – Все виды исследований сегодня можно проводить с помощью автоматов. Востребована ли станет в будущем профессия космонавта?

– Профессия космонавта – героическая. И она останется навсегда, потому что человека заменить роботами во всем будет очень сложно. Но мы должны понимать, что при хорошем уровне автоматизации, переоценке стоимости человеческой жизни в неизведанные миры надо вперед пускать роботов, искусственный интеллект. Это как в саперном деле: если впереди могут идти роботы-саперы – зачем рисковать людьми? Люди могут прийти позже.

Н.В. – Кстати, о роботах. Сейчас на многих научных площадках идет обсуждение вопроса о возможностях и рисках, связанных с искусственным интеллектом (ИИ). Можно ли во всем пропускать его вперед?

– Действительно, в последнее время во весь рост встал вопрос о доверии искусственному разуму. Мы все являемся свидетелями неудачного внедрения такого интеллекта в медицине. Я имею в виду программу IBM Watson, которую направили на распознавание различных онкозаболеваний, но она стала совершать ошибки, предлагая пациентам недопустимые методы лечения. Программа сейчас снята.

В Европе появился закон о том, что ИИ рекомендуется к использованию только тогда, когда его выводы являются понимаемыми людьми. Появился даже термин «доверенный», или «объясняемый», ИИ. Это и серьезный философский вопрос: можно ли отдавать нашу жизнь в руки машин? Если мы будем допускать их до принятия логически не понимаемых нами решений, то следующему поколению таких машин мы просто обязаны будем отдать все управление нашей жизнью, признав превосходство ИИ.

В итоге все сегодня сходятся на том, что следует допустить ИИ на уровень новых решений, но только тех, что будут доступны нашему пониманию. Мы не должны отпускать искусственный интеллект в свободное плавание – должны подтягиваться в новых знаниях за ним, не допуская его лидерства.

Кому грозит «цифровая деменция»?

Н.В. – С темой ИИ пересекается тема всеобщей цифровизации, в которой многие видят угрозу обезличивания людей. Есть ли идеи, насколько далеко надо допускать цифровизаторов?

– Цифровизация – это вызов человечеству. Ситуация, безусловно, нуждается в серьезном анализе. Я был недавно в РЖД, где руководитель отрасли с гордостью показывал блестящий центр управления всеми процессами в отрасли, всей инфраструктурой! Это тысячи поездов и сотни тысяч работников! И там все цифровизировано. Это не просто удобство работы и управления – это повышение качества обслуживания. Сегодня опоздание любого поезда на пять минут – это уже «красная лампочка» для руководства. Именно «цифра» позволяет доводить качество услуги до такого высокого уровня. В свою очередь, высокий уровень цифровизации обеспечит дальнейшее научно-технологическое развитие отрасли – например, создание системы высокоскоростного железнодорожного сообщения.

С другой стороны, у цифровизации, безусловно, есть и минусы, которые касаются опять же качества нашей жизни. Особенно быстро все это проявило себя в прошлом году в связи с ковидом, при котором многие перешли на дистанционный режим работы.

Цифровизация – прогресс, но мы должны понимать, что во всем должна быть мера. Огромные биты информации, которые предоставляет нам цифровое пространство, приводят к так называемой «цифровой деменции» (digital dementia). Этот новый термин, появившийся у психологов, означает расстройство, при котором человек проявляет признаки слабоумия вследствие чрезмерного потребления информации и непрерывной жизни в виртуальном пространстве. Особо сильный вред это может нанести детям.

Н.В. – Как вы относитесь к социальному рейтингу, введенному в Китае, согласно которому человеку изначально присваивается определенное количество баллов; за всевозможные нарушения правил – перешел дорогу в неположенном месте, не проголосовал за «правильного» политика... – эти баллы начинают уменьшаться (или повышаться при правильном поведении)?

– Китай – это своеобразное общество, цивилизация, которая за короткое время совершила прыжок на полтора века вперед. Сейчас трудно оценивать их социальный рейтинг: хорошо это или плохо для их общества, окрыленного идеей. Они почувствовали, что великолепная организация дает мощное преимущество, в том числе и за счет цифровизации. Одно понятно – что мы такое новшество подвергаем сомнению: мы все-таки больше европейцы, которым свойственно европейское мышление, базирующееся на индивидуальности личности. Обезличивание же человека, сведение его уникальности к набору цифр может привести к унификации людей. А чем это обернется для того же Китая в будущем, никто сказать пока не может.

Трудно быть первым. Как угадать, набьешь шишек на новом пути или опередишь всех? Гораздо удобнее, на мой взгляд, быть рядом с лидером и иметь возможность учиться на его ошибках. Одно можно сказать сейчас с уверенностью: Китай – это страна, под знаком развития которой человечество будет жить в XXI веке.