Председательствует президент РАН
академик РАН Александр Михайлович
Сергеев.
На заседании состоялось подписание Соглашения о сотрудничестве
между федеральным государственным бюджетным учреждением «Российская академия
наук» и компанией «Сахалин Энерджи Инвестмент Компани Лтд.». Соглашение
подписали президент РАН академик РАН
Александр Михайлович Сергеев и главный исполнительный директор компании «Сахалин
Энерджи Инвестмент Компани Лтд.» Роман
Юрьевич Дашков.
х
х х
Академик РАН Александр Михайлович Сергеев назвал имена ученых, награжденных
государственными наградами Российской Федерации:
За большой вклад в развитие науки и
многолетнюю добросовестную работу награждить:
Орденом «За заслуги перед Отечеством»
III
ст. — академика РАН Хабриева Рамила
Усмановича, научного руководителя федерального государственного бюджетного
научного учреждения «Национальный научно-исследовательский институт
общественного здоровья имени Н.А. Семашко».
Орденом Александра Невского — академика РАН Марова Михаила Яковлевича, главного научного
сотрудника федерального государственного бюджетного учреждения науки Ордена
Ленина и Ордена Октябрьской Революции Института геохимии и аналитической химии
имени В.И. Вернадского Российской академии наук.
Орденом
Почета — академика
РАН Базарова Бориса Вандановича,
директора Института монголоведения, буддологии и тибетологии Сибирского
отделения Российской академии наук.
Медалью ордена «За заслуги перед Отечеством» II ст. — академика РАН Сюняева
Рашида Алиевича, главного научного сотрудника Института космических
исследований Российской академии наук.
Орденом Александра Невского — академика РАН Гинцбурга Александра Леонидовича,
директора федерального государственного бюджетного учреждения «Национальный
исследовательский центр эпидемиологии и микробиологии имени почетного академика
Н.Ф. Гамалеи».
Почетной
грамотой Президента Российской Федерации — академика РАН Ильина Леонида Андреевича, почетного президента федерального
государственного бюджетного учреждения «Государственный научный центр Российской
Федерации — Федеральный медицинский биофизический центр имени А.И. Бурназяна».
х
х х
Члены Президиума заслушали сообщение «Искусственный интеллект в контексте
информационной безопасности».
Доклады:
«Безопасность
технологий ИИ». Академик
РАН Игорь Анатольевич Соколов,
директор ФИЦ ИУ РАН, декан факультета вычислительной математики и кибернетики
МГУ имени М.В. Ломоносова;
«Кибербезопасность
в контексте искусственного интеллекта». Академик РАН Арутюн Ишханович Аветисян, директор Института системного программирования
РАН, заведующий кафедрой системного программирования МГУ имени М.В. Ломоносова;
«Человек
и системы искусственного интеллекта». Академик РАН Владислав Александрович Лекторский, декан философского факультета
Государственного академического университета гуманитарных наук;
«Особенности
применения технологий ИИ». Академик РАН Игорь
Анатольевич Каляев, научный руководитель направления ЮФУ;
«Математические
аспекты безопасности ИИ». Профессор РАН Константин
Вячеславович Воронцов, профессор кафедры математических методов
прогнозирования МГУ имени М.В. Ломоносова;
«Проблемы
безопасности ИИ в РФ и исследования, ведущиеся в академии криптографии». Д.ф.-м.н. Александр Михайлович Шойтов,
заместитель министра цифрового развития, связи и массовых коммуникаций РФ,
президент Академии криптографии РФ.
Публикуем тезисы некоторых сообщений:
«Кибербезопасность
в контексте искусственного интеллекта». Академик РАН Арутюн Ишханович Аветисян, директор Института системного
программирования РАН, заведующий кафедрой системного программирования МГУ имени
М.В. Ломоносова.
Доклад
посвящен новым вызовам в сфере кибербезопасности, которые возникли в связи с
широким внедрением технологий искусственного интеллекта (ИИ). Подробно
рассматриваются возникающие угрозы и необходимость разработки сквозных
технологий, обеспечивающих весь цикл создания и эксплуатации систем ИИ с
заданным уровнем доверия. Доклад посвящен также организационным моделям
создания и развития соответствующих технологий на примере Центра доверенного
ИИ, созданного в ИСП РАН. Победа в конкурсном отборе по поддержке
соответствующих исследовательских центров стала для института одним из главных
событий 2021 года. Конкурс проводился в рамках федерального проекта «Искусственный
интеллект», который курирует Минэкономразвития России. В числе партнёров Центра
доверенного ИИ ИСП РАН — МФТИ, Сколтех, МНОЦ МГУ, Мехмат МГУ, Университет
Иннополис, ННГУ, ИП РАН, МСЦ РАН, АО «Лаборатория Касперского», ЗАО «ЕС-Лизинг»,
«Интерпроком», «Технопром».
Тезисы доклада:
В
2018 году Президиум РАН принял решение о новом научном направлении «Анализ,
трансформация программ и кибербезопасность». В 2021 году новая научная
специальность ВАК «Кибербезопасность» была утверждена Приказом Минобрнауки
№118. Она охватила такие направления исследований, как анализ и систематизация
уязвимостей, моделирование политик информационной безопасности, угроз и атак,
масштабируемые средства интеллектуального анализа данных и процессов в
распределённых системах и др.
Инструменты
поддержания необходимого уровня кибербезопасности специфичны и зависят от
разрабатываемых систем (традиционных или встроенных); все эти инструменты
требуют адаптации. Однако в связи с появлением и широким внедрением
искусственного интеллекта (ИИ) появились новые принципиальные вызовы, которые
требуют соответствующих фундаментальных результатов и инструментов.
Эти новые вызовы связаны с датацентричностью и
заключаются в появлении новых классов атак — на обученные нейросетевые модели, причём
эксплуатируемые уязвимости могут возникать либо внедряться на всех этапах
жизненного цикла модели. Это атаки
уклонения, кражи конфиденциальных данных и моделей и др.
В связи с этими угрозами необходимы методики их
предотвращения, а также комплекс инструментов, обеспечивающий безопасность на
всём жизненном цикле разработки систем ИИ с заданным уровнем доверия − от
проектирования, сбора и подготовки данных до эксплуатации.
Долгосрочное развитие данной области науки, создание
соответствующих методик и инструментов возможно только с помощью совместной
работы академического сообщества, индустрии и государственных ведомств.
* *
«Человек
и системы искусственного интеллекта». Академик РАН Владислав Александрович Лекторский, декан философского факультета
Государственного академического университета гуманитарных наук.
Сегодня человек живёт в особом, никогда
раньше не существовавшем мире, в котором созданные им самим технологии ИИ
заставляют его по-новому жить, иначе понимать самого себя, в мире, в котором возникают
новые возможности и новые угрозы, в котором вопросы, обсуждавшиеся философами
веками, требуют нового осмысления и, не переставая быть теоретическими,
становятся жгучими практическими проблемами.
1. Возникновение
разработок в области ИИ побудило многих исследователей попытаться понять
естественный интеллект на основании вычислительных моделей, разработанных в
исследованиях по ИИ. Так возникла когнитивная наука, развивающаяся на
протяжении 50 лет, в которую вошли когнитивная психология, когнитивная нейронаука,
когнитивная лингвистика, философия познания и сознания. В рамках когнитивной
науки было сделано немало, при этом за 50 лет в ней существенно менялись
подходы и концепции. Вместе с тем эта наука продолжает оставаться ареной
больших дискуссий по принципиальным проблемам, прежде всего по вопросу о
возможностях и границах вычислительного подхода в понимании рациональности,
познания, психической жизни и работы мозга. Главный из дискуссионных вопросов —
вечный философский вопрос о характере и природе сознания, человеческой
субъективности, свободы выбора, понимания и творчества, вопрос о природе норм —
логических, познавательных, моральных, правовых, о взаимоотношении сущего и
должного, ибо из того, что нечто существует, не следует, что это должно быть.
Сами по себе вычислительные модели этих вопросов не решают.
2. Ускоряющееся
использование систем ИИ во всех областях жизнедеятельности — в информационных
технологиях, в экономике, в оборонном комплексе, в культуре, в образовании, в
человеческих отношениях создало новые колоссальные возможности и вместе с тем
породило ряд проблем, несущих угрозу тем ценностям, принятие которых делают
человека человеком.
Это
прежде всего ценность индивидуальной автономии, свободы выбора, понимание
человеком смысла своих действий и вытекающая из этого ответственность за
результаты. В том случае, когда искусственная интеллектуальная система
рекомендует человеку определённые действия и к тому же, когда он не может
понять, на основании чего даётся такого рода рекомендация (и система не
понимает сама себя), он перестаёт воспринимать себя в качестве самостоятельной
личности.
Возможность
обработки больших данных с помощью ИИ и выявление таким путём эмпирических
корреляций ставит вопрос о будущем научных исследований: высказываются мнения о
том, что в этих условиях больше нет необходимости ни в гипотезах, ни в теориях,
ни в экспериментах. Обнаруженные корреляции дают возможность предсказания без
выявления причинных зависимостей, без объяснения и понимания.
Использование
систем ИИ в собирании и обработке персональных данных взламывает границу между
приватным и публичным пространством, создаёт возможность для манипуляции и
управления поведением.
Всемирная
информационная сеть и «Интернет вещей» ставят проблему границ индивидуальности
и сохранения этих границ. Юристы обсуждают вопросы о возможности наделения
правосубъектностью систем ИИ и о т.н. «машиночитаемом» праве, которое
становится не понимаемым не только обычными гражданами, но и специалистами.
Словом,
сегодня мир столкнулся с проблемой «дегуманизации». Исторически считалось, что
именно разум, рациональность отделяет человека от животного. Сегодня в лице
систем ИИ человек имеет дело с такого рода рациональностью, которая нередко ему
чужда, в ряде случаев о непонятна и грозит ему лишением фундаментальных
человеческих качеств.
Где
же выход? Он может быть только одним: разработка таких систем ИИ, которые не
враждебны, а доброжелательны в отношении человека, которые будут не хозяевами
человека, а его помощниками. Это значит включение в программы искусственных
интеллектуальных системы моральных норм (т.н. этичный и «доверенный» ИИ). Это
предполагает разработку моральными философами и моральными психологами таких
норм, учитывая при этом, что нормы, принятые в разных культурах, могут в чём-то
различаться, что существуют, например, разногласия в понимании социальной
справедливости, политических свобод и других ценностях.
Иными
словами, разработка и использование систем ИИ ставит человека перед
необходимостью нового понимания самого себя, своих возможностей и границ, перед
необходимостью самосохранения и создания возможностей для саморазвития. Развитие
систем ИИ в острейшей форме ставит главный мировоззренческий вопрос: «Что есть человек?».
* *
«Технологии искусственного интеллекта и безопасность информационного
пространства». Д.ф.-м.н., профессор РАН, Константин Вячеславович Воронцов.
Информационные технологии Интернета, социальных сетей,
поисковых и рекомендательных систем создают не только новые удобства и
возможности для миллиардов людей, но и новые угрозы. Увеличилась скорость
распространения недостоверной информации, лженаучных и конспирологических
теорий, возникли явления автоматической генерации фейков, имитации
общественного мнения с помощью ботнетов, образования информационных пузырей,
маскировки пропаганды под видом инфотеймента. Эти и другие явления становятся
сегодня инструментами политики постправды, направленными не только на
манипулирование общественным мнением по отдельным вопросам, но и на ведение
информационных войн, искажение картины мира и разрушение социокультурного кода
массовых целевых аудиторий.
Противостоять угрозам в информационном медиа-пространстве
невозможно без современных технологий машинного интеллекта, способных
обрабатывать потоки текстовой и мультимедийной информации объёмом сотни
миллионов сообщений в сутки. В интеллектуальном анализе данных стремительно
выделилась новая область исследований — детекция фейковых новостей. К ней
относятся задачи обнаружения обмана, автоматизированной проверки фактов,
выявления противоречивых позиций, несогласия, поляризации общественного мнения,
кликбэйтных (несоответствующих контенту) заголовков, оценивания достоверности
источников. По всем этим задачам в последние годы предложены хорошо
формализованные постановки, собраны наборы данных, проводятся соревнования.
Число научных публикаций растёт экспоненциально с 2016 года, что говорит о
возрастающем интересе к данной области исследований.
В то же время, недостаточно исследованными остаются те
задачи машинного обучения, которые требуют более глубокой гуманитарной
экспертизы: детекция речевых манипуляций, замалчивания и других приёмов
пропаганды; выделение мифологем, идеологем и иных конструктов картины мира;
предсказание психо-эмоциональных реакций и целевых аудиторий воздействия.
Академические исследования в области пропаганды и информационных войн активно
велись в предшествующие десятилетия представителями гуманитарных наук,
практически без использования технологий искусственного интеллекта. Возможности
для результативных междисциплинарных исследований возникли лишь несколько лет
назад с появлением предобученных языковых моделей на основе глубоких нейронных
сетей.
Задачи машинного обучения в данной области структурно
делятся на четыре основных типа: классификация медиа-объекта; классификация
отношения между парой медиа-объектов; выделение, привязка и классификация
фрагмента медиа-объекта; кластеризация подмножества медиа-объектов. Общей
особенностью этих задач является необходимость разметки обучающих выборок
квалифицированными экспертами в области психолингвистики, медиалингвистики,
журналистики, социологии.
Таким образом, мы сталкиваемся с необходимостью
интенсификации междисциплинарных исследований в достаточно узком, но крайне
значимом, классе задач автоматического понимания естественного языка и иных
форм человеческой коммуникации. Формирование размеченных выборок текстовых и
мультимодальных медиа-объектов становится одним из магистральных способов
формализации гуманитарных знаний в этих задачах.
Технологии искусственного интеллекта и безопасность информационного пространства (pdf, 1 Мб)
* *
В
обсуждении приняли участие:
ак. Р.И. Нигматулин, ак. М.П. Кирпичников, ак. В.И.
Стародубов, ак. Г.Я. Красников, член-корр. В.В. Иванов.
х
х х
Члены Президиума обсудили вопрос «Об
утверждении программы работы Общего собрания членов РАН 14-15 декабря 2021 г.».
В рамках Общего собрания членов РАН будет проведена
научная сессия на тему «Роль науки в
преодолении пандемий и посткризисном развитии общества».
х
х х
На заседании рассмотрен вопрос о присуждении премии имени А.Н. Несмеянова
2021 года (представление Экспертной комиссии и бюро Отделения химии и наук
о материалах) члену-корреспонденту РАН Усеину Меметовичу Джемилеву, доктору химических наук Владимиру Анатольевичу Дьяконову,
доктору химических наук Ильфиру Рифовичу
Рамазанову (Институт нефтехимии и катализа — обособленное структурное
подразделение федерального государственного бюджетного научного учреждения Уфимского
федерального исследовательского центра Российской академии наук) — за работу «Новые
металлоорганические реакции, изменившие стратегию органического синтеза». Выдвинуты
академиком РАН В.П. Ананиковым.
На заседании Экспертной
комиссии присутствовали 10 членов Комиссии из 11. В соответствии с
результатами тайного голосования единогласно к присуждению премии имени А.Н.
Несмеянова 2021 года рекомендованы кандидатуры У.М. Джемилева, В.А. Дьяконова, И.Р. Рамазанова.
На заседании бюро Отделения химии и наук
о материалах РАН присутствовали 32 члена Бюро из 48. В голосовании приняли
участие 25 членов Бюро. В соответствии с результатами
тайного голосования большинством голосов (за — 22, против — 3, недействительных
бюллетеней — нет) в Президиум РАН представлен проект постановления о
присуждении премии имени А.Н. Несмеянова 2021 года У.М. Джемилеву, В.А. Дьяконову, И.Р. Рамазанову.
Представленная
работа относится к разработке и применению металлокомплексных катализаторов в
органическом и металлоорганическом синтезе. Выполненные авторами
фундаментальные исследования вносят основополагающий вклад в развитие
новой области металлоорганической химии — химии малых, больших и гигантских
металлокарбоциклов непереходных металлов. Авторами открыто явление
каталитической замены в металлокарбоциклах атомов переходных металлов (Ti, Zr, Hf, Co) на атомы непереходных металлов (Mg, Zn, Al, Ga, B), что позволяет реализовывать
принципиально новую синтетическую платформу для эффективных и технологичных
методов синтеза широкого класса практически важных и ранее неописанных классов
природных и синтетических биологически активных соединений.
Данные исследования подняли
планку отечественной науки на современный международный уровень и хорошо
известны далеко за пределами России.
х
х х
На заседании рассмотрен вопрос о присуждении премии имени С.Ф. Ольденбурга
2021 года (представление Экспертной комиссии и бюро Отделения
историко-филологических наук) кандидату исторических наук Наталье Павловне Свистуновой (Институт востоковедения Российской
академии наук) за исследование «Законы Великой династии Мин со сводным
комментарием и приложением постановлений (Да Мин люй цзе фу ли)» в 4-х томах. Выдвинута
Ученым советом Института востоковедения Российской академии наук.
На заседании Экспертной комиссии
присутствовали 10 членов Комиссии из 10. В соответствии с результатами тайного
голосования единогласно к присуждению премии имени С.Ф. Ольденбурга 2021
года рекомендована кандидатура Н.П. Свистуновой.
На заседании бюро Отделения
историко-филологических наук РАН присутствовали 19 членов Бюро из 26. В
соответствии с результатами тайного голосования единогласно
в Президиум
РАН представлен проект постановления о присуждении премии имени С.Ф. Ольденбурга
2021 года Н.П. Свистуновой.
«Законы Великой династии Мин» — один из
важнейших памятников традиционного китайского права, основа правовой системы
Китая с конца XIV до середины XVII
в., то есть в период наивысшего расцвета собственно китайской культуры. Кодекс,
созданный в 1397 году после векового монгольского владычества и удивляющий
своей разработанностью даже в наши дни, сочетает в себе желание опереться на
домонгольские традиции китайского права с новаторским подходом ко многим
вопросам. Кодекс является не только памятником истории права, но и ценнейшим
источником для изучения повседневной жизни самых разных слоев населения Китая
раннего Нового времени, отраженной в 460 статьях, а также в 405 дополнительных
постановлениях, добавленных в период с 1443 по 1607 гг. с целью учета
изменений, происходивших в стране.
Перевод Н.П. Свистуновой явился первым
полным переводом кодекса на западный язык. Этот монументальный четырехтомник
общим объемом почти в 2000 страниц и более 135 авторских листов, который
готовился более полувека и издавался в течение 22 лет, стал фундаментальным
вкладом в мировую синологию и вошел в число редчайших мировых рекордов
отечественного востоковедения. Перевод также удачно устраняет лакуну между
полными переводами предшествующего — танского (VII-X вв.) и последующего — цинского (XVII-XX вв.)
законодательств, выпущенных ранее российскими учеными (В.М. Рыбаковым в
1999-2008 гг. и А.Л. Леонтьевым в 1781-1783 гг. соответственно).
Выход в свет осуществленного Н.П.
Свистуновой перевода «Законов Великой династии Мин» — одно из крупнейших
событий в истории отечественного китаеведения, редкий и замечательный пример
получившего успешное завершение проекта, которому суждено стать основой
множества работ по истории, праву и в целом культуре традиционного Китая.
х
х х
На
заседании рассмотрен вопрос о присуждении
премии имени М.И. Хаджинова 2021 года (представление Экспертной комиссии и
бюро Отделения сельскохозяйственных наук) кандидату сельскохозяйственных наук Юрию Владимировичу Сотченко, доктору
сельскохозяйственных наук Николаю
Алексеевичу Орлянскому, кандидату биологических наук Елене Федоровне Сотченко («Всероссийский научно-исследовательский
институт кукурузы») за научно-исследовательскую работу «Создание и внедрение в
производство раннеспелых гибридов кукурузы, позволивших расширить зону
возделывания кукурузы на зерно и производство высокоэнергетического силоса». Выдвинуты
Ученым советом федерального государственного бюджетного научного учреждения «Всероссийский
научно-исследовательский институт кукурузы».
На
заседании Экспертной комиссии присутствовали 7 членов Комиссии из 9.
В
соответствии с результатами тайного голосования большинством голосов (за — 5,
против — 2, недействительных бюллетеней — нет) к присуждению премии имени М.И.
Хаджинова 2021 года рекомендованы кандидатуры Ю.В. Сотченко, Н.А. Орлянского,
Е.Ф. Сотченко.
На
заседании бюро Отделения сельскохозяйственных наук РАН присутствовали 23 члена
Бюро из 32. В соответствии с результатами тайного голосования единогласно в Президиум
РАН представлен проект постановления о присуждении премии имени М.И. Хаджинова
2021 года Ю.В. Сотченко, Н.А. Орлянскому, Е.Ф. Сотченко.
Авторами
создано 86 гибридов кукурузы. Наибольшее
использование в производстве имеют ультрараннеспелые гибриды Нур, Машук 150 МВ,
Машук 140, Биляр 160, К 140, Байкал, Воронежский 58 МВ, Воронежский 160 СВ,
Каскад 166 АСВ, Машук 170 МВ, Машук 171, Катерина СВ, Машук 175 МВ, Машук 185
МВ, Воронежский 175 АСВ, Каскад 185 МВ и среднеранние Ньютон, Машук 220 МВ,
Машук 250 СВ.
Представленные гибриды созданы с
использованием оригинальных линий, отселектированных авторами работы. Созданные
линии и гибриды отличаются быстрой отдачей влаги зерном при созревании выровненности
посева, высоким прикреплением початка, что особенно важно для раннеспелых
гибридов. Большинство гибридов отличаются повышенной холодоустойчивостью и,
благодаря этому, возможно высевать в ранние сроки при температуре почвы 6-8°,
что позволяет максимально использовать зимне-весеннюю влагу.
Раннеспелые гибриды пригодны для повторных
посевов для получения двух урожаев в условиях юга и особенно на орошении или
достаточной влагообеспеченности. Работа по селекции и семеноводству раннеспелых
гибридов кукурузы для нашей страны имеет особое значение.
Кукуруза, как высокоурожайная культура,
превышающая другие зерновые по урожайности более чем в 1,5 раза, перспективна
при использовании раннеспелых гибридов, которые позволят увеличить площадь
посева кукурузы в регионах с ограниченным периодом вегетации и произвести 25
млн. тонн зерна, и при возделывании на силос получать высокоэнергетический
корм.
х
х х
Члены Президиума обсудили и приняли
решения по ряду других научно-организационных вопросов.