Искусственный интеллект требует доверия – Конгресс молодых ученых
09.12.2021
«Искусственный интеллект зародился не сегодня, прошли десятилетия с момента как появился сам термин. Но последнее десятилетие действительно отмечается взрывной рост его внедрения, и это связано с рядом факторов в развитии технологий. Мне как человеку, который всегда занимался компиляторными технологиями, кибербезопасностью, высокопроизводительными вычислениями, большими данными очевидно, что укрощение «больших данных» без технологий ИИ практически невозможно. Единственно, не нужно вдаваться в оптимизм, нужно взвешенно и долгосрочно думать, как развивать технологии», - в ходе выступления на сессии Искусственный интеллект на Конгрессе молодых ученых заявил Директор, Институт системного программирования им. В.П. Иванникова РАН, академик РАН Арутюн Аветисян.
По его мнению, уже нет такой отрасли экономики, куда не начал бы внедряться ИИ, так как это единственный способ конкурентоспособно развиваться. В связи с этим перед учеными встают новые задачи. «Уже не отрасли экономики, а страна в целом зависит от того, какие это технологии. Соответственно, они должны быть не только качественными, но и доверенными. Это серьезная проблема, которая обсуждается на мировом уровне – 30-40%, иногда и больше публикаций связано с Trust AI – то есть доверенным ИИ», - сказал Арутюн Аветисян.
Академик РАН считает, что Россия не отстает в этом процессе. «Мы находимся на передовых позициях, начинается системная работа, финансы выделены, команда создана. Ближайшие 3-4 года готовы ежегодно докладывать результаты. Надеюсь, все это приведет к тому, что появятся соответствующие требования, которые, если нужно – регуляторы оформят в виде ГОСТов. Должна быть гармония между государством, бизнесом и научным академическим сообществом. И роль регулятора очень важна. Потому что если мы скажем, что можно использовать все – это плохо. Если зарегулируем – не сможем двигаться вперед», - подчеркнул Арутюн Аветисян.
Александр Крайнов, директор по развитию технологий искусственного интеллекта компании Яндекс, уверен, что человечество подошло к очень важному рубежу: «Сейчас думают о том, не навредит ли применение ИИ, а я полагаю, что ситуация развернется, и начнут оценивать, какой вред мы сейчас получаем от того, что не внедряем технологии». Еще один важный этап – как сделать так, чтобы модели начали взаимодействовать друг с другом. «Если говорить про науку, сейчас все алгоритмы, все нейронные сети мы обучаем с нуля. Модели практически никак не взаимодействуют друг с другом, нет всего того, что у людей называется обществом. Люди развиваются благодаря тому, что находятся в обществе, а все наши модели абсолютно изолированные. Надеюсь, в какой-то момент времени мы получим совершенно другого порядка рост технологий ИИ за счет того, что модели начнут гораздо больше взаимодействовать друг с другом», - сказал Крайнов.
По мнению Максима Федорова, ректора Научно-технологического университета «Сириус», нельзя недооценивать последствия повсеместного внедрения ИИ: «Как инструмент я использую те технологии, которые сейчас называются искусственным интеллектом, с 90-х годов. Последние несколько лет я углубился в социо-экономические и культурные гуманитарные вопросы, связанные с внедрением этих технологий, потому что почувствовал, что мы несем ответственность за те риски, - глобальные, социо-гуманитарные, которые эти технологии несут. Они сейчас изменяют все наше общество. Именно поэтому я активно работаю в направлении этики ИИ, регулирования, потому что нельзя закрывать глаза на то, что несут эти технологии в плане рисков».
Владимир Максименко, доктор физико-математических наук, профессор АНО ВО «Университет Иннополис», основываясь на своем опыте использования ИИ, считает, что уже сегодня надо задуматься о том, насколько, в какой степени можно доверять решениям, которые принимает ИИ, особенно в медицине. «Об этом сейчас беспокоятся во всем мире – как внедрять ИИ в медицину. Ряд проблем можно решить тем, что сделать ассистивные технологии, где окончательное решение не за искусственным интеллектом, а за человеком. Но в случае интерфейса мозг-компьютер такая ситуация не сработает, потому что там решение принимается каждую секунду, поэтому необходимо решить некую этическую задачу», - отметил Владимир Максименко. По его мнению, надо дать зеленый свет ИИ даже в спорных моментах, даже в медицинских.
Максим Еременко, вице-президент – директор департамента развития технологий искусственного интеллекта и машинного обучения ПАО Сбербанк, отметил, что тема применения ИИ в медицине для диагностики заболеваний, определении тяжести их протекания имеет огромный потенциал. «Сейчас огромное количество данных в рамках стационара либо не собирается, либо не обрабатывается должным образом. Именно здесь технологии машинного обучения могут дать огромный прорыв: и с точки зрения экономики этой индустрии, и с точки зрения активного долголетия, а также качества медицинских сервисов. Но попутно возникает страх доверить свое здоровье и жизнь машине. Вопросы этики и интерпретируемости решений все чаще будут возникать. И здесь важен диалог бизнеса, науки и государства. Когда все договариваются о правилах игры – это работает, многие вещи можно делать, объединяя усилия», - сказал Михаил Еременко.