О неоднозначных проблемах развития систем искусственного интеллекта (ИИ), обеспечения технологического суверенитета в этой важнейшей области корреспондент «РГ» беседует с научным руководителем Научно-исследовательского института системных исследований РАН академиком Владимиром Бетелиным.

Сегодня искусственный интеллект триумфально шествует по планете, стал практически главным героем нашего времени. Только и слышишь, здесь он намного лучше человека, а там вообще уже его готов полностью заменить. Но вот только что знаменитый программист Линус Торвальдс, «отец» системы Linux, заявил: сегодня ИИ состоит на 90 % из маркетинга и только на 10 % из реальности. И вообще эта шумиха его раздражает. А ранее вы написали, что уровень внедрения нейросетей в экономику гораздо ниже, чем ожидалось. Более того, некоторые несут угрозу безопасности граждан и государства. Почему, Владимир Борисович?

Владимир Бетелин: Торвальдс обратил внимание на, мягко говоря, странную ситуацию, которая сейчас складывается вокруг искусственного интеллекта. Вопрос принципиальный, но пока мало кто хочет его обсуждать. Но давайте для начала проясним, а что вообще такое искусственный интеллект? Есть несколько определений, но на самом деле всё просто — это компьютер с программой. И нас сейчас настойчиво убеждают, что совсем скоро он заменит человека. Но и 10, и 15 лет назад всё было то же самое, но почему-то никто не замахивался на человека.

Но только сейчас ИИ начал демонстрировать свои удивительные возможности...

Владимир Бетелин: Насколько они удивительные, мы еще поговорим. Давайте обратим внимание, кто громче всех кричит, что ИИ сделает человека лишним? Бизнес! А наука как раз очень осторожна. Именно на это указывает и Торвальдс. И в этом вселенском буме суть бизнеса, который всегда ориентирован на максимальную прибыль.

Когда 200 лет назад началась промышленная революция, в помощь человеку появились первые станки, машины, о чём шла фактически речь? Как увеличить прибыль. Потом пришла механизация, затем автоматизация, но человек оставался при деле. Его ресурс для роста прибыли ещё не был исчерпан. Ситуация стала меняться в последние годы. Заметьте, что уже давно практически не слышно по лёгкую промышленность, металлургию и другие отрасли. Они исчерпались с точки зрения роста прибыли, а потому бизнесу неинтересны.

Много не заработаешь?

Владимир Бетелин: И появился новый кумир — «Глобальное информационное общество». А подоплёка была какая? Массовое расширение объёмов рынка компьютеров и полупроводников. Триллионы долларов в новую экономическую деятельность по всему миру — это лозунг США. В 2015 году по решению сената была разработана стратегия развития Интернета вещей. Согласно этой стратегии федеральное правительство должно энергично защищать трансграничные потоки данных путём торговых соглашений и других механизмов принуждения торговых партнёров.

Прошло всего несколько лет, и на авансцену вышла цифровая экономика. Для бизнеса она оказалась настоящей золотой жилой. Суть в том, что очень выгодно торговать сообщениями. Ведь стоимость передачи мегабайта снижалась примерно на 60 % в год. И разрабатывать жилу бросились четыре информационных кита — Facebook (заблокирован в России, принадлежит корпорации Meta, признанной в РФ экстремистской), Google, Amazon, Apple. Их капитал и вся их мощь стоят главным образом на передаче сообщений. Каждое стоит немного, но когда их миллиарды, то деньги потекут рекой! Это суть цифровой экономики. Она вообще не материальна, у вас нет головной боли про урожаи, добычу нефти или газа, выплавку стали.

Понятно, надо только монополизировать передачу сообщений, и прибыль фантастическая!

Владимир Бетелин: Совершенно верно. Но аппетиты растут. Почему бы не пойти дальше, убрать человека, заменив на ИИ? Человек стоит дорого, болеет, спит, требует прибавки зарплаты, условий труда и вообще несовершенен. А ИИ молчит, пашет всю неделю по 24 часа. Идеальный работник. И прибыль диктует очевидный вывод — почему бы человека не заменить на ИИ? А теперь главный вопрос: а насколько это всё реально? Не утопия ли?

Но сегодня ИИ демонстрирует уникальные результаты, обыгрывает человека в шахматы, пишет дипломы, ставит диагнозы, сел за руль автомобиля... Список становится все обширнее.

Владимир Бетелин: Вот про эти «удивительные результаты» нам и говорят постоянно и навязчиво. Но в тени другие «достижения» нейросетей. Например, вы знаете, что разработанная в Москве на базе ИИ диагностическая система «Аида» выдает 13 % ошибок? При 15 миллионах визитов к врачам в год это 2 миллиона ошибок, что почти в 30 раз больше, чем 70 тысяч ошибок медиков по данным Минздрава. В целом же в аналитическом отчёте Федерального центра прикладного развития ИИ Минпромторга говорится о низком уровне использования ИИ промышленными предприятиями и федеральными органами исполнительной власти. Подчёркивается, что он не показал результаты, которые сопоставимы с результатами интеллектуальной деятельности человека и тем более их превосходящие. И что чрезмерный оптимизм опасен, так как приводит к неоправданными ожиданиям, будто бы он позволит решить многие проблемы предприятий, а значит, получить всё ту же желаемую прибыль.

Так что на самом деле может ИИ? Так ли всесилен, как нам рассказывают?

Владимир Бетелин: Как я уже сказал, это компьютер с программой. А сам термин «искусственный интеллект» — это красивый эпитет. Есть сферы, где ему нет равных, а есть, где он ошибается, как в случае с той же «Аидой».

Сейчас ошибается, но если еще поучится, то перестанет...

Владимир Бетелин: В том-то и дело, что природа ошибки заложена в самой сути современных нейросетей. Скажу крамольную вещь, которую знают специалисты, но не любят выносить на люди: сегодня вообще непонятно, как ИИ получает результат!

Действительно, крамола! Но как же его вообще допускают к работе в важнейшие сферы экономики и государственной власти?

Владимир Бетелин: Как я сказал, его внедрение идет не так масштабно, как думали ещё недавно. На самом деле он завоевал вполне определённую нишу, а в некоторых «буксует». Почему? Напомню, что первый успех к нему пришел в игре в шахматы. Напомню, что прежде чем выпустить ИИ в люди, его надо обучить. Причём чем больше вы ему покажете сыгранных человеком партий, тем он лучше обучается. Важно, что на примере этих партий ему формулируют путь к победе, алгоритм выигрыша.

А теперь самое главное. Шахматы в математическом смысле относятся к так называемым конечномерным упорядоченным множествам объектов. Есть доска, фигуры, последовательность ходов, где всё очень сильно упорядочено. Причем число сыгранных партий — «учебных пособий» — хотя и может быть огромное, но все равно оно конечно. То же самое касается и многих других задач, которыми сегодня занимаются ИИ — чтение различных текстов, цифр и т.д. И это для систем ИИ важнейшее условие. Дело в том, что с точки зрения математики конечномерность «ученых пособий» гарантирует, что вы сможете создать правильный алгоритм. Ему можно доверять, он не допускает ошибок.

Иная картина, если объекты, с которыми будет работать ИИ, принадлежат к бесконечномерным множествам. Например, изображения. И когда вы обучаете ИИ их распознавать, то вам в принципе никогда не удастся охватить эту бесконечность. Часть информации все равно остается неохваченной.

Если совсем просто, то бесконечность нельзя засунуть в конечный компьютер. Но с изображениями давно работают — например, ставят диагнозы по рентгеновским снимкам.

Владимир Бетелин: Ставят. Но насколько им можно доверять? Вспомните пример с «Аидой»! Именно про подобные задачи разработчики и говорят, что не понимают, как ИИ получает результат. И идут на уловки. Они сводят бесконечное к конечному, фактически создают эмпирические нейронные сети, которые ошибаются. Причем, когда и как, не знает никто.

Отсюда вывод. Наш мир бесконечен, и человек это понимает, а компьютер — нет, ему никак не объяснить, что такое бесконечность, его «разуму» доступна только конечность. Поэтому заменить в таких задачах человека нейросетью невозможно в принципе. Но сделать из неё мощного помощника, который значительно расширяет наши возможности, намного лучше и быстрее выполняет различные рутинные операции, конечно, можно и нужно.

Однако, например, великий и ужасный Илон Маск обещает, что скоро автономные такси заполонят автотрассы мира...

Владимир Бетелин: Это классическая бесконечномерная задача. Ведь, чтобы выпустить такое авто на шоссе, мы должны сделать цифровую модель водителя, его умений и навыков, а также цифровую модель автомобиля, с которым он взаимодействует, и ещё цифровую модель среды, в которой этот автомобиль движется. Всё в одном флаконе.

Чтобы все это воплотить в ИИ, нужно, как я говорил, бесконечность сделать конечной. А значит, вводить какие-то ограничения — например, это может быть выделенная полоса, дистанционное управление, контролёр и т.д. А представьте ещё гололёд, снег, дождь, туман и массу всяких вещей, что и привносит неопределённости. А как поступит такой водитель, если надо сделать непростой выбор между двумя экстремальными ситуациями? И кто ответит за этот выбор?

Если суммировать, то, повторю, нельзя вообще ставить задачу заменить человека во многих видах деятельности, передоверив это ИИ. Он хорош только в определённом классе задач, о которых мы говорили. Для других, связанных прежде всего с медициной, обороноспособностью, безопасностью человека, он может быть только помощником человека.

То есть нельзя его подпускать к таким «бесконечным» задачам? Словом, ИИ, знай свое место?

Владимир Бетелин: Можно, но при определённых условиях. Во-первых, чётко очертить круг видов деятельности, где ИИ может быть только помощником человека, за которым последнее слово. Во-вторых, надо отказаться от зарубежных эмпирических систем нейросетей, которые сегодня у нас массово используются, а создавать собственные, которые имеют математическое обоснование результата. А значит, им можно доверять. Кстати, такие работы учёные РАН уже начали вместе со специалистами НИЦ эпидемиологии и микробиологии им. Н.Ф. Гамалеи в рамках проекта по созданию персонифицированной вакцины для борьбы с онкологическими заболеваниями.

И последнее. Я не призываю что-то запрещать, а хочу привлечь внимание к важнейшей проблеме, которая по мере развития систем искусственного интеллекта становится всё острее. И требует самого серьёзного обсуждения.

Текст: Юрий Медведев.
Источник: RG.RU.