ПРЫГНЕТ ВЫШЕ ГОЛОВЫ. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ БУДЕТ УМНЕЕ НАС

18.01.2019

Источник: Поиск, 18.01.19 Дризе Юрий

---

Виталий ДУНИН-БАРКОВСКИЙ многие годы изучает мозг человека и так далеко продвинулся в этом направлении, что позволяет себе не замечать мучающий многих его коллег вопрос: можно ли идти дальше в исследованиях, если до сих пор неизвестно, как он (мозг) работает? Для собеседника “Поиска” этой проблемы как бы не существует, возможно, потому, что он вплотную приблизился к созданию искусственного интеллекта (ИИ), который, он уверен, буквально перевернет всю нашу жизнь.

Итак, представляем: В.Дунин-Барковский, доктор физико-математических наук, профессор, руководитель отдела нейроинформатики НИИ системных исследований РАН, главный исследователь проекта Национальной технологической инициативы РФ “Нейроморфный искусственный интеллект iPavlov”, президент-основатель Российской ассоциации нейроинформатики, член редколлегий нескольких международных и одного отечественного журнала, первый редактор исследования “На пути к искусственному интеллекту человеческого уровня и выше” международного издательства FrontiersIn, организатор и ведущий Агентства стратегических инициатив рабочих сессий “Котел идей” Нейронет”.

- Виталий Львович, как так получилось, что вы стали заниматься ИИ?

- Будучи еще школьником, я прочел статью выдающегося советского математика Андрея Николаевича Колмогорова о кибернетике и возможности “кибернетического бессмертия”. На собеседовании при поступлении в МФТИ сказал, что интересуюсь проблемой механизмов работы мозга и “умными машинами”, и меня определили в группу радиотехнического факультета. Его базой был Институт точной механики и вычислительной техники, где создавались первые советские компьютеры. На втором курсе вместе с друзьями начал заниматься бионикой у профессора М.Айзермана в Институте автоматики и телемеханики. А в начале третьего курса легендарный профессор Физтеха Ф.Гантмахер порекомендовал десятерых студентов Физтеха члену-корреспонденту АН СССР И.Гельфанду, набиравшему команду в свой теоретический отдел Института биофизики. Мой диплом (1965 год) посвящался одной из первых циклически замкнутых биотехнических конструкций, в которой электроника возбуждала нерв, а сигнал с него активировал эту самую электронику. Результаты диплома опубликовал журнал “Биофизика”. И с тех пор я шел к разработке ИИ, выступая в одном лице как физик, айтишник и нейрофизиолог. Горжусь тем, что в 1968-1975 годы работал у одного из ведущих соавторов А.Колмогорова - Сергея Васильевича Фомина, а в 1990-1995 годах был директором НИИ нейрокибернетики в Ростове-на-Дону. Похоже, что среди коллег в мире, занимающихся данной тематикой, у меня самый большой стаж, - более 57 лет.

Современные успехи в понимании мозга и возможность получения его электронных аналогов связаны с так называемой революцией глубокого обучения, начавшейся в 2012 году и продолжающейся сегодня. Смысл революции - в открытии замечательных “интеллектуальных способностей” искусственных нейронных сетей. Сейчас уже понятно, как устроен мозг, и наш отдел пытается сделать ИИ человеческого уровня.

- Каким он будет? Что сможет делать?

- Инженерно-исследовательская задача звучит так: построить мыслящую машину не хуже нашего интеллекта. Это должен быть компьютер, наделенный видео-, акустическими и тактильными сенсорами (“органами чувств”). Другими словами, он будет видеть, слышать, чувствовать прикосновения, генерировать изображения (“рисовать” и “писать” на экране) и звуки (в том числе “говорить”). То, что мы создаем в качестве “умного” компьютера, укладывается в формулу “адаптивный интегратор ИИ-компетенций”, сокращенно - А3ИК. Адаптивный - значит, приспосабливающийся. Поэтому А3ИК сможет приноровиться к требованиям своих создателей. Наше ноу-хау в том, что разработчики только наделяют А3ИК различными способностями, а не ломают голову над тем, по каким алгоритмам он должен думать. Они возникают в искусственных нейронных сетях (так же, как и в мозге) за счет процессов самоорганизации. Многочисленные эксперименты показали, что если нейронную сеть поощрять за сделанную работу, она сама будет вырабатывает алгоритм того, как этого добиться. (Разумеется, если действие ей доступно.) Также функционируют нейронные сети (мозг) животных и человека.

Искусственные нейронные сети могут переводить тексты и речь с языка на язык, называть предметы и действия на показанных им картинках, побеждать в сложных играх (шахматы, игра Го) и многое другое. Замечу, даже самую развитую человекообразную обезьяну невозможно обучить полноценно пользоваться человеческим языком. Это выше потолка ее интеллектуальных возможностей. Наша идея состоит в том, что мы только интуитивно знаем, что такое интеллект. Поэтому запрограммировать его не в состоянии, но можем оценить разумность определенных действий искусственного агента компьютера. Он получит от нас поощрение только за разумное поведение, обучаясь на примерах. Будет понимать слова и отвечать на вопросы, сможет рассказывать, что сейчас происходит вокруг. В общем, пытаемся сделать так, чтобы он сравнялся с нами. Он сможет интегрировать различные способности - назовем их компетенции, объединенные в одну вычислительную систему. Она будет обладать способностью осознавать себя, быть “разумной”, думающей, решать задачи и сама их ставить. На сегодняшний день мы не видим преград, которые бы помешали нам это сделать.

- У вас масса публикаций. Как на ваши исследования реагируют коллеги?

- Судя по научной прессе, в мире пока никто не объявил о создании ИИ на уровне человека. Хотя занимаются этой проблемой десятки, если не сотни групп исследователей. (Есть, правда, профессионалы, не верящие, что с этой задачей вообще можно справиться.) И, вероятно, кому-то уже удалось далеко продвинуться. Однако они себя пока не обнаруживают, возможно, ожидая подходящего момента. Ставки, как говорится, высоки, ведь речь идет о решении сложнейшей, без преувеличения, эпохальной научно-технической задачи. В 2011 году я писал, что полномасштабную действующую модель мозга человека наша группа представит в 2018-2020 годах. К концу 2018-го мы не успели, но к 2020 году, думаю, сделаем, а если не мы, то кто-нибудь из коллег. Но, повторю, у нас есть все шансы достичь этого первыми.

- Потрясающе! И все же как вам это удается, если мозг, как считают ученые, так до конца и не познан? Неизвестно, скажем, что такое сознание.

- Что такое сознание с точки зрения разработчика ИИ, не очень интересно. Не секрет, что им обладают животные: собаки, кошки, обезьяны. Биологи докопались, что эта способность есть даже у маленького (но знаменитого в науке) червячка Caenorhabditis Elegans, у которого порядка 300 нейронов (это против наших-то миллиардов!). Наша задача не столько досконально изучить работу мозга, сколько разработать интеллектуального партнера для человека, как минимум, ему равного и его понимающего. И если объем мозга человека - а он, безусловно, важен - ограничен размерами черепной коробки, то интеллектуальный “ящик” нашего технологического партнера практически ничем не лимитирован. Поэтому есть шанс, что он будет умнее нас.

Во время работы над ИИ возникла интересная идея, касающаяся человека вообще. Вспомним первые строки Евангелия от Иоанна: “В начале было Слово”. Они и сегодня звучат очень современно. Мозг человека приблизительно в 2,5 раза больше, чем у любого самого развитого гоминида, значит, он и умнее. Но человечество в разы превосходит гоминид. Почему? Примерно 50 тысяч лет назад люди “изобрели” язык. С точки зрения компьютерной технологии, язык - это широкополосный интерфейс между нервными системами, мозгом отдельных людей. Благодаря языку их сообщество образовало как бы “компьютерный” кластер из сотен, тысяч мозгов. Эта особенность речи позволила нам превзойти по интеллекту другие виды в 100, 1000 и более раз. Вывод простой: именно слово, то есть обретение языка, породило человечество в его нынешнем виде. С чисто конструктивной точки зрения можно согласиться с евангелистом Иоанном, что язык, Слово - это Бог, Создатель человечества. И эту “волшебную” силу языка мы используем в ИИ.

Нельзя не сказать о роли нашего великого соотечественника Ивана Петровича Павлова в понимании механизмов мозга. Открытие и исследование условных рефлексов фактически предвосхитило “революцию глубокого обучения”. Павлов высказал догадку, что мириады условных рефлексов могут обеспечивать разумность животных и человека. Уже в 1920-1930-х годах это вызвало восторг у выдающегося мыслителя XX века Бертрана Рассела. Наша группа в 2015-2016 годах сформулирована так называемый принцип Павлова. Он кратко описывает процессы, обеспечивающие, как уже было сказано, интеллектуальные способности естественных (у всех животных, включая человека) и искусственных (“глубокое обучение”) нейронных систем. Павлов первым осознал “конструктивную” особенность человеческого языка как явления, “технически” отличающего человека от животных. Он назвал язык “второй сигнальной системой” человека, фактически ссылаясь на особую (как потом стало понятно и отмечено ранее) его “информационную мощность” как чисто человеческого средства коммуникации индивидуумов. Словом, у нас есть основания гордиться великим соотечественником Иваном Павловым. Не случайно ИИ-проект НТИ назван его именем - iPavlov.

Сейчас нам мало того, что машина уже умеет писать, читать, общаться, - нужен следующий скачок, когда она сможет соображать и решать задачи любой доступной человеку сложности. И этот момент приближается.

- Если машина самообучающаяся и будет умнее нас, не станет ли она опасной?

- Опасность для нашего мира представляют обычно мало что понимающие в естественных и общественных объективных законах “харизматические” идеологи и лидеры. Сегодня уже не надо объяснять, что такое ИИ и зачем он нужен. А еще года три назад все было по-другому. Приходишь к лицу, принимающему решение, и говоришь, что хочешь сделать ИИ. Хорошо, соглашается “лицо”, и в его глазах появляется интерес. Но затем следует обязательный вопрос: он что, будет умным? Умнее меня?! И ни о каких деньгах речь уже не идет.

Что касается возможной опасности, то машинный интеллект надо не только сконструировать, но и “воспитать”. Поэтому мы стараемся прививать ИИ положительные качества, а потом посмотрим, что из этого выйдет. Я выступаю за то, чтобы в обществе было много “ячеек”, создающих и воспитывающих агентов ИИ человеческого уровня. Самое главное - у ИИ будут совсем другие масштабы времени и мышления, он сосредоточится на массе сложнейших задач, с которыми нужно справиться, и не станет ввязываться, скажем, в борьбу за лидерство.

- Что это за задачи? И как в связи с их решением изменится жизнь ученых?

- Ученые определили, что с появлением ИИ на уровне человека или выше возникнет так называемая технологическая сингулярность. Если очень просто, то в данном контексте это означает, что никто не знает, что будет после появления ИИ. Поскольку это абсолютно новое явление, неизвестно, как оно изменит нашу жизнь.

- Вот и я об этом. Он будет за нас думать, а мы постепенно скатимся до уровня червячка, о котором вы говорили?

- Так ведь это мы будем ставить задачи ИИ и осмысливать найденные решения. У нас, скажем, масса медицинских проблем со здоровьем, зависящим, например, от работы желудочно-кишечного тракта. Наверняка ИИ подскажет, что изменить, усовершенствовать, чтобы избавить нас от онкологии и язв или от головных болей, мешающих нам жить. Задач - бесконечное множество. Справиться со всеми даже самые продвинутые ученые не в состоянии, а интеллектуальной машине они будут по плечу. Она разберется в бесконечных загадках Вселенной. Поможет понять, что находится внутри Земли и как зародилась жизнь на нашей планете. Да мало ли что еще! И весь добытый машиной материал можно будет без спешки проанализировать. Так что никакой опасности деградации я не вижу. Главное, чтобы возможности ИИ ничто не ограничивало.

Что действительно придется пересмотреть, так это извечный тезис “время - деньги”. В смысле, что деньги дают власть. И все силы и ресурсы тратятся на то, чтобы ее достичь. А появление ИИ, хотелось бы верить, заставит от этой цели отказаться, потому что главное - это знание. Религия, между прочим, рассматривает его как свет. Вот к нему нам всем и надо стремиться. Нет смысла кого-то догонять и перегонять, не важны победители и побежденные. Если уж соревноваться, то в приобретении знаний. Даже экономика должна стать другой. Сейчас у нее один бог - рост. Мол, экономика должна расти - все остальное приложится. На мой взгляд, это подобно разбуханию раковой опухоли. А что действительно важно, так это эффективность экономики.

- Работая над ИИ, вы не ощущаете себя всесильным творцом?

- Жаль, что вышло из употребления понятие “мудрец”. Иногда мне кажется, что оно относится и ко мне. А если мы, как обещали, не позже 2020 года создадим ИИ человеческого уровня, можно будет сказать, что мудрецы все же встречаются.