http://93.174.130.82/digest/showdnews.aspx?id=73392bdc-4f29-40aa-a95a-8061a810196f&print=1© 2024 Российская академия наук
Зачем роботу нужен аппарат эмоций, как построить систему интеллекта, похожую на живое существо, и по каким принципам работают нервные системы в природе? Об этом нашему корреспонденту рассказал научный руководитель группы AAC-Lab, главный научный сотрудник Института точной механики и вычислительной техники им. С.А. Лебедева РАН, автор книги «Автономный искусственный интеллект» профессор Александр Жданов.
Александр Жданов: «Метод, который я предлагаю, заключается в понимании процесса управления не как аналитического расчёта в виде уравнений, а как организации проб и ошибок с учётом нескольких дискретных множеств информационных элементов» Справка STRF.ru:
Под руководством Александра Жданова в лаборатории систем искусственного интеллекта созданы: Pilot – адаптивная система стабилизации углового движения космического аппарата, ГНОМ № 8 – адаптивная нейроноподобная система управления мобильным роботом с целевой функцией «выработка стереотипов поведения при обходе препятствий», AdCas – адаптивная система управления активной подвеской автомобиля, «Тактик» – прототип адаптивной системы поддержки принятия решений при управлении социальными объектами
Александр Аркадьевич, как вы оцениваете научные достижения в области моделирования нервных систем сегодня? Как скоро искусственный интеллект сможет стать полноценной заменой человеческому?
– Тут имеет место некий обман в постановке задачи. Моделировать мозг особенно никто не хочет. На самом деле, стараются сделать искусственный интеллект так, чтобы он, боже упаси, не походил на человеческий. Нам ведь надо, чтобы он не на себя работал, а на нас, и лучше нас рассчитывал всякие сложные процессы вроде траектории полёта снарядов, решал разные практические задачи. Эта машина по своим свойствам не должна походить на естественный животный мир: не должна хотеть ни спать, ни есть. Поэтому к задачам моделирования нервных систем и понимания, как работает человеческий мозг, «искусственный интеллект» не имеет никакого отношения. Чего хотят люди, создавая механизмы? Облегчить себе жизнь, создать механизированного раба, который будет за нас выполнять работу: грести на галерах, воевать, выращивать хлопок, рубить тростник. Чего хотят люди, создавая искусственный интеллект? Получить интеллектуального раба, который вместо нас будет билеты продавать, пылесосить, водить электрички и т.д.
Я бы хотел сделать машину, похожую хотя бы на жука или на дождевого червя. Это нужно для того, чтобы понимать, как работает мозг. Это первое. Второе: было бы полезно создать машины со своей волей, работающие в областях, где они не были бы нам конкурентами – в шахтах, на других планетах. Причём работали бы они не как рабы, а как живые организмы, жили бы в своё удовольствие, но попутно делали что-то для человечества, меняли окружающую среду, добывали полезные ископаемые, выполняли функции водителей, которые бы не уставали, привыкали к маршруту, частично походили бы на живых, но всё-таки решали не свои, а наши задачи. Интересно было бы отправить такие искусственные организмы жить на другие планеты, откуда бы они собирали и поставляли нам информацию о Земле и Космосе.
Расскажите о вашей авторской концепции искусственного интеллекта. Чем она отличается от других систем управления?
– Вернёмся лет на 1000 назад, мысленно. Населяют Землю люди, животные. И те и другие прекрасно решают задачи управления: летают, ориентируются в пространстве, ползают по веткам, балансируют на четырёх, на двух ногах, цапли стоят на одной ноге. Они общаются друг с другом, учат друг друга, осваивают самые сложные виды движения. Если обезьяна прыгает с ветки на ветку – это же работа сложнейшей системы. И всё это получается благодаря способности обучаться. И люди тоже учатся. Обучение происходит под управлением мозга, нервной системы. Гораздо позже, на каком-то этапе, появляются философствующие люди, они умнеют, появляется наука, сначала метафизика, математика, затем физика. Совсем недавно появились уравнения Ньютона. Камень, брошенный с Пизанской башни вниз, оказывается, ускоряется! Придумываются какие-то выражения, способы это ускорение сформулировать – производная, квадратичная зависимость… В природе ничего этого нет, это всё прекрасно работало тысячу и миллион лет назад без всяких уравнений, но вот людям надо это описать, и они придумывают для этого инструменты. Придумали они математику, некоторое количество людей в неё посвящено и что-то там понимают. Постепенно эти яйцеголовые математику развивают, у них получается описать, как камень падает, как он летит по параболе... А математика – это инструмент, некая система образов, которая позволяет описывать и рассчитывать наперёд эти процессы. Математические знания сильно развились благодаря некой маленькой группе людей, которые стали строить машины, системы управления, запускать ракеты.
О чём это говорит? О том, что этот математический, физический инструмент оказался удобным, эффективным и позволяет какие-то задачи решать. Но аппетиты растут. Захотелось людям построить такие системы управления, которые похожи на те, что есть в природе. И тут оказалось, что математики недостаточно, надо учитывать огромное количество факторов, которое этими методами практически невозможно учесть.
Была обоснованная эйфория по поводу того, что удалось рассчитать полёт спутника в безвоздушном пространстве. Но спутник – это математический объект в безвоздушном пространстве, а вот рассчитать движение консервной банки, которая болтается у вас на гвозде возле сарая, не удастся, потому что там надо учесть миллион факторов. И вот сейчас приходит осознание того, что математика не может описать все существующие в природе процессы. Встаёт жуткий вопрос: а как же какая-то там мышь величиной с палец умеет, условно говоря, оценить движение банки, а мы со всеми нашими компьютерами, математиками и академиками не можем?
А ответ в том, что эти нервные системы работают совсем по другим принципам. Там нет никаких уравнений, производных, квадратов...
Работает это всё, скорее, методом проб и ошибок. У природы очень много времени, она может себе позволить пробовать и ошибаться очень долго. Конечно, метода «проб и ошибок» в чистом виде не существует – он всегда как-то организован, связан ограничениями, механизмами, которые что-то аппроксимируют, направляя этот процесс и т.д.
Это и есть метод, который вы предлагаете в книге «Автономный искусственный интеллект»?
– Метод, который я предлагаю, заключается в понимании процесса управления не как аналитического расчёта в виде уравнений, а как организации проб и ошибок с учётом нескольких дискретных множеств информационных элементов.
Я правильно поняла, что одна из особенностей вашей концепции искусственного интеллекта связана с аппаратом эмоций?
– Все рецепторы выдают импульсы. Рецептор – это такой модифицированный нейрон, который с одной стороны ловит физический импульс, а с другой – выдаёт сигнал. На входе нервной системы стоят такие рецепторы-нейроны, которые посылают импульсы, и на выходе нашей нервной системы тоже нейроны, дающие нервные импульсы, которые активируют или расслабляют мышцы. Есть множество входных и выходных сигналов, а ещё – множество специальных сигналов, которые образуют эмоциональную информацию.
Есть такой аппарат эмоций. Вот этот метод проб и ошибок надо куда-то направлять, поскольку просто так перебирать всё вокруг с равной вероятностью невозможно. Чтобы этот метод проб в какую-то сторону направить, природа придумала аппарат эмоций, вложив его в каждый организм.
Он отвечает за небезразличное отношение организма к информации. Мы чувствуем, что нам больно или хорошо, не потому что за бортом что-то происходит, это наше внутреннее ощущение. Так алгоритмы работают, нам кажется, что как будто бы больно. Это сделано специально, чтобы заставить организм двигаться от неблагоприятных областей к более благоприятным. Природе плевать, минус сто градусов или плюс сто. А организм испытывает неприятные ощущения. Аппарат эмоций – это на самом деле хитрым образом организованная программа. Возникают сложные оценки, они упорядочены, алгоритмически зашито стремление получать приятное. Те организмы, которым приятно то, что вредно, погибают. Те, кому нравится лезть в огонь, уже давно сгорели. Те, кому нравится растворять себя спиртом или травить наркотиками – те растворятся и отравятся…
Поэтому я считаю, что основное отличие нашего метода от других – это построение системы управления на основе специально организованного метода проб и ошибок, который работает на множестве дискретной информации, представляющей процесс управления. И есть среди прочего аппарат эмоций, направляющий этот метод проб в полезную сторону.
У вас в книге есть тезис о противоречии двух базовых потребностей – потребности сохранения жизни и потребности познания окружающего мира, которые вынуждают рисковать, чтобы получать новые знания. Как это противоречие решается в системе адаптивного управления?
– Среди живых существ кто-то решает этот вопрос в пользу информации, кто-то в пользу сохранности жизни, кто-то на грани балансирует. Какие могут быть подходы, чтобы эту грань найти в адаптивной системе? Их три. Первый: работает механизм вывода знаний над знаниями. Некоторые данные система получает в опыте. А дальше экстраполирует полученные знания на будущее. Если с пяти ступенек прыгать, то будет тяжёлое приземление. Это мы знаем из опыта. Значит, если прыгать с десяти ступенек или с крыши, то будет совсем плохо. Это уже экстраполяция. Вырабатывается страх высоты. В аппарате эмоций накапливаются отрицательные оценки. Это первый механизм: накапливать на опыте знания, как прыгать с лестницы, а дальше экстраполировать туда, где в базе знаний накопленной информации уже нет. Второй механизм, ограничивающий возможное саморазрушение в процессе получения знаний, связан с родителями, учителями. В детей лет до 20 вколачивают: это нельзя, то нельзя. Дети не очень этому верят. А те, которые верят родителям безоговорочно, тоже неправы, потому что и родители могут ошибаться. Но мудры те дети, которые принимают к сведению, то есть включают в свою базу знаний, и эту информацию. В-третьих, живой организм – это не индивид, а вся колония или популяция. Об этом сейчас уже говорят специалисты. Например, Луговской. Он приводит в пример муравейник – один распределённый живой организм. Это не то что у них какая-то матка сидит, отдаёт команды. Нет. Они все – части распределённого компьютера. Этот единый организм управляет их действиями, даёт отдельным муравьям команды. В какой-то момент он может дать команду погибнуть части муравьев, так как, например, из-за перенаселения всем стало плохо. Мне кажется, что такая модель получения знания извне работает.
Вы изучаете принципы работы нервной системы довольно долго. Появились ли у вас предположения о цели существования этих систем?
– Я не знаю, ради чего человек живёт: обучаться ради того, чтобы выжить, или наоборот – выживать ради обучения, накапливания знания. У меня очень сильное подозрение, что мы тут живём для того, чтобы, собрав в течение жизни знания, наверх куда-то в момент смерти их запулить.
Эта мысль – результат прочтения каких-то книг или интуитивное ощущение?
– Думаю, ничего собственного по части информации у нас не бывает. Мы все варимся в информационном поле. Я вообще не претендую на какое-то авторство. Мы все что-то читаем, что-то забываем, что-то вспоминаем. Иногда нам кажется, что это наша мысль, а на самом деле мы вспомнили что-то, что где-то слышали. Кто знает, как у нас мысль появляется в голове? Очень может быть, что мы живём здесь для того, чтобы собирать информацию о чём-то, и стараемся выжить, чтобы эту информацию раньше времени не потерять, а аккуратненько отправить наверх в конце жизни. Вот что мы делаем и ради чего, у меня такое ощущение.