Искусственный и естественный интеллекты, их взаимоотношения и перспективы.
В.А.Коноваленко, Н.Н.Ляшенко
Предисловие редакции. В "Демиурге" довольно часто публикуются материалы, так или иначе связанные с проблематикой "искусственного интеллекта". Продолжая эту тему, редакция намерена опубликовать статью двух действительных членов АТТ (В.Коноваленко и Н.Ляшенко). Статья - результат их совместной работы, ведущейся дистанционно, с применением электронных средств общения. Указанная особенность работы позволила редакции публиковать статью по частям. В этом номере публикуется часть первая, посвященная постановке проблеме.
Часть 1. Современное состояние проблемы.
1. Введение (мотивировка и основные вопросы)
Некий нечетко определенный феномен, называемый искусственным интеллектом, всё больше влияет на все сферы жизни человека. В статье делается попытка дать ему функциональное определение, обсудить вопрос о границах между ИИ и ЕИ, а также эскизно описать некоторые футурологические сценарии. Для анализа мы используем новейшие достижения в области информатики, теории систем и социальной психологии.
2. Что такое ИИ с точки зрения эволюции
Рассмотрения будут вестись с общеэволюционной точки зрения. Эволюция может быть рассмотрена как некая теория гомеостатов.
Человек является гомеостатом, состоит из гомеостатов, является частью гомеостатов, взаимодействует с гомеостатами, зависит от гомеостатов и создает гомеостаты.
Важный случай гомеостатов - "детерминированные системы", т.е. такие объекты, у которых сохраняется определенное соотношение между входом и выходом.
Если мы хотим сделать плохой гомеостат хорошим, мы можем изучить "дефицит гомеостатичности" и присоединить к исходному гомеостату детерминированный объект, сохраняющий "компенсирующее" отношение.
Такие объекты могут быть любого уровня изощренности - от куска материала с низкой теплопроводностью (одежда) до обратных связей в электронной аппаратуре.
Человек с давних времен строит гомеостаты таким способом и тем самым совершенствует себя как гомеостат. Техника - один из результатов этого процесса.
Замечание 1. Не забудем о двух (довольно тривиальных) обстоятельствах:
1) любой гомеостат не может быть гомеостатом во всех отношениях: если ни один из параметров объекта не меняется, то он не взаимодействует с окружающей средой, и, следовательно, не наблюдаем;
2) если под гомеостатом понимать лишь объект, обладающий некоторым инвариантом (т.е. он является гомеостатом только в некоторых отношениях), то любой объект является гомеостатом, т.к., например, он подчиняется законам физики, а они и есть утверждения о некоторых инвариантах.
В силу этого, строго говоря, не имеет смысла делить объекты на гомеостаты и негомеостаты. Правильнее говорить о гомеостатических свойствах произвольных объектов.
Устойчивая структура - это группа объектов, обладающая инвариантом, которого нет у отдельных частей. Особый вид взаимодействия объектов, который представляет для нас интерес, - это так называемые "информационные" взаимодействия.
Пусть имеются два объекта A и B. Если мы введем меру изменения состояний B и наблюдение покажет, что это изменение велико, в то время как изменение энергии A мало, то мы говорим, что изменение B произошло в основном за счет собственной энергии B, а объект A играл роль триггера, катализатора, управляющего сигнала (и еще 22 синонима). С общей точки зрения A явился носителем информации, управляющей объектом B.
Примером может служить "внезапный" поворот корабля на 180 градусов после получения капитаном приказа по радио. С чисто энергетической точки зрения (не учитывая формы взаимодействия) невозможно объяснить произошедшее ни энергией радиосигнала, ни энергией голоса капитана, передающего приказ в машинное отделение. Это основная метафора, дающая начало (нечетким) понятиям об энергетических и информационных взаимодействиях (или процессах).
Замечание 2. Очевидна условность этого разделения процессов (взаимодействий) на виды из-за произвольности мер. При желании можно вовсе отказаться от дихотомии и использовать чисто количественные характеристики.
Эволюционно и функционально естественный интеллект возник как продолжение реакции с упреждением, которая в чисто механической области весьма развита у высших животных (ср. поединок мангусты и кобры).
Быстрый способ построения систем обратных связей в области информационных процессов - вот суть явления. В силу сказанного ранее вновь возникший (нейро-) механизм это еще один добавочный гомеостат.
Заметим, что необходимость нового механизма была обусловлена тем, что старые исчерпали пределы скорости и функциональной сложности. Затем в некоторой точке эволюции наступил момент, когда моделирующих способностей мозга стало не хватать для адекватной реакции на изменения в окружающей среде (естественной, а еще больше в искусственной).
Инженерная психология располагает огромным количественным материалом, иллюстрирующим этот тезис. Для компенсации этого рода недостатков были созданы компьютеры, и вместе с ними было рождено понятие об искусственном интеллекте.
3. Соотношение между ЕИ и ИИ
Мы стремимся здесь дать не исчерпывающие определения, а установить логический статус понятий, связанных с ИИ. Это позволит проанализировать, какие из ныне обсуждаемых проблем являются содержательными.
Проблемы полезно классифицировать прежде всего по мотивам. Среди мотивов должны быть отсеяны те, которые обусловлены конкуренцией между социальными группами, а не реальными противоречиями между людьми и иного рода гомеостатами. Тем самым мы исключаем из рассмотрения хотя и важные, но не имеющие прямого отношения к нашей теме вопросы.
Далее следует устранить функциональную путаницу в понятиях. Из предыдущего краткого рассмотрения видно, что исходная роль ИИ не содержала в себе конкуренции с ЕИ. Вернее, вопрос о конкуренции здесь имеет тот же смысл, что и вопрос о конкуренции палки с рукой, кровеносной системы с одеждой, очков с глазами и т.д.
С этой точки зрения, по-видимому, ИИ - неточный термин. Это не интеллект, а как раз дополнительный к нему гомеостат. Теперь дадим правильную с нашей точки зрения формулировку нескольких проблем.
1. Насколько быстро новые (суперинтеллектуальные) гомеостаты изменят среду обитания человека до предела, за которым наша стабильность потребует введения гомеостатов нового уровня?
В настоящее время существуют прогнозы, что это произойдет около 2020 г., т.е. скоро. В этом случае перед человечеством встанет трудная задача, поскольку, с одной стороны, речь идет о критериях нашего выживания (т.е. о вопросе, который мы никогда не хотели никому перепоручать), а с другой, - по определению решение невозможно без помощи суперинтеллектуальной части цивилизации.
2. Насколько современная социальная структура соответствует новым гомеостатическим свойствам (и возможностям) цивилизации?
Такие явления, как электронная слежка за людьми и необычайно возросшие возможности дезинформации, показывают, что социальные группы стараются увеличить и без того значительное социальное неравенство за счет использования новых технических средств.
3. Не может ли произойти "дрейф" критерия гомеостатичности у дополнительных гомеостатов (ДГ), в результате чего они окажутся в антагонистическом положении по отношению к homo sapiens? (Это опасность нестабильности.)
4. Не могут ли стать ДГ столь устойчивыми, что мы не сумеем изменить их критерии, когда этого потребуют изменения среды, неблагоприятные для homo sapiens, но безразличные (и, быть может, даже благоприятные) для ДГ? (Это опасность стабильности.)
5. Сможем ли мы сделать ДГ достаточно автономными, с тем чтобы избежать быстрого увеличения сложности управления ими? (Опасность зависимости ДГ.)
6. Не станут ли ДГ слишком независимыми, что может привести к такому распределению ресурсов во всей системе, что ДГ превратятся в самоцель? (Опасность независимости.)
7. Каковы возможные последствия внедрения новых методов быстрой адаптации в результате уже появившейся рефлексии ДГ (т.е. архитектуры, при которой ДГ хранит внутри себя упрощенную модель окружающей среды и самого себя)?
Грубость модели и непредсказуемость самомодификации критериев усугубляет негативные потенции, упомянутые в 3-6.
Аналогичным образом можно переформулировать другие активно обсуждаемые проблемы, делая акцент на более детальной локализации противоречий и тенденций в структуре взаимодействующих гомеостатов. Это проблемы экологии, роли науки и техники в обществе, узкой специализации и отчуждения, а также биологического будущего человека и человечества.
Предварительные выводы. Уже из беглого рассмотрения ясно, что
1) вероятность упомянутых негативных событий весьма высока; 2) диапазон возможностей у тех, кто будет искать выход из положения, довольно узок.Прежде чем переходить к менее тривиальным выводам, рассмотрим два дополнительных вопроса:
1) Каковы важные гомеостаты, не упомянутые нами? 2) Каковы мнения футурологов о затронутых нами вопросах?4. Дополнительные участники игры
Жизнь в целом является гомеостатом, объемлющим человечество. В ее сложной и внутренне конфликтной структуре можно выделить подсистемы, важные для нашего анализа. В первую очередь это гены.
Существует крайняя точка зрения, по которой весь растительный и животный мир, включая человечество, - это только среда для борьбы и развития генов.
Как бы ни относиться к этой идее, совершенно очевидно, что человеческая культура признает ее правомочность, ибо во многих случаях положительно оценивает биологические жертвы в пользу вида.
Различные подгруппы животного и растительного мира составляют набор важных гомеостатов. В дополнение к хорошо известным исследованиям экологического характера, проясняющих роль животного и растительного мира, отметим колонии микроорганизмов, систематически модифицирующих нашу иммунную систему. Типичный представители - мигрирующие колонии вирусов.
Важным для нас типом гомеостата являются "мемы". Этот термин был введен Ричардом Докинсом по аналогии со словом «гены» для обозначения размножающихся информационных структур, которые устойчиво поселяются в мозгу человека и изменяют его поведение, заставляя его воспроизводить эту структуру (см. [2 - 8]).
Примерами мемов являются: мелодии, идеи, броские фразы, мода на одежду, приемы ремесел. Точно также как гены размножаются, используя репродуктивные механизмы человека, мемы распространяются переходя от мозга к мозгу с помощью процесса, который в широком смысле можно назвать имитацией.
По мнению Докинса, мемы должны рассматриваться как живые организмы не метафорически, но технически. «Когда вы поселяете плодотворный мем в мой разум, вы в буквальном смысле создаете паразита в моём мозгу, превращая мозг в орудие для размножения мема точно таким же образом, как вирус внедряется в генетический механизм клетки.»
Вся культура основана на меметических механизмах. Появление и всё более интенсивное использование саморазвивающихся программ выводит на сцену еще один тип гомеостатов.
Их действительная роль (в отличие от намерений их авторов) пока не ясна. При широком спектре функций - от компьютерных вирусов до дружественных адаптивных интерфейсов - они по определению обладают плохо предсказуемым поведением.
Трудность задачи формализации критериев приводит к тому, что слишком дружественный интерфейс может легко превратиться (и в ряде случаев превращается) в слишком эффективный вирус.
Перечисленные гомеостаты обладают одной общей характерной чертой: они основаны на информационных взаимодействиях. Часто приходится слышать мнение, что информационные взаимодействия характерны для сложных макросистем, в основном, живых организмов и искусственных систем.
Как показывают исследования в физической онтологии (см. Bohm & Hiley [13] ), это мнение неверно: информационные взаимодействия – характерная черта многих квантовых систем и имеют гораздо более фундаментальный характер, чем казалось до сих пор. Связь между информационным характером взаимодействия и гомеостатичностью имеет фундаментальную основу.
Гомеостаты - это автономные системы в тех отношениях, в которых они поддерживают свои инварианты. Эта автономия, как правило, включает и расходование энергетических ресурсов. В тех случаях, когда это так, взаимодействие гомеостатов в основном заключается в том, что "управляющий" гомеостат изменяет структуру связей внутри "управляемого" гомеостата.
Таким образом, от упрощенной картины, изображающей противостояние ЕИ и ИИ, мы предлагаем перейти к рассмотрению структуры, в которой человечество окружает себя все более многослойной системой дополнительных гомеостатов, причем для этого процесса характерны следующие черты:
1. Мотивом модификации или создания новых гомеостатов, как правило, является неадекватность существующих; 2. Изменения происходят в условиях ограниченных ресурсов и времени (при этом цейтнот не всегда осознается); 3. Иерархия; 4. Дифференциальность.5. Сценарии будущего
Основным предтечей подхода, излагаемого здесь, можно считать изобретателя кибернетики Норберта Винера. Его знаменитая книга «Кибернетика» (см. [12]), в основном, посвящена выяснению роли обратных связей в живых организмах и технических системах (т.е. анализу гомеостатов в нашем понимании).
Судьба этой книги и кибернетики в целом парадоксальна: Винер писал о принципах, единых для биологии и техники, развитие кибернетики привело к противопоставлению этих двух компонент. Сейчас мы как бы возвращаемся к первоначальной точке зрения (неокибернетика?).
Правда, в прогнозах будущего Винер не пошел дальше вопроса об интеллектуальных роботах. О синтезе, по-видимому, говорить было рано. (Социальные последствия развития техники волновали Винера, он много говорил и писал об этом. Особенно это видно в его последней книге «Изобретение», написанной в 1943 г. и опубликованной только в 1993 г.! [14]).
Станислав Лем пошел дальше. Он уже располагал обширным материалом, позволяющим делать кое-какие прогнозы. Они составили основу его книги «Сумма технологии» (см. [10]).
Социальный аспект и противоречивость развития кибернетики занимают значительное место в этом труде. Что особенно интересно в свете нашей темы, Лем уже тогда повернул русло дискуссии в сторону синтеза. Среди прочего, синтетическая часть выступила в описанной им виртуальной реальности.
Сейчас этой темой никого не удивишь. Тогда это был смелый поворот мысли. Работа действительно долгое время шла в направлении создания новой кибернетической среды.
Хотелось бы подчеркнуть, что его основу составляют не экстравагантные черты vurtual reality, как его воспринимает развлекательная индустрия, а подчас невидимая модификация практически всех сфер жизни: это средства передвижения и связи, это новые способы обучения, новые деньги (ставшие по большей части электронными), и, наконец, быт.
Современный дом (по крайней мере американский) – это высокоавтоматизированное кибернетическое сооружение: человек программирует режим отопления, микроволновую печь, стиральную машину, автомобиль, телефон, магнитофон и телевизор, который включается, когда никого нет дома, и записывает на пленку интересные передачи (их можно посмотреть в удобное время).
Значительная часть покупок делается, не выходя из дома через Internet. Всё более в ходу электронные книги – они во многих отношениях удобнее, т.к. в них можно проводить автоматический поиск и запускать «вмонтированные» в них программы.
Перечислять можно очень долго. Пожалуй, Alvin Toffler наиболее явственно описал роль мощного информационного слоя, которым окутало себя человечество. Сюда прежде всего относятся его книги «Шок будущего» (Future Shock) и «Третья волна» (The Third Wave, см. [11]).
Его книги поставили социальный аспект в центр дискуссии: Тоффлер считает, что на смену феодальной (по способу производства – аграрной) и капиталистической (индустриальной) приходит третья формация – информационная, или пост-индустриальное общество. (Так называемый социализм, который пытались построить в ряде стран, это другая сторона того же капитализма. Они имеют одинаковую материальную основу.)
Тоффлер показывает, что кибернетика – не просто усовершенствование нашего инструментария. Она легла в основу нового способа производства, приходящего на смену индустриальному. Если это осознать, то нагнетание страхов вокруг кибернетики кажется совершенно идентичным движению ломателей машин во времена, когда индустриальная эра приходила на смену феодально-ремесленной.
И дело не в том, что опасения не имеют оснований. Опасности реальны. Не обойдется без общественных катаклизмов, болезненной ломки привычек, разорения и гибели людей.
Однако реалистичный план действий заключается скорее в осознании ситуации и быстром приспособлении к ней, нежели в попытке убедить общество вернуться в первобытную пещеру. Тем самым мы приходим к вопросу о преломлении происходящего в сознании людей.
С точки зрения гомеостатического взгляда на вещи здесь важную роль играют мемы (memes), упоминавшиеся выше. В серии книг, посвященных творчеству и позитивному восприятию, профессор Мичиганского университета Михайи Чиксентмихайи предлагает сознательное построение и распространение мемов как способ развития общества.
Он же призывает людей распознавать мемы, сконструированные с целью манипуляции общественным сознанием. (Особенно развернуто эта тема обсуждается в книге [1] «The evolution of Self», название которой можно перевести как «Эволюция Я» или «Эволюция самосознания».)
Этот шаг уже совершенно смыкается с нашей точкой зрения, что кибернетика лишь поставила вопросы, которые гораздо шире ее самой и могут быть решены только путем рассмотрения всей совокупности гомеостатов, вовлеченных в эволюцию биосферы.
Интересна с этой точки зрения работа профессора Рэя Курцвейля (Ray Kurzweil) «Век духовных машин» [9] (конечно, имеется в виду 21-й век). В его мастерски написанной книге делается много смелых прогнозов о будущем вплоть до конца 21-го века.
Так, прогнозируя успехи в области биологии, генной инженерии и медицины, автор верит, что люди, живущие в двадцатых годах наступающего столетия, будут иметь среднюю продолжительность жизни порядка 200 лет, так что они смогут дожить до конца столетия.
В конце же столетия технология позволит сделать жизнь бесконечной благодаря полной заменяемости всех соматических компонент, включая мозг. Несмотря на сверхфантастическое звучание прогнозов, основные тенденции, описываемые Курцвейлем, прямо вытекают из ситуации, сложившейся к концу 20-го века.
Интегрированность кибернетики и человеческой среды уже достаточно велика и продолжает возрастать. Биология вследствие успехов генетики превращается из чисто исследовательской области в инженерную деятельность с программиским уклоном.
Клонирование переходит к искусственному выращиванию органов с заданными параметрами. Микропроцессоры вживляются в органы, помогая оптимизировать их работу (а также выполняют некоторые социально полезные функции, например, записывая в правительственное досье всё что чувствует и о чём думает гражданин).
Согласно Курцвейлю, взаимоотношения кибернетики и человечества развиваются не в сторону противостояния, а в сторону их слияния. Это не означает отсутствия проблем и негативных тенденций, а лишь то, что такого рода проблемы должны анализироваться как внутренние для человека и человечества (так же как любой функциональный конфликт между органами при развитии патологии).
Движение коллективной мысли о будущем человечества и кибернетики идет в сторону всё более целостного описания и понимания проблемы. В этом плане наша точка зрения – естественное продолжение тенденции. Ее можно кратко сформулировать в пяти пунктах:
1. Проблемы кибернетики и ИИ следует рассматривать как частные случаи более общей проблемы управления эволюцией гомеостатической системы, в которую включен человек.
2. Совершенно недостаточно ограничивать анализ только инфосферой или социосферой, или биосферой. Такое ограниченное представление проблем приводило и будет приводить к искаженному пониманию сути вопросов и спектра возможных решений.
3. Многообещающие решения лежат «поперек» гомеостатических слоев, например они могут содержать связи МОЗГ – КОМПЬЮТЕР – МЕМЫ – БИОСРЕДА – СОЦИОСРЕДА и т.п. Такой взгляд открывает новые пути в изобретательской деятельности, стирая грань между техническим и социальным изобретением.
4. Дополнительный прогресс в понимании ЕИ, по-видимому, может быть достигнут в результате анализа мозга как элемента в более сложной структуре гомеостатов. По мере накопления информации нейрофизиологами и психологами становится ясно, что мозг, во-первых, - распределенная система, во-вторых, - он не является, как думали раньше, средоточием всех ментальных процессов, а лишь в лучшем случае координатором и преобразователем информации. (В этом плане временные прогнозы д-ра Курцвейля могут оказаться ошибочными, т.к. весьма вероятно получение исследовательских данных, которые радикально изменят наш взгляд на ментальные процессы и тем самым задержат выполнение оптимистической программы переписывания и воспроизведения психических состояний на носителях компьютерной памяти.)
5. С точки зрения перспективности исследований, многообещающим представляется изучение принципиальных ограничений на поведение многих взаимодействующих гомеостатов. Возможно, кибернетике пора начать играть роль «рефлексии второго порядка», моделируя весь гомеостатический мир в целом (или по крайней мере большие гомеостатические системы). Менее фундаментальными, но практически интересными могли бы оказаться исследования определенных типов гомеостатов, не подвергавшихся ранее детальному изучению, например, мемов. Эта линия смыкается с анализом социальных проблем, поскольку процессы общественного управления в большинстве своем меметические.
Литература