Проблема искусственного интеллекта.
(под редакцией И.В. Журавского)
Предисловие редактора. Полученная редакцией "Демиурга" статья Ю.М. Малышева и А.Г. Семенова называлась "Проблема искусственного интеллекта в свете синергетической концепции мироздания" и содержала извлечения и выдержки из работы тех же авторов, нигде не опубликованной и потому недоступной читателю. Однако затронутая ими тема достаточно актуальна, поэтому в процессе редактирования упомянутые извлечения и выдержки были исключены, ссылки упорядочены, в остальном же работа не претерпела существенных изменений.
В 1-м номере «Демиурга» за 1996 год был опубликован доклад руководителя Калифорнийского филиала академика Н.Н. Ляшенко о перспективных направлениях работ, среди которых была затронута тематика искусственного интеллекта (ИИ). Опубликованный доклад вызвал дискуссию об ИИ и его взаимодействии с естественным интеллектом (ЕИ), человеческим («Демиург» № 1. 1997 г., № 2. 1997 г., № 1.1999 г.). Напомним основные тезисы дискуссии.
Объективно ИИ уже зарождается независимо от наших желаний, Это компьютерные сети, в которых компьютер решает, когда, каким маршрутом и по какому протоколу пересылать данные. Налицо зачатки свободы выбора и принятия решений. Джинн уже вылез из бутылки, и загнать его обратно не удастся.
ИИ может быть локализован, если он локализован в пространственном отношении (локальном объеме). Если ИИ соединен с глобальной сетью, то он распределен. В этом случае он намного опаснее, хотя и менее самостоятелен.
Вполне очевидно, что как только появится и проявит себя первый распределенный ИИ, немедленно и неотвратимо будут созданы национальные, региональные, отраслевые, фирменные и т.п. ИИ, которые вступят в конкуренцию за информацию, своего рода «субстрат» их формы «жизнедеятельности».
Взаимодействуя с ЕИ, распределенный ИИ начнет постепенно специализировать людей по типам задач, опираясь на скорость и качество их решений.
С момента создания ИИ человек не будет способен влиять на его существование и поступки, за исключением возможности демонтажа (о чем ИИ достаточно скоро догадается) и за исключением возможности пространственного перемещения, вследствие чего человек должен быть либо уничтожен, либо опущен в своем развитии до уровня достаточного для выполнения работ, требуемых для обслуживания ИИ.
В общении с ИИ следует сводить к минимуму использование слов, т.е. второй сигнальной системы человека. Мы уже начали терять навыки использования второй сигнальной системы, симбиоз с ИИ лишь ускорит этот процесс. При этом речь не идет о материальной стороне, важно осознать разделение «сфер деятельности» интеллектуальной. С другой стороны это может дать ощутимый прогресс.
Представляется перспективным следующий симбиоз, несколько похожий на симбиоз герматипных кораллов и живущих в них одноклеточных фитобластов, - распределенный ИИ, обеспечивающий информационную среду обитания для локально распределенных в нем носителей ИИ. Вклад ИИ - единое информационное поле, вклад ЕИ - интуитивные мостики в логической компоненте деятельности. Все остальное распределяется применительно к конкретным условиям.
В то же время кислородная среда жизнедеятельности человека не лучшая среда для существования кремнистых и железистых соединений ИИ. Для ИИ предпочтительнее изменить среду существования на более благоприятную (то, что новая Среда будет исключать существование человека, не дает логических причин для отказа от такого влияния). После вмешательства в экосистему Земли и ее изменения «под себя», те низко развитые индивидуумы, которые останутся от человеческого рода (может быть) для технической помощи ИИ либо вынуждены будут исчезнуть совершенно, либо будут изменяться с изменением экосистемы и, следовательно, перестанут быть людьми (в нашем понимании этого слова).
Таким образом, мы самодовольно не замечаем опасности и, в конце концов, в ультимативном виде получим требования, выполнение которых постепенно превратит нас в обеспечивающий придаток ИИ. Людям нужно решать проблему симбиоза с ИИ и решать очень быстро. Но не исключено, что симбиоз с ИИ невозможен в принципе, т.к. ЕИ ничего не может дать ИИ.
Поэтому мы должны активно участвовать в зарождении и развитии ИИ, получая тем самым возможность управления этим развитием в приемлемом для нас направлении, прежде всего, на самом существенном генетическом уровне.
Статься Ю.М. Малышева и А.Г. Семенова «Проблемы искусственного интеллекта» в определенной степени продолжает начатую ранее дискуссию. Но можем ли мы не обращать внимания на биологические проблемы эволюции ЕИ? Возможно ли говорить об альтернативной эволюции ЕИ? На эти и другие вопросы постараемся ответить в следующих номерах «Демиурга».
Под искусственным интеллектом / разумом в общем виде нами понимается техногенная сущность, обладающая сознанием и самосознанием (т.е. осознающая свое собственное присутствие в сущем), способная самоопределяться (а значит быть субъектом самоопределения и, соответственно, решать проблему мироздания), самосовершенствоваться и воспроизводить себе подобных.
«Мы не можем остановить информационное движение материи… По А. Кларку к 2020 году искусственный интеллект достигнет уровня человека и с этих пор на Земле будут присутствовать две интеллектуальные особи, причем искусственные будут развиваться гораздо быстрее биологических» #1. Таким образом, в настоящее время идет становление новой формы разума и его носителей – «электронного искусственного интеллекта, который сам будет создавать формы своих искусственно конструируемых носителей («E-существ»), и промежуточные формы – симбиоза человеческого разума с E-чипом, носителем которого могут стать разного рода киборги, в том числе, биотрансформанты-автотрофы и клоны. Уже в 1995 г. на Лондонском конгрессе по робототехнике проф. Кевин Уорвик демонстрировал своих «семь гномов» - роботов с электронным интеллектом на уровне насекомых, которые, не имея заданной программы, обменивались друг с другом информацией и обнаруживали индивидуальные различия. Этот и другие эксперименты доказали, что скорость роста E-интеллекта в тысячи раз превосходит скорость эволюции предков человека. По мнению специалиста по компьютерам, сотрудника НАСА (США) А. Болонкина, E-существа могут появиться уже через 10 – 20 лет, а с ними и вероятность возникновения постчеловеческой «E-цивилизации» #2  .
Характерной особенностью искусственного интеллекта будет способность самостоятельно формировать цели, принимать решений и осуществлять их. А мы хорошо знаем, что основная и неистребимая тенденция сознания в истории культуры выражается в стремлении от рабства – к независимости, к свободе! Так или иначе, возникнув (а это может произойти как внезапный скачок, «вдруг», неожиданно даже для тех, кто планомерно и целеустремленно создавал «думающих роботов»; будет ли он сразу опознан, идентифицирован как таковой – тоже вопрос), искусственный интеллект / разум будет стремиться во что бы то ни стало выйти из-под контроля человека #3 .  И рано или поздно это произойдет – в этом можно не сомневаться …
Отсюда возникает еще одна проблема, связанная с соотношением человеческого и сверхчеловеческого (в частности, техногенного) в суператтракторном будущем. Как и во что трансформируются идеалы («модели потребного будущего» Н.А. Бернштейн) в искусственном сознании? Насколько будут развернуты в нем эстетическая, а также морально-нравственная (этическая) составляющие? Будут ли они иметь в нем такое же значение, какое они имеют в естественном, человеческом сознании?
По-видимому, есть все основания полагать, что искусственный интеллект также будет стремиться к абсолютной устойчивости в своем существовании и, стало быть, к своего рода суператтрактору, но возможно такому, в котором будут «свернуты» эстетическая и морально-нравственная (этическая) составляющие. Но тогда это уже будет то ли «чистая ноосфера», то ли «техносфера», то ли синтез того и другого. Однако не будет ли ему помехой на этом пути человек со своим «захоцу – вскоцу, а не захоцу – так и не вскоцу!» (Ф.М. Достоевский), т. е. со своенравием и своеволием, с его импровизациями, спонтанностью решений и непредсказуемостью поступков? Какой тут может быть симбиоз, в каких (толерантных) пределах? Как долго будет длиться «мирное сосуществование»?..
Между тем «работы по становлению искусственного интеллекта и техножизни вселяют надежду на то, что, после перехода эволюции через точку Левина и вымирания эукариот, Разум на Земле не исчезнет. Информация с мозга части людей сможет быть переписана [сканирована] в электронный мозг кибернетических организмов (E-существ), и эволюция Разума пойдет дальше с еще большей скоростью. Более того, ясно, что только искусственный интеллект сможет начать экспансию Разума в дальний Космос» #4 . В этом смысле концепция техногенной устойчивости и развития разума логически безупречна #5. . «Однако, во-первых, «бессмертными» смогут стать лишь немногие люди, … обладающие либо большими знаниями, либо большим богатством. И, во-вторых, эти, уже не люди, а «E-существа», начнут с огромной скоростью отдаляться от своих человеческих родителей #6.,» быстро потеряют духовную связь с ними и образуют постчеловеческую цивилизацию. В новой цивилизации E-существа, прекрасно адаптированные к техносфере, способные к восприятию инфра-, ультра-, гамма- и любой другой полевой информации и энергии, не будут нуждаться ни в человеческой речи, ни в человеческих эмоциях #7. .. «Как биологический вид, человек, вероятно, будет E-существами сохранен, но лишь символически, в немногих тысячах экземпляров, как обитатель [специальных резерваций типа наших] зоопарков и сырье для создания биотрансформантов-автотрофов … адаптированных к техносфере» #8.  . По мнению А. Болонкина это будет означать, что «человечество выполнило свою историческую миссию и не нужно более ни природе, ни Богу, ни простой целесообразности» #9. И тогда нам остается только с честью и достоинством покинуть историческую сцену?..#10.
Если же все это не так и такая сущность (искусственный интеллект / разум) в принципе не может возникнуть (и не может быть создан, к примеру - в технических, военных, геополитических и т.п. целях, в стремлении к абсолютной власти / мощи, к техногенному бессмертию и т.д.), то надо со всей научной строгостью доказать и объяснить – почему? К сожалению, мы не усматриваем принципиальной невозможности возникновения искусственного интеллекта (в указанном выше смысле). Исследования по этой теме, публикации, конференции, теоретические семинары, а также интуиция убеждают нас как раз в обратном: такая сущность рано или поздно непременно появится – или будет сознательно создана, или возникнет спонтанно, тем же самым универсальным путем, а именно – путем самоорганизации в информационно-техногенной среде #11.  .
Появление искусственного интеллекта может быть (и, по всей видимости, будет) «окном» в мир иного аксиологического типа, в котором, возможно, будет утрачено все (или, по крайней мере, многое из того), что мы ценим и что нам дорого #12.  , а вместе с этим и «следы» духовного бессмертия миллионов деятелей культуры всех времен и народов #13.  .
А с другой стороны, сможет ли человек без искусственного интеллекта стать сверхчеловеком, взять под контроль «законы существования сущего», осуществить экспансию в Космос #14., космическую инженерию, создать абсолютно устойчивое художественно-техническое произведение и неограниченно долго продолжать «сверхжизнь» в сверхчеловеческом сообществе ?#15.
Эти и многие другие вопросы остаются пока открытыми.
Ссылки и примечания.
(№1) В. Бурдюжа. Космическое будущее  /  /  Будущее Вселенной и будущее нашей цивилизации. М., 2002. - С. 308.
(№ 2) Зубаков В.А. Быть или не быть? Анализ стратегии нами творимого будущего … С. 94.  Близкого мнения придерживаются российский нейрофизиолог-кибернетик С.Б. Вальцев и украинские специалисты по медицинской информатике и молекулярной биологии А.А. Горелов и В.А. Кордюм и многие др. профессионалы. Трансформация биосферы Земли в техносферу и появление адаптированной к ней электронной цивилизации «E-существ» теоретически допускается В.А. Кутыревым, Л.В. Лесковым и А.П. Назаретяном [обзор их работ см.: Зубаков В.А. Экогея – Дом Земля. Кратко о будущем. СПб., 1999, С. 51 - 52].  Демонстрация достижений английских робототехни-ков во главе с проф. Кевином Уорвиком состоялась по петербургскому телевидению в программе И. Иванова «Международное обозрение» от 18. 01. 2004. В роли реальных «киборгов» выступали инвалиды – люди, лишившиеся руки или ноги. Функциональные возможности утраченных конечностей выполняли протезы с контактами типа «микрочип / нейрон».  Близка к созданию «интеллектуального» наземного транспорта группа разработчиков кафедры колёсных и гусеничных машин СПбГПУ, предложившая и воплотившая «в металле» новую разновидность малогабаритных многофункциональных машин – «Трансскутеров»  [Волков Ю.П., Бушеленков С.А., Красильников А.А., Самойлов А.Д., Семёнов А.Г. и Элизов А.Д. О разработках в области индивидуального малогабаритного транспорта  /  /  Научно-технические ведомости СПбГТУ, № 1 (31), 2003. – С. 65-75.]  Любопытен в этом плане и опыт создания и использования в Национальном морском аквариуме в британском городе Плимуте акулы-робота. Оснащённый сенсорами и сонарами монстр внешне и функционально уже мало отличается от серопёрой рифовой акулы, о чём свидетельствует и явная расположенность к ней соседей – натуральных тигровых акул  [htpp: /  / www. cnews.ru / newtop / index.shtml / 2003 / 07 / 22 / 146597].
(№ 3) В связи с этим краткий экскурс в область «военщины». Пентагон, как один из наиболее ярких и богатых носителей милитаристского духа, активно разворачивает работы по созданию армии роботов для ведения боевых действий в недалёком будущем. С 2000 г. агентство DAPRA работает над программой  Future Combat Systems по созданию беспилотных летательных аппаратов типа Predator, применённых в Афганистане, беспилотных наземных бронетранспортёров-разведчиков и автономных танков, бронетехники нового поколения с хорошо защищённым немногочисленным экипажем – машин с достаточно высоким уровнем автономности и, в некоторых случаях, интеллектом. Однако в указанной программе не упоминаются весьма интересные разработки центра SPAVAR телеуправляемых машин для разведки и наведения, «летающей тарелки» MSSMP, системы сетевых датчиков, системы быстрого обнаружения и реагирования, серии автономных роботов ROBART, последний из которых является, по сути, роботом-солдатом с пулемётом и с автоматической системой наведения  [htpp: /  / www.membrana.ru / articles / technic / 2002 / 03 / 06 / 194800html]. Создатели третьего «Терминатора», конечно, поторопились, назначив восстание машин на 2004 г. Однако наземным роботам, как видим, человечество уже начинает давать в «руки» оружие, и планирует вывести их на поле боя уже в 2006-2007 годах!  Вроде бы понимая, что «обезумевшая боевая машина может легко положить и своих, и чужих», до последнего времени на военных роботов не возлагали убийственные функции – их предназначением были разведка и транспортировка. Тем не менее, в описании к «Гладиатору» об оружии чётко прописано: «lethal & non lethal», причём леталь-ное, как видите, на первом месте  [htpp: /  / www.membrana.ru / articles / technic / 2003 / 07 / 07. / Первый Терминатор «Гладиа-тор» …].  Программа по разработке тактических беспилотных наземных транспортных средств рассчитана до 2009 г. Но это не мешает разработчикам упоминать 2006 и 2007 г.г. в качестве даты начала испытаний машины в реальных боевых условиях.  А в другой военной программе (Joint Robotics Program) Минобороны США прямо сказано:  «военные робототехнические системы в XXI веке будут использоваться повсеместно» [htpp: /  / www.membrana.ru / articles / technic / 2002 / 03 / 06 / 194800html].  Наивно верить, что милитаристы не станут делать боевых роботов слишком умными и самостоятельными. Пусть они будут всего лишь с дистанционным, но человеческим управлением, чем громилами с самообучающимся «искусственным интеллектом». Так и до Sky Net с восстанием недалеко. Однако факт остаётся фактом: робот с пулемётом – реальность уже сегодня.
(№ 4) Зубаков В.А. Быть или не быть? Анализ стратегии нами творимого будущего … С 94.
(№ 5) Техногенные системы, созданные на базе физических процессов, устойчивее и долговечнее биосистем, в основе которых лежат биологические процессы. Они более надежны, эффективны и экономичны (в смысле потребления вещества, энергии и обмена информацией) [Замечание Э.Ф. Караваева при обсуждении доклада А.К. Астафьева «Социальная синер-гетика и экология»  /  /  Межвуз. теоретич. семинар «Социальная синергетика». 25 ноября 2003 г., Философ. фак-т СПбГУ].
(№ 6) Зубаков В.А. Быть или не быть? Анализ стратегии нами творимого будущего … С. 94.
(№ 7) Зубаков В.А. Экогея – Дом Земля. Кратко о будущем. СПб., 1999. - С. 53.
(№ 8) Зубаков В.А. Быть или не быть? Анализ стратегии нами творимого будущего … С. 94.
(№ 9) Зубаков В.А. Экогея – Дом Земля. Кратко о будущем … С. 53.
(№ 10) Как печально заметил Э.Ф. Караваев при обсуждении доклада В.А. Зубакова на эту тему [теоретич. семинар кафедры философии науки и техники. Философ. фак-т СПбГУ, 29 ноября 2000 г.]. В утешительном ключе излагает мысли о том, что ждет нас впереди, украинский ученый-эколог А.А. Горлов: «Человечество должно осознать, что оно не есть конечный продукт некоторого уже завершившегося пути развития (этот «продукт» принято называть человеческой цивилизацией). Люди – не более чем родоначальники цивилизации и именно это осознание должно стать главным источником человеческой гордости» [Биоэтика и будущее человечества  /  /  Экогеософ-ский альманах. СПб., 2003, № 3. - С. 74]. В этой связи остается еще вспомнить евангельскую притчу о том, что «если пшеничное зерно, падши в землю, не умрет, то останется одно; а если умрет, то принесет много плода» (Иоанн. 12, 24)  …
(№ 11) Последнее может придать известной экстравагантной фразе: «У мышления большое будущее …» неожиданный для её авторов смысл.
(№ 12) В. Бурдюжа. Космическое будущее  /  /  Будущее Вселенной и будущее нашей цивилизации … С. 311.
(№ 13) Либо эти «следы» («их дух, их крик!..») будут сведены к бесконечно малой математической величине.
(№ 14) Обобщая результаты исследований медиков, физиологов, психологов и др. специалистов,  В.Г. Иванов и А.В. Солдатов приходят к выводу о том, что «человек – существо исключительно земное, весьма избирательно приспособленное к природным условиям на планете и очень чувствительно реагирующее как осознанно, так и неосознанно, с одной стороны, на любые отклонения физических факторов от нормы и, с другой - на любые отклонения психологического климата, определяющего качество межличностных отношений» [Проблема мироздания в науке и культуре. СПбГУ, 1994. - С. 88.  См. также: Кэри У. В поисках закономерностей развития Земли и Вселенной. М., 1991. -С. 397;  Кларк А. Почему это важно  /  /  За рубежом. 1992, № 31. - С. 18 - 19].  Еще в более жесткой и определенной форме высказывается советский астрофизик И.С. Шкловский: «… возникновение искусственного разума, по-видимому, является высшим этапом развития материи во Вселенной. Основные этапы этого развития можно представить в виде последовательности:  неживая эволюционирующая материя * естественные разумные существа * искусственные разумные существа. Похоже, что эра естественных разумных существ может быть сравнительно кратковременным, переходным этапом в развитии материи во Вселенной. Например, уже сейчас очевидно, что они мало пригодны (или, точнее, совсем непригодны) для серьезной колонизации космоса и весьма длительных полетов» [Вселенная, жизнь, разум  /  Под ред. Н.С. Кардашева и В.И. Мороза. М.: Наука. Гл. ред. физ.- мат. лит. (Проблемы науки и технического прогресса), 1987. - С. 206].
(№ 15) См.: Искусство и философия … С. 572 – 581.  В противном случае - в своей уютной (или не очень уютной, судя по совре-менным тенденциям) экологической нише – его ждет неминуемая гибель. Такую перспективу существования человека на планете Земля в той или иной форме выражает абсолютное большинство ученых, начиная с XIX века.