Опубликованная в нашем журнале ("Демиург" N 2, 1997 г.) дискуссия об искусственном интеллекте и его взаимодействии с естественным (человеческим) вызвала разнообразные, порой взаимоисключающие отклики. В этом номере мы публикуем два письма, позволяющие, по мнению редакции, представить вместе с ранее опубликованными полный спектр мнений по теме дискуссии. Как и в прошлой публикации, редакция не изменяла тексты писем, полагая непреложным требованием к посреднику дискуссии (т.е. редакции) сохранение авторского текста. Редакция надеется на дальнейшее развитие дискуссии.
Н.Е.Тверитин, Автор этого письма уже публиковался на страницах приложения к "Демиургу" (Виртуальный мир, 1997 г.)
Уважаемый редактор!
Разрешите высказать несколько соображений по поводу "Дискуссии" в "Демиурге" N 2, 1997 г., не претендуя на новизну инструментария и границ дискуссии, а "играя" по ее понятиям и на ее поле.
1. Научная платформа подразумевает возможность проверяемости высказываний своих персоналий, уж если она научная, а не религиозная, к примеру. Поэтому спор в "Дискуссии" может показаться не корректным, поскольку в принципе допускает проверяемость правоты только одной из сторон спора. Так как предложение другой стороны типа "если... то мы (ЕИ) погибаем" принципиально не проверяемо этим ЕИ.
2. С другой стороны, интеллектуал, как выразитель интеллекта, в идеале должен по определению исключать существование несовершенного интеллекта. В конечном итоге. Что дает шанс на правоту и второй стороне спора, хотя и принципиально не проверяемой. (Что симптоматично: человек от науки настаивает на непроверяемой правоте, призывая в аргументы логику!).
3. Сблизить позиции сторон может открытый интеллект, ибо - с одной стороны, интеллект есть, а с другой стороны, его не должно быть - примиряются тем, что ЕИ (по отношению к этому интеллекту), видимо, находится в процессе творчества, при котором были неизбежны апокалипсические, промежуточные этапы. И как знать какой этап для творчества ЕИ важней: когда ИИ в очередной раз есть или когда его в очередной раз нет?
Если допустить, что мы - искусственный интеллект Бога и перенести рассуждения сторон спора о ИИ и ЕИ в эту плоскость, то предлагаемые в споре взаимоотношения между ИИ и ЕИ кажутся, мягко говоря, странными.
Но все же, если признать, что "цель" времени это - следствия делать причинами, что пока, наверное, неоспоримо, то иерархия Мира так и строится (развивается) и наша цель (неизбежность) - создать таки ИИ, как и нас создали природа или бог,- из следствия стать причиной. Что мы и делаем вопреки страхам, подчиняясь этому закону временного мира, закону отрицания отрицания.
И когда очередное звено иерархии Мира будет вынуждено этим законом почему-либо создавать свой ИИ, эквивалентный уже созданному в цепи иерархии и, если этот ранее созданный примет эту стопроцентную обратную связь - осознанно или неосознанно - как своего Демиурга, то образуется полностью изолированное, самодостаточное, замкнутое кольцо (система) существования интеллекта, или, если не примет,- это и будет настоящий апокалипсис, доказывающий исчерпаемость Мира тем, что интеллекту некуда дальше двигаться в смысле порождения подобно своему рождению, кроме как замкнуться, что оказалось невозможным и он (по ущербности) производит энергетическое замыкание, а не информационное.
Но если бы нам все же удалось создать ИИ, который бы одновременно по отношению к нам был ЕИ, то это была бы неслыханная "двухзвенная удача", освобождения от ига времени, а может быть наоборот - безальтернативная данность кружения во временном мире, но зато гарантированно вечная (долговечная).
Однако было бы логичнее (привычнее?) рассматривать замыкание информационной системы на энергетически эквивалентных уровнях, когда, по разрешенной нам дороге внутрь материи, очередной ИИ будет вынужден оперировать с энергией, сравнимой с полной энергией Мира, в результате чего и произойдет схлопывание.
Если, например, неизвестным нам образом, но доступным для него, очередной в иерархии ИИ вздумает разделить два кварка, то для нас это будет равносильно высвобождению теоретически бесконечно большой энергии или Большому взрыву. Что с нами, возможно, уже произошло, то есть наша система уже замкнутая, и кто для кого Бог (или ЕИ) в этом кольце - понятие относительное.
А если - не замкнутая, то таким способом - Большим взрывом - очередной в иерархии ИИ выполнил свою миссию создателя, из следствия стал причиной. И миссию "замыкателя" выполним или мы, если посчастливится, или созданный нами ИИ, или кто-либо в дальнейшей цепи иерархии, когда, например, появится возможность манипулировать теми же кварками.
Почему "если посчастливится"? Да потому, что тогда мы непосредственно будем ЕИ для какого-то недосягаемо высокого или глубокого бога, вот тут-то уж мы ему покажем "Кузькину мать" и включим в вооруженные силы. Вот именно поэтому Бог и не может сделать так, чтобы мы стали "замыкателем" или звеном, но, по всей видимости, еще не потерял надежду сделать нас приемлемыми для системы.
А может быть и разочаровался, и готовит замену нас на другой ИИ. Нашими руками, как раз на тот, о котором столько страхов в "Дискуссии", жалея остальное, кроме нас, свое творение, резко инициировав в нас процесс познания (научно-техническая революция), чтобы мы могли сделать заменитель себе сами.
Но тогда все упирается в нас, а не в компьютеры. Хотя на самом деле - в "эволюцию", или опять в Бога. Я думаю, что такая замкнутая система есть в нашем сознании (в качестве блокировки) в том, что мы называем подсознанием (не считая замкнутых регуляторных систем тела).
И не последнюю роль в качестве "замыкателей" сознания играют язык и логика, (Бог дал нам язык для выражения - возможно, Его - мыслей, а Змей обольстил Еву логикой, чем замкнул мысль и речь (отсадил нас от Божьей соски), и поэтому мы не можем остановить мысль в виде внутренней логической речи, а заодно и не можем мыслить быстрее речи.
Хотя, однако, человек давно научился разрывать эту мысленную круговерть с помощью медитации, а недавно научился читать, не проговаривая "про себя" слова (например, с помощью метода так называемого "быстрого чтения").
Не думаю, что все вышесказанное не имеет отношения к "Дискуссии". Как раз наоборот - без такой "глобальности" дискуссия кажется частной. К тому же мы не можем создать что-либо не из арсенала природы. А что до терминологии, то это дело вкуса, как я понял из дискуссии. Поэтому в дальнейшем я своими словами выскажу те мысли и комментарии, которые возникли у меня в результате чтения материалов дискуссии.
Интеллект - это сознательный обладатель логики, ибо бессознательно логикой обладает все, и такую бессознательную логику мы называем законом природы (в физике, например).
С разделением интеллектуальной деятельности на три компоненты (информационную, логическую и интуитивную) хотя в общем и можно согласиться, но в частностях возникают замечания.
Например, непонятно, что подразумевается под информационной именно компонентой. Вообще, эта "компонента" в природе бесконечна и ЕИ вовлечен в нее гораздо больше, чем ИИ, так как обладает большими, чем ИИ, сенсорными способностями, и "делательными" - для обеспечения обратной связи - тоже.
То есть обмен информацией у ЕИ больше, и качество информации, надо полагать, выше. Поэтому непредставимо, на основе современной технической базы, каким большим или технологически сложным должен быть ИИ, наделенный нашими органами восприятия информации, чтобы он нашел какое-либо решение для взаимодействия с природой.
Эта дорога уже пройдена и, если начать сначала, при оптимизации опять приведет к человеку.
В информативной компоненте главное - критерий. Считать - одно; существовать, в смысле, взаимодействовать - другое, а сознательная логика ИИ - третье, но это и есть интеллект и угроза только здесь, но только при взаимодействии (сознательном, конечно) с ЕИ.Ибо природа, обладающая бесконечной информацией, всегда внутри себя ею обменивается, результатом чего являются "действия", обеспечивающие само ее существование, ни мало не мешая нам - ЕИ.
Поэтому информационную компоненту надо заменить на информационное море, как объективность, среду обитания (как пространство для материи в классическом понимании), и оставить из трех компонент две - логику и интуицию.
Итак: информация, информационное море - это среда обитания или одно из условий существования всего, а не только интеллекта. Интеллект - это сознательный использователь информации, ибо бессознательным использователем ее является вся природа. В нашем случае - сознательный использователь с помощью логики. Интуицию можно рассматривать как вмешательство бессознательного в сознательное использование информации, а можно - как вмешательство в логику, то есть вмешательство сознательного, но пользующегося не логикой (или не нашей логикой), в наш логический процесс.
В первом случае - это природа, во втором - бог, а результат для нас один - интуиция. Отсюда: человек (ЕИ) - это живой интеллект плюс интуиция в информативной среде обитания. А если среда обитания чужая, то и вопросов нет: чуждая среда никому не нужна.
И беспокойство о том, что совокупность ИИ может заменить среду обитания нам, не обоснованно. Может быть и может, но тогда это будем уже не мы.
Это как раз то, чего боятся, но которое ни при каких условиях (при жизни ЕИ) произойти не может - не уместимся в том информационном поле, оставаясь живыми.
И как ни крути, а интуиция просится в отличительную черту ЕИ от ИИ, и то допущение, что интуиция - это всего лишь одна из ипостасей логики высокого уровня, задачу не упрощает, а ведет прямой дорогой к богу. К этому по существу и "скатилась" дискуссия.
И даже более того, делается вывод, что когда ИИ поймет, что человек - его Демиург, он, будучи недоволен им, должен будет избавиться от своего Демиурга. Почему бы, пользуясь научным принципом проверяемости, не продемонстрировать изумленному человечеству как побеждают их бога - творца, Демиурга?
Пусть даже и с помощью дзен-буддизма. Не думаю, что до бога можно добраться с нашими возможностями, как невозможно общаться ИИ, обитающему на уровне кварков, с нами, с ЕИ, хотя одно наше послание они расшифровать могут - это генеральный алгоритм построения или существования своего мира, раз уж они "искусственный", то есть нами, по нашему плану, по этому генеральному алгоритму, созданный интеллект. (Именно с этой мыслью, извините за нескромность, я расшифровывал крест).
А что касается апокалипсического сценария с Большим взрывом, то это - с какой стороны посмотреть. По мнению некоторых физиков Большой взрыв вовсе не катастрофа для кого-то, а "внутриточечные (внутривакуумные)" дела, кажущиеся Большим взрывом для определенного наблюдателя.
Со страхами, что ЕИ должен исчезнуть после создания ИИ, вообще говоря, можно было бы согласиться, и более того, посчитать таковое обязательным, если бы мы были "совершенным" интеллектом. Мы бы поняли, что создали более совершенный интеллект, раз он способен нас устранить, и ушли бы со сцены, Но мы как эгоцентрические, логические машины этого понять не можем и поэтому самостоятельно не уйдем. В первом случае ИИ, как более совершенный, обязан был бы о нас заботиться, во втором - он обязан убрать помеху.
Может быть именно поэтому каждый из нас убирается с физического плана без нашего согласия заботой создателя - более совершенного интеллекта, чем человек, взрастивший свой эгоизм до антропоцентризма. Мы удивляемся точной подгонкой вселенной под человека, называя это антропным принципом, как будто своей "вселенной", в этом смысле, не имеют права удивляться навозный червь или микроб.
Закрываемся наукой, которая якобы требует соблюдения принципа проверяемости, хотя тут же признаем, что нельзя войти в одну и ту же воду дважды, обосновывая это стрелой времени...
Низвергаем этим принципом проверяемости логику - свой единственный, якобы всемогущий, инструмент познания - с высоты, на которую только что ее подняли...
Наделяем ею ИИ, и тут же пугаемся его, то есть ее и пр., и пр... И все это ради того, чтобы построить модель мира с собой в центре.
И ведь вроде построили, но вот только одно облачко мешает - "интуиция", так называемая. Совсем как при окончании строительства классической физики. Что было дальше с физикой, я думаю, напоминать не надо.
А нам остается только надежда. Нет не на нас, как ИИ, а на нашего ЕИ, которого мы чувствуем как интуицию. А тот ИИ, для которого мы - ЕИ почувствует, в свою очередь, компьютерный вирус, как свою интуицию. Что делать?... Как вверху, так и внизу. И в заключение я предлагаю то, с чего следовало бы начать дискуссию.
С языка, на котором следует ее вести. Для начала продолжения дискуссии предлагаю для обсуждения словарь терминов:
Литература: