Н.Н. Ляшенко
Заметки, навеянные книгой В. А. Коноваленко «Сумерки Разума»
Мотивами для краткого обзора, приводимого ниже, явились как интерес к книге, так и желание поместить её в современный научно-технический контекст. Конечно, при всем том, что я собираюсь цитировать мнения различных исследователей, всё же моё собственное мнение о перспективах разума значительно влияло на выбор материала и его интерпетацию. Поэтому я сразу определю угол зрения, под которым эти вопросы здесь рассматриваются.
Основной тезис и терминология
Мне кажется предпочтительным интерпретировать настоящий период развития вида Homo Sapiense как целого – это переход от «прото-разума» к «разуму». Разумом я называю информационный механизм, дополнительный к гомеостату, типичному для животного мира, и прилагаю его к виду, а не к индивиду. Некоторые, вероятно, предпочли бы в этом случае термины «разум» и «супер-разум». Это не имеет значения. Моё предпочтение основано на том, что теперешний разум (прото-разум) с самого начала эволюционировал как свойство вида, существенно зависевшее от общения и кооперации. Поскольку этот процесс далеко не закончен, то естественно рассматривать теперешнее положение вещей как промежуточное состояние этого процесса.
Основные вопросы
При чтении книги возникло четыре вопроса, попытки ответить на которые и явились основой дальнейших заметок:
1) Большое количество тенденций, воспринимающихся как разрушительные процессы, ведущие Homo Sapiens к более примитивному состоянию, – это дейстивительно распад и деградация разумного общества или для этого есть также позитивные основания? Мой ответ склоняет к последнему.
2) Как можно охарактеризовать теперешнюю динамику нашего вида? Мой ответ – это преимущественно интеграция на небывало многих уровнях:
  • Научном
  • Концептуальном
  • Течнологическом
  • Организационном
  • Комуникативном
  • Экономическом
  • Биологическом
  • Психологическом
  • Рефлексивном
  • и структурном (на уровне общества)

  • 3) Третья сигнальная система, рассматриваемая в книге, не только возможна, но частично уже существует.
    4) Если всё это верно, то почему теперешнее состояние воспринимается во многом негативно даже теми, кто знаком и согласен с утверждениями 1, 2, 3? Мой ответ: теперешние средства массовой (дез)информации играют в основном коммерчекую и манипулятивную роль, но настоящей информации в них почти нет. Однако теперешняя быстрота оповещения и доступность источников начинает исправлять этот перекос. Теперь только недостаточное образование (и скорее даже недостаточная мотивация к образованию) является настоящим барьером к понимаю происходящего.
    Интерпетация «разрушительных» процессов
    Сколько-нибудь сложную систему нельзя существенно изменить, не изменяя её структуру, т.е. не разрушая её хотя бы частично. По этой причине отношение к видимой деградации Homo Sapiens должно определяться не исчезновением отдельных элементов, а тенденцией целого и внутренними, более глубокими процессами.
    Само по себе разрушение и постройка нового отражает весьма знакомый нам порядок вещей как на житейском, так и на научном уровне. На чисто житейском уровне мы знаем, что существенно улучшить здание невозможно, не разрушив хотя бы его часть, хотя наблюдатель, не видящий полной картины и не знающий цели, мог бы сказать, что так назывемые строители выглядят в данный момент скорее как разрушители. Поведение проводника по незнакомой горной местности, нанятого для восхождения на высокую точку, будет выглядеть прямо противоположно цели путешествия, если дорога ведёт через овраг. Вместо ожидаемого восхождения, придется временно идти вниз.
    Иначе говоря, процессы интеграции и распада идут всегда и на всех уровнях, и одно невозможно без другого (я мог бы назвать пару распад + новый синтез «перестройкой», если бы этот термин не ассоциировался так сильно с общественной сумятицей в России во времена Горбачёва). Мы можем называть это развитием структуры.
    На естественно-научном и техническом уровнях физика элементарных частиц каждый день доставляет массу примеров. Биохимические процессы дают замечательную картину круговорота, хотя на более низком уровне, изучаемом молекулярной биологией, компоненты этого процесса разрознены.
    Смерч или водяной вихрь на макро-уровне представляют собой более устойчивые образования, чем составляющие их компоненты. В зависимости от того, на что мы обращаем внимание, мы можем сказать, что вихрь существует или сказать, что умирает и возрождается. Применительно к человеческому сознанию это имеет прямое отношение к вопросу о само-идентификации, рассматриваемому ниже.
    Так называемый экономический кризис в таких странах как США – интересное сочетание по крайней мере двух процессов «перестройки». Со стороны предпринимателей и финансистов – это полное непонимание того, что свободный рынок давно убит глобализацией и высокой скоростью коммуникаций, и многие их выгодные сделки – миф по простой причине: обратная связь, направленная на восстановление баланса (т.е., в данном случае на отнятие прибыли) срабатывает настолько быстро, что только специальные меры координации могут спасти (и действительно спасли) всю систему от радикальной дестабилизации. С другой стороны, наёмные работники и мелкие бизнесы оказались в положении луддитов начала 19 века, настаивая на сохранении безнадежно устаревших видов работ (и соответственно найма). (В организованной форме движение так называемых нео-луддитов сильно в настоящее время и представляет собой сознательную программу борьбы с технологией.)
    Сказанного более чем достаточно, чтобы хотеть заглянуть глубже.
    Интеграция как современная преобладающая динамика
    Интеграция многих областей – характерная черта второй половины 20-го и начала 21-го века. Поначалу разрозненные из-за разделения труда и специализации области начали увязываться друг с другом на поверхностном уровне: идеи, подходы и инструменты, возникшие в одной из них, пытались применять в другой. В теоретическом плане типичным был перенос понятий как метафора. Например, человеческий организм рассматривался как био-химическая машина, а изучение разума подменялось технико-кибернетическими аналогами, такими как компьютерные системы, нейронные сети и т.п. На организациооном уровне это постепенно привело к тому, что так называемые междисциплинарные проекты стали обычным делом.
    Позднее началось более глубокое и более общее переосмысление понятий, лежащих в основе областей.
    Физика становится всё более информационной, что способствует более глубокому и в конечном счёте простому пониманию явлений, некоторое время считавшихся трудными.
    Так, признанию принципа неопределённости в квантовой механике человеку ничто не мешает, кроме неправомерного переноса привычных умозаключений повседневной практки за пределы её применимости. В конце концов, ведь речь идёт о координатном и импульсном представлении одного и того же объекта, так что a priori ожидать независимости их свойств и возможностей измерений, по меньшей мере, странно.
    Далее, имеет ли этот вопрос прямое отношение к микроскопичности системы? Ответ – нет, не имеет. Любой волновой объект демонстрирует это свойство по той простой причине, что ограниченность амплитуды влечёт неограниченность спектра и наоборот (простое свойство преобразования Фурье). Это свойство любых сигналов.
    Ещё дальше, так ли важна упомянутая аналитика для понимания феномена? Ответ – опять же нет, не нужна.
    Смена представлений и сопутствующие ей ограничения вездесущи и более понятны в чистой абстрактной форме. Так, перевод поэзии с одного языка на другой может быть осуществлён (основан на представлении) с целью точнее передать семантику (смысл) стиха, но также может быть сделан с целью отразить его звуковую структуру (ритм, рифму, строение строфы и т.д.). Одновременно же достичь обеих целей невозможно: есть принципиальный предел, который является свойством самих представлений (в данном случе это существенное различие языковых систем). Описанный пример – это принцип неопределённости в лингвистике, не имеющий ничего общего с квантовой механикой, кроме того, что физический и лигвистичекий примеры – это частные случаи сравнения представлений. Последнее – предмет раздела абстрактной алгебры называемого теорией представлений.
    Пожалуй, наиболее общий пример интеграции прдставлений о мире вообще и о природе разума в частности демострируют теории, пытающиеся осмыслить самые фундаментальные законы. Хорошим примером, на мой взгляд, является обстоятельная книга Терренса Дикона (Terrence W. Deacon, [3], 2012), в которой автор начинает с более зрелого анализа вопроса о естественных процессах, уменьшающих энтропию системы, и прослеживает последствия своей интеррпетации, переходя к экспериментальным фактам естественных наук и через понятие информации, к непосредственному анализу мышления и рефлексии.
    Не претендуя на исчерпывающее описание идей этой 602-страничной книги в одном абзаце, упомяну о введённых Терренсом понятиях орто- и контра-градных изменений. Первые – это изменения состояния системы, не требующие вмешательства внешних сил, тогда как вторые требуют внешнего взаимодействия. Первая категория – обобщение понятия инерции. В орто-градных процессах превалируют переходы к более вероятным состояниям, в контра-градных заметно возрастает роль маловероятных.
    Анализ конкретных систем, проводимый Диконом, показывает, что ортоградные (чисто инерционные в обобщённом смысле) процессы во многих случаях противоречат друг другу: каждый из составляющих процессов накладывает ограничения на степени свободы другого. Дикон приводит убедительные физические и физико-химические примеры, показывающие, в чём здесь дело. Как результат, мы получаем модель, описывающую энтропийную динамику систем значительно более реалистичным образом, нежели это делается в рамках очень идеализированной модели Больцмана и последователей.
    Эта модель гораздо лучше проливает свет на особенности биологических, психологических и общественных процессов. Подробное изложение этих идей и вытекающие из них возможности моделирования не входят в задачу моей короткой статьи. Главный вывод для правильной оценки перспектив цивилизации заключается в двух тезисах:
    а) Существуют заслуживающие внимания модели, которые показывают, что ортоградные (обычо кажущиеся разрушительными) процессы не только не препятствуют существовавнию контра-градных, но являются их необходимым условием (в сочетании с их локальной несовместимостью).
    б) Возможно описать эти процессы в терминах информации и потоков информации.
    Если теперь вернуться к списку уровней, упомянутому в начале статьи, то можно упростить их обзор, адресуя не столько современную номенклатуру, сколько их структурные и информационные аспекты.
    Модулярность
    Один из важных структурных аспектов – очевидная и повсеместная модульность природы от микромира до человеческого общества и далее до видимой вселенной. Разумеется, отчасти видимая форма структурности – плод нашего восприятия, упрощающего анализ окружающего. Но есть и более глубокие объективные причины структурности. Её активное изучение началось сравнительно недавно, и стиль, в котором оно проводится, – хорошая иллюстрация современной склонности к более абстрактному системному взгляду на «объяснение».
    Примером могут служить две довольно свежие статьи [1, 2], опубликованные в 2012 г. двумя исследовательскими группами – одна объединяла исследователей из Rice университета в Хьюстоне и университета американского штата Оклахома, другая была совместной работой Корнельского универститета в США и университета Пьера и Марии Кюри в Париже. Статьи хорошо дополняют одна другую, и если суммировать изложенные в них результаты моделирования, то можно заключить, что:
    1) координация частей в модулярной системе быстрее, чем в системах, где каждый элемент зависит от согласования с каждым другим, что приводит к более быстрому приспособлению;
    2) благодаря структурности, возможна независимая эволюция модулей, позволяющая виду адаптироваться к локальным изменениям, т.е., изменениям среды, затрагивающим небольшую часть параметров, существенных только для некоторых органов (замечу, что глобальные в этом смысле изменения происходят гораздо реже);
    3) переход одних устойчивых состояний в другие (в том числе появление и смена модулярности в биологии)  – это частный случай более общего явления фазового перехода, что избавляет исследователя от необходимости изобретать каждый раз ad hoc формальный аппарат для более глубокого количественного анализа.
    Наиболее интересны в резюмированных мной статьях не три упомянутых тезиса сами по себе (они в той или иной форме высказывались ранее), но активные усилия развить количественные методы изучения модулярности. Конечно, даже на качественном уровне нельзя не видеть аналогию между первобытным обществом и сильно разреженным, но вовсе не идеальным газом (где упругие силы не были единственным фактором взаимодействия). С другой стороны, монархические системы имели во многом твёрдую кристаллическую структуру, где, однако, действовали как внутренние квантовые эффекты (до поры до времени игнорировавшиеся в описаниях царившего тогда «строгого порядка»), так и внешие силы. Ведь на макро-уровне планетарное общество находилось всё ещё в газообразном состоянии, хотя и населённом более крупными молекулами. Однако, как говорят французы, всякая аналогия хромает. Только более аккуратный количественный анализ поможет открыть фазы, характерные для каждого уровня.
    С количественной точки зрения, важно то, что задача приспособления – это попытка найти оптимальную структуру оптимизирующего управления. Эта задача относится к классу так называемых NP-полных проблем, не допускающих быстрого алгоритма. Это, с моей точки зрения, сильный математический довод в пользу преобладания модулярности. Одно дело говорить, что модулярность полезна и желательна, и другое – осознать, что без неё просто не обойтись. Если в качестве примера рассмотреть гораздо более простой пример NP-полной проблемы – найти наиболее простую булеву функцию (со значениями «да» и «нет»), описывающую экспериментальную таблицу с N переменными, то чистый перебор вариантов требует испытать  вариантов. Так, если мы имеем дело всего с 10 переменными, нам предстоит сделать  попыток, (примерно 103082), т.е. гораздо больше чем число Авогадро. Похоже, что это даже больше, чем число молекул в видимой части вселенной, но если кто-то не уверен, я замечу, что прибавление каждой новой переменной возводит число вариантов в квадрат (благодаря двойной экспоненте). При двадцати переменных мы уже имеем дело с 10315653 вариантами. Доказано, что модульность хотя и не даёт оптимального решения, однако позволяет быстро найти близкое к оптимальному. Т.е. перебор всех вариантов в большинстве практических ситуаций не нужен.
    Если структурность и связанная с ней дискретность систем неизбежны, то и смены структур (фазовые переходы) будут казаться скачкообразными (в определённом масштабе времени). Это подводит нас к вопросу о неустойчивых промежуточных состояниях и их конкретных проявлениях в системе «жизнь – Homo Sapiens – разум – общество».
    Переходные процессы
    Одна из наиболее заметных тенденций в наше время – глобализация. Она неизбежно повлечет разрушение государственности в том смысле, который вкладывался в этот термин до сих пор. Поскольку между устойчивыми состояниями всегда имеется нестационарный период, сам переход будет восприниматься многими как свидетельство приближающегося апокалипсиса. Однако интересно, что и восприятие эволюционирует, причем удивительно быстро.
    Например, согласно статистике, в США гораздо больше людей озабочено конфиденциальностью личной информации, чем вопросами безопасности (несмотря на старания военных кругов и СМИ драматизировать то там, то тут возникающие конфликты). Однако отношение младшего поколения к конфиденциальности заметно другое: тенденция делиться информацией усиливается и ограничивается только аспектами, ведущими к краже собственности. Несомненно, своего рода фазовый переход, ждёт и человеческий разум. Современное его состояние (особенно со стороны старшего поколения) противится интеграции, однако уже на протяжении одного поколения заметна смена психологической установки с изоляционисткой на коммуникативную.
    В том же направлении изменяются и многие понятия, по-прежнему называемуе старыми терминами.
    Например, деньги давно уже стали электронными и все средства обращения с ними глобальными, но многие политики и экономисты продолжают споры о том, что лучше положить в основу обмена доллар, евро или золото (а может быть абстрактные компьютерные деньги bit coins). Если же называть вещи своими именами, то речь идет не столько о деньгах, сколько о единицах и процедурах измерения. Далее, поскольку единицы сами по себе не имеют принципиального значения, разговоры о них лишь прикрывают право национальных государств манипулировать процедурами измерения. Так, госудаство, печатающее экономически неоправданные деньги и манипулирующее курсами обмена, ничем в принципе не отличается от вашего соседа, подкручивающего электрический счётчик в свою пользу.
    На фоне этих многообразных изменений очень легко придти к заключению, что теперешнее «смутное время» – это хаотический процесс разрушения многих сложившихся социальных механизмов, в том числе утрата многих ценных завоеваний цивилизации. В свете того, что я говорил вначале, это правда, но так и должно быть независимо от того, наблюдаем ли мы собственно деградацию или социально-биологический фазовый переход. Для правильной интерпретации важно ответить на вопрос уравновешиваются ли ортоградные (по Дикону) процессы контраградными. По этой причине полезно взглянуть на процессы синтеза новых структур, на интеграцию и глобализацию.
    Процессы социального синтеза и многоуровневая интеграция
    Наиболее видимая часть новейших изменений связана с технологией и особенно с созданием глобальной информационной сети. Она изменила многие социальные механизмы и продолжает модифицировать психологию людей.
    Знание стало как никогда доступным. Элитарность престижных дорогих частных учебных заведений разрушается. Старого образца книги и газеты уходят в прошлое. Стоящие за этим бизнесы разоряются и на смену им приходят новые. Электронные становятся всё более совершенными. Люди постепенно переучиваются и формируют новые ожидания и требования. Так, в транспорте всё чаще видишь читателей с электронными устрйствами размером со среднюю и тонкую книгу, но осознаешь, что там помещается эквивалент нескольких тысяч 440-страничных книг, если говорить о хранилище в самом устройстве. Если же учесть, что многие из них имеют дешёвый (а зачастую бесплатный) выход на Internet, то объёмы в локальном смысле вообще перестают иметь значение.
    Мне кажется, Эйнштейна бы позабавил факт, что многие пространственные оценки в обществе и в быту постепенно заменяются временны'ми. Так, мне иногда легче и быстрее скопировать файл на другой компьютер в том же доме через Internet. Но ведь скрывающийся за этим процесс в этом случае передаёт всю информацию с моего компьютера в Лос Анжелесе на сервер, стоящий в Канаде, и обратно в соседнюю комнату.
    Психологическая геометрия физического пространства меняется. Ряд недавних публикаций, посвящённых социально-психологическим последствиям новой технологии, отмечает, что кажущееся разрушение привычного общения естественно обусловлено рациональностью поведения (особенно молодых) людей, приспосабливающихся к новым условиям. Поверхностно, мы можем увидеть людей, сидящих за одним столом и уткнувшихся каждый в своё устройство, но, с другой стороны, понять, что канал общения между ними в данный момент информационно гораздо богаче, чем раньше. Они показывают друг другу понравившиеся им места или снятые ими кино-ролики своего недавнего путешествия, а также приглашают принять участие в разговоре друзей, сидящих в Мексике или Австралии.
    Информационные методы внедряются проктически во все отрасли деятельности.
    Не удивительно, что сфера образования была одной из первых, ощутивших на себе информационный сдвиг в технологии и обществе. Обилие и доступность устройств (gadgets), органически связанных друг с другом (от программируемых кухонных приборов и виртуальных игрушек до «умного» автомобиля, знающего о дорожном происшествии в десяти милях отсюда и предлагающего оптимальный объезд), – все они представляют собой обыденную среду, знакомую новому поколению с рождения. Как реаультат, школьное образование оказалось в отсталом положении и старается сократить разрыв между старыми организационными структурами и методами, с одной стороны, и навыками учащихся, научившихся многому с ранних лет в самой жизни в обход стандартного образования с другой. Не сомневаюсь, что положение выравняется, но не без радикальных изменений, которые многим покажутся уничтожением этой системы.
    Новые технологические возможноти активно испльзуются учёными. В качестве любопытного примера приведу исследование, проведенное психологами в Конго над обезьянами породы «бонобо», близкими к шимпанзе ([6]). Вопрос, поставленный исследователями, был о том, является ли понятийное мышление прерогативой человека или в основном анатомические особенности (такие как отсутствие адекватных органов речи) явились тормозом к общению между обезьянами и к выработке понятий, подобных человеческим. Конечно, учёные понимали, что речь и совершенствование мышления развивались рука об руку в ходе эволюции. Так что ставить вопрос типа «или – или» некорректно. Однако частичный свет на возможности теперешних обезьян к понятийной обработке информации пролили эксперименты, использующие специально скоструированный фирмой Motorola мобильный компьютер (iPad) с клавиатурой из лексикограмм вместо букв (наподобие китайских иероглифов) и синтезатором речи для понимания сообщений людьми. Обезьяны успешо овладели сотнями лексикограмм, включающих не только знаки для конкретных вещей, но и абстрактные понятия, включающие глаголы, прилагательные и другие части речи. По внешнему виду лексикограммы были довольно абстрактными, см., например, изображения некоторых клавиш в следующей таблице:
    Да Нет Обнимать вопрос Прятаться сюрприз
    Способность обезьян общаться с помощью языка, а также выполнять полезную работу (напр., после прогулки по обширному заповеднику сообщать людям о своих наблюдениях и потенциально опасных непрошенных гостях или других событиях) существенно поколебали убеждение в том, что приобретение языка и оперирование понятиями есть специфическая особенность человеческого мозга.
    Информационная точка зрения на производство материальных вещей тоже претерпевает изменение. Хорошим примером является 3D-печать, создающая реальные предметы из платмассы, титана и дригих материалов путём программного описания их структуры. В результате производство овладело методами создания предметов, которые по геометрическим причинам невозможно отлить или изготовить традиционными способами.
    Медицина воистину становится био-инженерией. Всё больше методов лечения сводятся к активизации или подавлению определённых генов. К этому можно добавить искусственное выращивание органов из биологического материала самого реципиента (во избежание отторжения), простетические устройства (напр., замена ампутированных рук и ног) из сенситивных материалов, способных создавать ощущения (т.е., преобразующие механические деформации в сигналы, посылаемые мозгу и идентичные сигналам нормальной сенсорной системы.
    Удивительные свойства «электронной кожи», обладающей высокой эластичностью, выдерживающей нечеловеческие температуры и даже обладающей способностью передавать «ощущения» беспроволочным способом, создали условия для совершенных протезов, обмена ощущениями между людьми и людей с компьютерами. Одно из довольно интересных направлений – прогресс в создании так называемой «беспроводной нервной системы» (wireless nervous system).
    О социальных изменениях можно, пожалуй, не говорить: они видны ежедневно в политике, информационных войнах, виртуальных конференциях, в новом поколении электронных денег bit Coins, и т.д.
    В свете сказанного, трудно не видеть, что не только созданы предпосылки для био-технологическго синтеза и для перехода от индивидуального мышления к коллективному, но, хотим мы этого или не хотим, человечеству этого не избежать, если оно ранее не покончит самоубийством. Предполагая, что этого не случится, перейдём к последнему разделу – краткому обзору некоторых ближайших последствий синтеза.
    Перспективы разума: третья сигнальная система
    Не так уж много осталось сказать. Если отныне говорить о разуме как о коллективном способе мышления (который, кстати, не противоречит индивидуальному и не исключает его), я бы упомянул о назревающем феномене «изменения самоидентификации», т.е. об изменении понятия и чувства «Я». В этом разрезе представляются своевременными исследования, старающиеся описать физиологическую подоснову самосознания (см. [4]).
    Процесс уже происходит. Примером может служить сдвиг во мнениях старшего и молодого поколений об охране персональной информации (privacy). Молодое поколение обеспокоено этим вопросом в гораздо меньшей степени, и, в основном, только криминальной стороной дела. (Речь здесь не идёт о беспечных подростках, но о молодых людях в расцвете сил.)
    Телепатия, упоминаемая в книге В. А. Коноваленко, придёт. В какой форме – никто не знает, но, вполне вероятно, не просто в виде ходящих мешков с костями и головой, набитой нейронами, и при этом обменивающимися мысленными сигналами. Обмен, описываемый фантастами прошлого, отличается от ситуации, в которой я (с маленькой буквы) уже знаю, что думает другой. Я скорее предпочту временно не знать для улучшения нашей совместной производительности, как более совершенный способ более быстрых параллельных вычислений в современных компьютерных системах.
    Так же несостоятельными выглядят в старых фантастических произведениях описания эры «железных» роботов, воюющих против человечества. Скорее всего, будущее человечества – это некий Солярис, понимаемый теперь на более реалистическом, и даже практическом уровне, нежели мог себе представить Станислав Лем.
    Мы не знаем, как скоро это произойдёт, но интересно отметить, что бизнесы делают всё более смелые капиталовложения в казалось бы фантастические проекты, такие как коммерческое освоение ресурсов солнечной системы, выращивание искусственных органов и создание электронного супермозга. Будущее представляется мне интересным, хотя и не без общественных катаклизмов. Как говорил Джордж Сорос в своей книге об экономическом кризисе 2008 года, предсказание сложных явлений, таких как экономика, зависит не столько от того, как хорошо аналитики понимают происходящее, но больше от того, в какой степени большинство людей не понимает происходящего. Мне кажется, этот тезис применим и к перспективам разума.
    Литература
    1. Dirk M. Lorenz, Alice Jeng, Michael W. Deem, “The Emergence of Modularity in Biological Systems”; Preprint submitted to Physics of Life Reviews April 27, 2012 (Rice Univ. Houston TX, Univ. of Oklahoma).
    2. Jeff Clune1, Jean-Baptiste Mouret2, and Hod Lipson, “The evolutionary origins of modularity”; Cornell University, Ithaca, USA, 2 Universit? Pierre et Marie Curie-Paris 6, CNRS UMR 7222, France, Preprint – July 12, 2012
    3. r: studies (Terrence W. Deacon, “Incomplete Nature”, levels of entropy (ortho- and contra-gradient changes);
    4. Antonio Damasio, “Self comes to Mind”);
    5. Takao Someya, "Building bionic skin"; IEEE, Spectrum, Sep. 2013, pp. 51-56.
    6. Ken Schweller, "Apes with apps"; IEEE, Spectrum, July 2012, pp. 38-45.