Роботы, боги, ученые
22 апреля начинается второй сезон Westworld (первый трейлер, а вот реклама из Super Bowl и там еще дополнительные скриншоты в конце). Самое время продолжить разговор об искусственном разуме. Как вы помните, и это здесь недавно обсуждалось, в Westworld не оперировали такими совсем размытыми понятиями, как "человечность" или "душа", а говорили о "сознании", которое может возникнуть у роботов. В частности, использовалась концепция двухкамерного разума. Эта теория, в русском переводе существует как "бикамеральная" (ужасное слово) или "двухпалатная", что больше соответствует логике её создателя Джулиана Джейнса, который назвал её так по аналогии с двухпалатным парламентом.

Джейнс написал книгу "The Origin of Consciousness in the Breakdown of the Bicameral Mind" (не переводилась), которая произвела на многих, от психологов до фантастов, сильное впечатление, хотя основная её идея до сих пор считается спорной. Популярно она как раз изложена в Westworld: сознание в людях зародилось не сразу, а сначала у них был вот такой двухпалатный разум, где одна палата отвечала за принятие решений, а вторая - за их исполнение (законодательная и исполнительная власть). Решательная палата воспринималась, как сторонний голос, как считает Джейнс, со временем принятый как голос богов, которые указывали человеку, что делать. Потом двухпалатный разум стал сдавать позиции по разным историческим причинам, люди пришли в смятение, их новое сознание запутывало все дело, потому они старались сохранить старый порядок вещей в виде религий (само собой), в вере в астрологию и прочие указания извне, про которые так любят рассказывать у нас на РенТВ.

  В сериале эту роль решательного голоса выполняли скрипты, заложенные программистами. Но Бернард/Арнольд считал, что рано или поздно роботы начнут оценивать этот "голос" и принимать, как часть своего разума, тогда у них и возникнет "сознание", как когда-то оно появилось у людей. Вот только это "когда-то"  с нами случилось не так давно.

На русский переведена лекция Джейнса, где он достаточно подробно раскрывает свою концепцию (а тут популярная версия попроще).

Для начала довольно трудно определить, что такое сознание и где оно. Мы говорим "в голове", но сознание - это не физическая, и не физиологическая сущность, оно связано с мозгом, но трудно сказать, как. Особенно, если не понимать, что оно такое. При этом мы все знаем, что оно существует (правда, не у всех, я так считаю).

 Большинство действий мы делаем совершенно бессознательно - ходим, выполняем практически все движения конечностями, едим, разговариваем, думаем. Пишем комменты. Нет, серьезно. Как-то здесь человек написал гигантский оффтопик, в котором подробно изложил свои ощущения от похода за кредитом и закончил отличной фразой "Не знаю, зачем я это написал. Просто что-то захотелось". Я подумала "Ого!" и стерла коммент. Он обиделся, хотя у нас установился диалог - ему захотелось написать, мне захотелось стереть. Win-win.

Сознание - это не воспоминания, не чувства, не обучение, не опыт, хотя оно связано в той или иной степени с ними.

"Третье: сознание не является необходимым для обучения; я уже упоминал об этом несколько минут назад. Я очень долго работал, не подозревая об этом заблуждении. Если мы посмотрим на наиболее примитивные виды обучения, такие как, например, тренировка условных рефлексов Павлова, то они происходят и в отрубленных конечностях, например, в задней ноге обезглавленного таракана, которую вряд ли кто-либо наделил бы сознанием. "

Двухпалатный разум, или его остатки, по всей видимости, сохраняются у детей. Джейнс приводит в пример Хэппи, в смысле, воображаемого друга:

"В связи с наличием персонального бога возможно предположить, что часть нашего врожденного двухпалатного наследия осталась в современном феномене "воображаемого друга". Согласно моим собственным исследованиям, а также некоторым другим (Сингер и Сингер, 1984), подобный феномен проявляется, по меньшей мере, у одной трети современных детей в возрасте от двух до пяти лет, и предполагается, что в него включены весьма реальные вербальные галлюцинации. В редких случаях, когда воображаемый друг остается и в юношеском возрасте, он растет вместе с ребенком, и в моменты стресса начинает говорить ему или ей что делать. Следовательно, можно сделать вывод, что так и появился личный бог: воображаемый друг растет вместе с ребенком в обществе, возлагающем на человека свои ожидания, и он постоянно побуждает ребенка слышать голоса, а не прекращать это делать.

Это и есть двухпалатный ум."