Третье право робота
Запоздалая преамбула к циклу

"Права робота" тяготеют к универсализму - в контексте проблем меньшинств и в условиях неопределимости "мыслящей машины" наше стремление состоит в том, чтобы сущностная формулировка "робот" не была определяющим образом связана с определяемыми принципами ("робот имеет право на доступ к питанию от электрической сети"). Это понимание универсализма состоит не столько даже в поиске фундаментальных определений, сколько в поиске фундаментальных смыслов, не теряющихся при замене сущностных формулировок. Поэтому смыслы "прав робота" уже включены в формулировки "прав человека", однако степень проявления этих смыслов и их приоритетность совершенно различна. Меньше всего поэтому стоит рассматривать "права робота" в привязке к определенному пакету технологий - скорее они актуальны в мета-этическом, трансгуманистическом и других смежных контекстах. Появление и последующее доминирование киборгов как субъектов общественных отношений заменит сущностную формулировку "робот" на новую, включающую людей, транс-людей, искусственные интеллекты, сконструированные организмы и так далее.

"Загрузка сознания" и "искусственный интеллект"

Между этими понятиями нет принципиальной разницы. В обоих случаях речь идет об установлении взаимно-однозначного соответствия между ментальной функцией и физической структурой. Разница состоит в степени проявленности этого соответствия: в случае искусственного интеллекта речь идет о полном проектировании ментальной функции (потенциально более ограниченной, чем в случае прямой отсылки к "сознанию"); загрузка сознания предполагает лишь возможность проецирования одной физической структуры на другую (не обязательно идентичную). Именно поэтому можно утверждать, что возможность загрузки сознания является "демонстрацией концепта", иллюстрацией принципиальной возможности проектирования интеллекта в полном смысле слова. Справедливости ради стоит отметить и языковой аспект: artificial intelligence (AI) и mind uploading (MU) несут еще более близкую смысловую нагрузку из-за значительно расширенного спектра значений mind.

Сущность, субъект, существенность

Независимо от конкретного определения дискуссия сводится к выяснению того, что является конечной целью проектирования или копирования - будь то "интеллект", или "сознание", или, расширенно, "разум"-"mind". Относительно того, что именно мы проектируем или копируем, может быть как минимум три принципиальные позиции: "эссенциализм", субъективный идеализм или позитивизм. Позитивистский подход постулирует существование разума, основываясь на опыте наблюдения/общения. Именно при этом подходе тест Тьюринга оказывается правомерным методом определения присутствия другого разума, будь то машинный или биологический. В конечном итоге в позитивизме разум рассматривается как существенность - ценность, статус которой подразумевает ее объективное бытие.

Права робота и позитивизм

В определенном смысле позитивизм был той теорией разума, которая отстаивалась в предыдущих статьях о правах робота. Однако в подходе, который использовался в этих статьях, существенность оказывается первичной по отношению к тесту Тьюринга. Таким образом позитивистская трактовка расширялась, включая некоторые идеалистические моменты. Это было необходимо для снятия серьезных проблем, присущих позитивизму как предпосылке к построению этики. В частности, позитивизм не предписывает никаких оценок в случае, когда объект наблюдения не демонстрирует каких-либо функций. Практически, это значит, что провал некоего частного воплощения теста Тьюринга служит основанием для общего суждения относительно субъектности. Первое право призвано регулировать конструктивную сложность социоботов для избежания этой проблемы. Напротив, второе право ограничивает влияние идеалистических концепций, запрещая рассмотрение создаваемого социобота как "проекцию" неких существенностей. Таким образом, баланс между позитивизмом и идеализмом определял формулировку прав робота с самого начала. Предлагаемое третье право продолжает работу в этом направлении, расширяя контекст экспериментов в области AI для включения проектов загрузки сознания.

Логическая автономность

С точки зрения онтологии позитивизма, объект определяется через совокупность всех множеств, включающих этот объект. Теоретически, такое перечисление множеств в состоянии однозначно идентифицировать объект; здесь можно усмотреть теоретико-множественное основание закона Лейбница о невозможности существования нескольких абсолютно идентичных сущностей. На практике, однако, исчерпывающее перечисление множеств, к которым принадлежит объект, невозможно. Это связано не только с ограниченностью наших знаний об объектах, но и с ограниченностью наших возможностей по определению множеств (как показал Рассел, Канторовское "учение о множествах", допускавшее произвольные определения множеств, парадоксально). Из этого следует невозможность идентифицировать объект путем перечисления включающих его множеств и, в свою очередь, необходимость отдавать предпочтение одним множествам перед другими как более существенным для определения объекта.

Вышесказанное особенно очевидно для таких копируемых объектов, как программное обеспечение. Копия некоей программы определяется как таковая на основе серии тестов, выявляющих ее функциональность. При этом суждения о функциональности программы относятся ко всем ее копиям как к единой сущности, независимо от конкретной (неповрежденной) копии, которая является предметом обсуждения. Иначе говоря, копии одной и той же программы не обладают в нашем представлении логической автономностью, несмотря на очевидную сущностную автономию, уникальность физической структуры (например, магнитных полей на носителе), взаимно-однозначно соответствующей каждой копии. Аналогия между искусственным интеллектом, загрузкой сознания и копированием программного обеспечения заставляет поставить вопрос о том, будет ли обладать логической автономностью "загруженное сознание".

Сформулировать проблему таким образом, в отрыве от материалистических или идеалистических предпосылок, позволяет только позитивизм, но в его рамках решение достаточно произвольно и зависит только от наших приоритетов. Исходя из того, что всякое перечисление множеств (идентификация объекта) неизбежно частично, любой тест Тьюринга также частичен; здесь кроется объяснение проблематичности теста Тьюринга, о которой сказано выше. С другой стороны, в эссенциализме решение проблемы, вероятнее всего, положительное, ведь в каждом случае копирования мы имеем дело с воссозданием определенной структуры; субъективизм же не в состоянии дать однозначного ответа на этот вопрос.

Третье право робота

Поскольку, стремясь к универсализму, мы не можем вдаваться в дискуссии между различными определениями разума, наше решение этой проблемы должно быть приемлемым в любой из принципиальных подходов. Отсюда однозначно следует формулировка третьего права робота, связанного с проблемой логической автономности.

Робот имеет право на индивидуацию.

Индивидуация здесь понимается как приобретение и сохранение логической автономности. Каждая копия искусственного интеллекта или загруженного сознания рассматривается как новая уникальная существенность, со всеми вытекающими отсюда последствиями.

Потеря "Оригинала"

Одним из важных последствий становится проблема оригинала. Предлагаемое третье право влечет за собой однозначный ответ относительно того, какая из копий "загруженного сознания" должна рассматриваться как существенность-Оригинал, остающийся неизменным после копирования. "Престиж" Кристофера Приста - хорошее исследование проблемы в наиболее экстремальной ее форме.

Поскольку тест Тьюринга в силу своей частичности не позволяет выявить Оригинал, возникают, в определенном смысле, парадоксальные следствия. В случае невозможности сущностного различения копии и оригинала (например, путем детального анализа физического процесса копирования) мы обязаны полагать, что ни один из субъектов не является Оригиналом; таким образом, существенность-Оригинал исчезает из реальности в момент копирования. Любое другое предположение будет логически несостоятельным.

Этот парадокс (не в логическом смысле, но в смысле противоречия интуиции) накладывает определенные ограничения на применения "загрузки сознания". Второе и третье право робота в совокупности запрещают посмертное (и тем более прижизненное) воссоздание личности по эмоциональным мотивам; третье же право в сочетании с первым предписывает избегать ситуаций, приводящих к "потере Оригинала". Взятое отдельно, третье право предписывает определенную адаптацию искусственно созданных разумов. Оно предусматривает необходимость программы индивидуации, которая бы подкрепляла логически автономный статус сознания с точки зрения субъективного идеализма и эссенциализма. Индивидуальное до-обучение каждого из вновь созданных "искусственных интеллектов", адаптация и "ре-социализация" загруженного сознания и людей, соотносящих его с определенной существенностью - все эти меры помогут наработке как собственной субъективной реальности, так и физических, субстратных, сущностных различий между автономными субъектами.

x-post to ru_transhuman