Второе право робота
Начиная с 2005 года, группа исследователей в Японии и США проводит эксперименты в домах престарелых и нейрохирургических клиниках, разрабатывая метод психотерапии с использованием робота-компаньона - морского котика Паро. Паро способен укрепить социальные связи в группах пациентов, как и обеспечить эмоциональное общение для тех, кто оказывается изолирован от группы в силу каких-то причин. Основное предназначение Паро - заменить животных, которые раньше вовлекались, и вовлекаются сейчас, в подобные терапевтические методы.

Поведение Паро достаточно сложно, он вызывает глубокую эмоциональную реакцию - люди разговаривают с роботом, улыбаются ему и обращаются с ним, как с ребенком. Робот имеет и оборонительные рефлексы - он реагирует на резкие стимулы и насильственные действия.

Робот Паро сконструирован с нарушением "первого права робота" - права не вызывать сомнений относительно своей субъектности. Люди, которые взаимодействовали с роботом, расходятся во мнениях относительно его эмоционального равенства с животными.

Любит - не любит?

Появление этого робота именно в Японии, возможно, отражает синтоистское неразличение живого и неживого, одушевленного и неодушевленного. Ничто, кроме антропоцентризма и прочих центризмов, не дает нам права думать, что робот есть худший компаньон для эмоционального общения, чем живое существо.

Однако нам не безразлично, насколько сложным (или насколько простым) будет поведение нашего эмоционального партнера. В простом факте того, что мы предпочитаем робота, например, плюшевой игрушке, уже заложены серьезные ценностные соображения. Сложное поведение нашего эмоционального партнера мы (возможно, не вполне последовательно) считаем благом. Следовательно, мы не можем самопроизвольно ограничивать доступ пациента к этому подразумеваемому благу.

Этические соображения в данном случае требуют наделения робота, обладающего высокой социальной значимостью, одновременно и сложными поведенческими характеристиками, то есть тем самым ведут к проблематизации субъектности и нарушению первого права.

Личная значимость и социальная мобильность

Робот высокой социальной значимости со сложными поведенческими характеристиками должен быть признан социально полноценным индивидом, а это очень проблематично. Для решения этого вопроса необходимо разделить личную значимость и социальную мобильность, которые мы раньше рассматривали совместно под именем "социальной сложности". Поэтому понадобится введение уже не двух, а трех параметров, описывающих робота как социобота. Опишем их как три оси пространства вариаций.

Первая ось - как и раньше, поведенческая сложность.

Вторая ось - личностная значимость для клиента. Она разделена с социальной сложностью, то есть способностью мобилизовать "социальный ресурс".

И третья ось - социальная сложность, точнее, социальная мобильность.

Как выглядит ситуация социобота с высокой личностной значимостью и низкой мобильностью? Легко видеть, что здесь мы могли бы попасть в очень затруднительную ситуацию, например, описанную у Рэя Брэдбери в "Наказании без преступления". Робот с низкой социальной мобильностью ("персональный робот"), обладающий высокой личной значимостью и сложным поведением тоже должен быть признан субъектом. Персонаж Брэдбери приговорен к смертной казни за тайное убийство робота, скопированного с его жены.

Второе право робота

Решение состоит в ограничении возможной личностной значимости робота. Это можно сформулировать в виде "второго права робота".

Робот имеет право не быть объектом привязанности.

Почему это "право"? Потому что оно сродни не-проблематизации субъектности - робот имеет право не сталкиваться с проблематизацией своих эмоциональных потенций. Вопрос "любит-не любит" не должен задаваться по отношению к тому, кого общество не признает субъектом. Понятно, что любое этическое столкновение, особенно любовь, связано с подобными вопросами. С другой стороны, мы не имеем возможности ограничить нормативно появление и проявление этой привязанности - мы можем лишь ограничить усилия к ее провоцированию со стороны конструктора.

Личная значимость, в отличии от поведенческой сложности и социальной мобильности, не может быть запроектирована. Она не может быть запроектирована ни при каких обстоятельствах. В противном случае, при высокой сложности поведения мы получаем Кэти из "Наказания", при относительно низкой - робота Паро.

При этом высокая социальная мобильность Паро, кажется, не вызывает никаких проблем. Существуют исследования, свидетельствующие, что публичное общение с Паро в группе пациентов укрепляет социальные связи внутри этой группы. Мы говорили о том, что социально мобильный робот активирует некий скрытый и неизученный "ресурс социального взаимодействия". Здесь ситуация весьма напоминает опыты Кейси Кинзер с "твинботами".

Простейший пример социоботов - игрушки. Игрушка обладает высокой социальной мобильностью и в этом состоит ее основное назначение; ее личная значимость только потенциальна, она проявляется или не проявляется спонтанно и этот процесс не поддается никакому контролю. Робот Паро сразу спроектирован так, чтобы получить высокую личную значимость, все его поведение нацелено на провоцирование глубоких эмоциональных переживаний у пациентов.

В этом и состоит разница.

В одной символической классификации неодушевленные предметы делятся на инструменты, игрушки и произведения искусства. "Второе право" можно сформулировать проще: робот может быть либо инструментом, либо игрушкой.

x-post to ru_future