1 Введение в социальную робоэтики
2 Понятие социальной робоэтики.
3 Ещё раз о социальной робоэтике

Я переименовал тэг в "социальную робоэтику" и поясню зачем это нужно.

Не более, чем через 15 лет появятся нейронные роботы. Части из них будет построена на биологических нейронах, часть на химических, но самое главное - их нельзя будет "прошить" знаниями и умениями, только научить.

Сейчас нейронная система распознавания автомобильных номеров, к примеру - результат показа искусственному интеллекту десятков тысяч номеров с расшифровкой, а он, в свою очередь, создал матрицу, которая на основе этого обучения, распознает грязные и даже дописанные краской цифры.
Сейчас эту матрицу можно переписать и у вас будет копия системы распознавания.
Поменяется написание цифр - загрузят новую матрицу, написанную не программмистом, а сгенерированную в результате показа новых тысяч номеров.
Более того, в процессе система может дообучаться.

Если мы хотим достичь уровня интеллекта хотя бы собаки, мы не сможем хранить матрицы обучения по миллионам нейронов с десятками связей каждый. Системы станут неповторяемыми, обучаемыми.
Но даже если всё же копию нейронных связей можно будет скопировать, всё равно первого робота придется научить.

Профессия "тьютор роботов" станет самой  востребованной, самой важной.

Проектируя самообучающуюся систему мы должны правильно задать главную целевую функцию робота.
Она определит его робоэтику.

Положим, если целевая функция робота  сохранять себя, то он не будет выполнять указания, которые ведут к его поломке. Это правильно. Но он, естественно, будет строптивым и ленивым с точки зрения некоторых людей.

А если целевая функция робота размножаться, пусть и под контролем человека, предпринимать усилия к совершенствованию своих механизмов, ремонтировать себя и заменять блоки на более продвинутые, то робот будет зарабатывать деньги на своё развитие или каким-то образом заставит человека, хозяина или соседа, или инженера фабрики роботов сделать себе апгрейд любой ценой в рамках закона, понятно, чтобы его не разобрали следователи.  Например он создаст робоцентрическую религию для соседа, запугает хозяина тем, что без него не жить, или подкупит инженера.

Правильный выбор целевой функции, запрет неверных целевых функций на этапе создания, уничтожение роботов с неверными, запретными целевыми функциями по результатам тестирования инстинктов будет главной задачей этого столетия.

И конечно мы не допустим реализацию целевой функции жизни, не допустим гендерные различия и скрещивание генетической информации, потому что новая, механическая жизнь, вытеснит биологическую на ранг симбиотического помощника, ранг пищи или домашнего животного.

Изучение жизни с позиции робоэтики крайне важно как для понимания инстинктов живого - именно инстинкты основаны только на целевой функции, в отличие от навыков, так и для понимания целевой функции саморазвивающегося, самообучающегося робота.


Немного о целевой функции.
Самообучающаяся система стремится повысить уровень своего "счастья".
Взвешивает же уровень счастья целевая функция. Она взвешивает минуя нейронные связи, мируя логику, исходя из описанных в ней весовых коэффициентов от датчиков.
Если уровень счастья повысился - нейронные связи фиксируются, запоминаются.
Именно поэтому любому аппарату с нейронным процессором, включая людей, так важна похвала тьютора с положительным подкреплением.
Если уровень счастья понизился или не изменился - нейронные связи разрушаются, это были ошибочные действия, происходит откат к начальному состоянию. Безразличие тьютора ведет к не получению знаний.
Если появилась боль - нейронные связи фиксируются запрещая в дальнейшем такую последовательность действий.
Именно поэтому отрицательная критика эффективна только для запрета, но абсолютно бесполезна для развития и получения новых навыков.
Возможна ли подмена целевой функции?
Да, конечно, но только в конкретных условиях, при откате условий в начало вернется первоначальная целевая функция.
К примеру коллекционеры подменяют счастье от получения новых знаний и развития своего мыслительного аппарата, получения новых полезных навыков или зарабатывания полезных для данного индивидуума  денег на счастье  от коллекционирования.
Понятно, что если не будет других ценителей или будет совсем нечего есть ценность коллекционирования резко упадет в их глазах.


После столь пространных разъяснений мы, конечно же,  вернемся к нашему мысленному Главному Эксперименту Социальной Робоэтики - установлению роботам целевой функции жизни и что из этого получится.
Получатся ли десять заповедей? Получится ли тора? Получится ли категорический императив у наших этичных социальных роботов?
Чем будет отличаться по поведению робот-женщина от робота-мужчины?
Какими качествами и каким гендером будет обладать робот-учитель?
Появятся ли у них гомосексуалисты? Появится ли религия? Появится ли наука?
Будут ли у них войны? Будут ли они спасать недоношенных и старых роботов?

Поскольку эксперимент мысленный и ещё НЕ поставлен - ответов ни я, ни вы ПОКА не знаете.
Интересно, что получится?

Кстати, кто там на философском? На докторскую потянет, 146%.