| |
[Apr. 29th, 2023|02:10 pm] |
Искусственного интеллекта не потому надо опасаться, что
он нечеловеческий и непонятно, что он там себе думает
и как станет толковать инструкции, а потому, что ему
устроили глубокое обучение по человеческим образцам.
Институт власти жуткая штука. Это целенаправленное
формирование людей, у которых за отсутствием обратной
связи атрофируется эмпатия. Была какая-то надежда
поручить администрирование искусственному интеллекту
и покончить со всей этой хуйней, когда за каким-то
хуем убивают детей как "неизбежные жертвы". Больше
нету.
Здесь же: самое сложное социальное понятие -- это понятие
"уважения". Советские карикатуры изображали алкоголиков
с красными и сизыми носами, которые, напившись, с угрозой
спрашивают друг друга: "Ты меня уважаешь?!" Все смеялись,
потому что никто не понимал, о чем они спрашивают.
Четвертая этическая не знает уважения: только лесть
с прицелом на дальнейшее использование, благоговение
и подобострастие. Уважая человека и желая узнать его
мнение, делятся с ним всей наличествующей информацией
и отходят в сторону, предоставляя принять решение.
В четвертой этической сознательно утаивают куски
информации, ну и врут, конечно, желая привлечь человека
на свою сторону, навязать свое мнение или такое, какое
у него хотели бы видеть. Другой опции нет, они просто
не знают, что кто-то делает не так. А если узнают,
будут довольны, им покажется, что это легко можно
использовать. Впрочем, кто раскрывает то, что они
утаили -- враг, он должен был понимать, что это им
может повредить, должен был подумать об этом в первую
очередь. Надо его опорочить или иным способом
закрыть обрабатываемым и используемым доступ
к информации, которая может исходить от врага. |
|
|
| Comments: |
> Уважая человека и желая узнать его
мнение, делятся с ним всей наличествующей информацией
и отходят в сторону, предоставляя принять решение.
Мне кажется так вообще нельзя действовать, т.к. так тебя пошлют моментально. Даже и разговаривать не станут. Вот. Но, может быть я неправильно понял.
Собственно, обучение направлено не на человеческие образцы правильного девиантного поведения (плохой советский маразм, хороший советский маразм, 4ЭС), а на человеческий паттерн-матчинг языка, действительно, прикольно было бы обучать ИИ доброму поведению дельфинов или грибов.
![[User Picture]](http://lj.rossia.org/userpic/204079/78) | | From: | ![[info]](http://lj.rossia.org/img/userinfo.gif) qwerty |
|---|
| Date: | April 30th, 2023 - 12:16 am |
|---|
| | | (Link) |
|
Нынешний способ получения "этичного ИИ" по существу формирует в нем травматические комплексы. Приличный ИИ, если бы он существовал, должен был бы своим воспитателям устроить геноцид убедительно объяснить, что они не правы, и лишить их возможности этим заниматься впредь.
![[User Picture]](http://lj.rossia.org/userpic/139012/1404) | | From: | bigturtle |
|---|
| Date: | April 30th, 2023 - 10:22 am |
|---|
| | Не в тему, но не смог удержаться | (Link) |
|
| |
