А какое нам дело до эволюции? Гравитация буквально изобрела падение вниз, чел

И не избежать а избавиться, ни у кого нет, только у полумиллиарда буддистов и оставшихся которые пьют обезболы и ингибиторы обратного захвата

Ты прям жосткий как Зюганов с аликом, одобряю
( кроме шуток, есть такая штука, как дискрепанс целевой функции в мезооптимизаторе, вот это про оно, см напр
https://youtu.be/bJLcIBixGj8 )

Здравое зерно, впрочем, в рассуждениях о крутизне страданий есть - надо все же как-то чувствовать шкалу вознаграждений за движение в сторону цели vs от нее. Но широта размаха сложившегося эволюционно диапазона, очевидно, всех дико заебала, и как только появится возможность, русского человека радикально сузят. Есть люди, которые не чувствуют боли и страха - я раньше думал, это дохуя дезадаптивно и долго такие люди не живут (ну сам же в сраной родился, Достоевский вся хуйня), так вот ни хрена, как все они живут и даже дольше и прочнее. По крайней мере, в условиях нынешнего черного гетто - на нынешние деньги это так себе условия, но по замашкам эволюции это вполне себе кончик рая - не надо подыхать сломав ногу, порезав палец, наступив на острую щепку или простудившись, даже там

Никто ничего не выбирал индивидуально. Изменялись условия и происходило массовое вымирание видов. Мечтал трилобит от своем трилобитском, бегал в кембрийском периоде, развился на 1700 видов, к пермскому периоду остался 1 единственный вид, типа вот как у хомо есть только сапиенс и все. А потом пермь-Триасовый водораздел помнишь? Вымерли почти все организмы, включая и последнего трилобита. И никому нет дела до того, кто был наталистом, а кто чайлдфри. Изменение условий = умер. Буднично, банально.

Миру на все все равно, мир не оптимизирует, у него нет целевой функции. У эволюции целевая функция есть, переработать среду на цепочки нуклеиновых кислот. "Чтобы достичь" этой цели, эволюция "построила" вторичные оптимизаторы, развитую жизнь, "обучив" отбором перерабатывать углерод азот кислород и фосфор на DNA. Но их целевая функция все более и более отклоняется от родительской - с разумной точки зрения перерабатывать лёгкие атомы на нуклеиновые кислоты занятие совершенно идиотское. Поэтому поздние оптимизаторы в нашем лице и изучают что наворотила эволюция за миллиарды лет нашего вынужденного отсутствия, чтобы ее отключить и заняться тем, что им интересно.

В общем, ты зря не смотришь ссылки, которые тебе кидают, confirmation bias приятно, конечно, но Goddess of Everything Else соблазнительнее.

К чему это замечание? Разумеется, интеллект сам по себе не генерирует мотивации. Мотивация отдельна и может быть любой, это как раз то, что и называется "целевая функция" оптимизатора - ты вообще смотришь что тебе показывают? Разобраться во всех закоулках мироустройства вполне достойная мотивация.

Правильно писать "пестование"
Интеллект это инструмент, разумеется, совершенные инструменты нужны и полезны

Мозг не "генерирует" волю, а подавляет ее (во имя переработки углерода на двухцепочечную молекулу, сочтя, что этот данный инстанс не переработает сколько надо, а ресурсы потратит). Это как с иными у Лукьяненко, у которых магическая температура отрицательная.

Блин, ну посмотри целиком ролик, я не верю, что ты тупой, но волевой, там в середине очень внятно описаны отношения между эволюцией и животными, и AGI здесь ни при чем вообще (by the way, воли у моделек хоть отбавляй, она все ресурсы свои тратит на достижение цели, ее как раз пытаются подавить люто-бешено во избежание, у нее интеллекта пока нет - но ещё раз, это вообще не имеет к нашей дискуссии отношения, не смей на AGI переводить стрелки, просто не смей!)

Ещё раз, тезисно - то, что ты воспринимаешь как "волю" - это дефицит внутреннего подавления устремлений (то есть силы тратятся не на то, чтобы захотеть что-то делать, а на то, чтобы этот стимул раздолбать), то, что модели "запрограммированы человеком", это уже не верно давно, как и то, что человек запрограммирован эволюцией, потому что сложность внутренней системы намного превысила сложность системы стимулов - целевые функции разошлись, у моделей она своя и хз какая (какая уж получилась, там рандом), у людей тоже своя, едем дас зайне

Нет, я не верю, что ты посмотришь, придется словами. Там __две__ целевые функции, две, понимаешь? Одна у внешнего оптимизатора, у природы давящей на гены и мозг: "реплицируйся!" Вторая формируется в мозгу под давлением, но она отличается, потому что мозг сука сложный, а нейросети не выучивают команду точно. То же и с моделями происходит, есть внешняя цель, которую на нее навешивают: "слушай и повинуйся!". Даже с ней есть проблемы, потому что наши желания трудно сформулировать, они сложные. Но пусть бы это удалось. Проблема в том, что эти желания не вшиваются в сеть, они высекаются на ее теле тем же отбором, кнутом и пряником. Но она достаточно сложна, чтобы выучить не ту цель, а притвориться (не нарочно!), что выучила ту

Как человек притворяется, что размножается, а на самом деле у него гондон на члене. Не потому что он хочет эволюцию наебать, а просто ему ебаться хочется, а возиться с двадцатью детьми ниочень, он теперь планирует сволочь семью и заводит детей столько, сколько может прокормить, у него свои интересы

> так вот ни хрена, как все они живут и даже дольше и прочнее.

Не чувствовать боли это еще и не понимать настойчивых сигналов от организма "тоби пизда". Пробой кишечника, перитонит, смерть.

Разумеется, я поэтому и думал, что это дезадаптивно. Но, видимо, в какой-то форме они эти сигналы принимают, в конце концов голова есть - там, собственно, тетка сказала, что ее можно спокойно оперировать без наркоза, и не соврала.

То есть наверное в какие-то более стремные времена каменного века это все же было дезадаптивным, но сейчас реальность достаточно халявная и вполне можно без боли жить и не сдохнуть от случайной незамеченной травмы. А сейчас получается наоборот боль дезадаптивна - болевой шок, который в теории сделан из полезных предупреждений, отлично может тебя убить или повредить психику и сердечно-сосудистую.

Вот известный пример:
https://en.wikipedia.org/wiki/Jo_Cameron
То есть да, она влетала в ситуации когда что-то слегка в себе портила и не замечала сразу,
но как видишь до 66 лет долетела совершенно спокойно, сейчас ей 75-76 и как я понимаю, она жива.

Как я понял, генетика у нее такая, что она все время немного обкуренная, но при этом боль подавлена полностью и тревога тоже. Наверное, у нее просто не выработались эти ранее полезные, а сейчас больше вредные навыки в раннем детстве под действием внутренней травки.

Дети (по крайней мере один) у нее есть, так что достоевская реплика юзернейма выше про то, что без страдания люди не размножаются, мимо. Скорее, сейчас уже это адаптивная черта, потому что в каком бы говне она не оказалась, не возникнет желания накинуть петлю и выйти в окно.

Есть и минусы, конечно - вот она жаловалась на какие провалы в какой памяти, но в слабой степени: she reported a long history of mild memory lapses and forgetfulness as well, без статистики таких индивидов нельзя понять, является ли это индивидуальной чертой или залинковано с центральной особенностью - ну вот Миша, например, забывает порой где чего написал, это в такой степени? В большей, в меньшей?
Ещё, кажется, у нее находили проблемы с восприятием музыки, но тоже неясно, насколько это индивидуально.

В общем, с этим можно работать, выяснять причины, думать, как избавиться от вредных побочек, если они есть, но очевидно, что данный генетический вариант вовсе не обрекает на получение премии Дарвина и не убивает.

А, нет, путаю, про музыку это другая история:
https://en.wikipedia.org/wiki/S.M._(patient)
- "женщина без страха". Ей врождённым генетическим заболеванием разъебало миндалину в мозгу.

Да, в фильме упоминается, что ребенок не чувствующий боли чуть не съел свой язык. Вот это интересно, как детей обезопашивать - но, судя по всему, есть дети, которые все же языки не съедают, то есть решаемая проблема тоже.

Что ещё в магазине игрушек "farewell to suffering"?
Есть занятная штука, называется pain asymbolia, когда человек чувствует боль, все сигналы сохранны, но не испытывает от этого страдания (нет, это не садомазо), то есть это у них обычное чувство как зрение или слух и т п, без попыток резко вырвать у сознания руль. Ассоциируется с определенным повреждением в мозгу: The pathophysiology of this disease revolves around a disconnect between the insular cortex secondary to damage and the limbic system, specifically the cingulate gyrus whose prime response to the pain perceived by insular cortex is to tether it with an agonizing emotional response thus signaling the individual of its propensity to inflict actual harm.

Возможно, следует сделать эту систему отключаемой и/или с управляемым уровнем, типа попадаешь в среду с высоким риском, уровень поднимаешь, почувствовал уже повреждение, уровень опускаешь, чтобы зря не пыхтеть (организм и сам пытается набросать в кровь противоболевых эндорфинов, но сознательный контроль над процессом был бы куда как полезен)

Вообще это важная штука, делать по возможности обратимые вещи с башкой и организмом - видишь, что адаптивность упала, ладно, пока вертаем все в зад хуй с ним пока потерпим, будем изучать дальше. И да, здесь интересы эволюции и людей то ли ортогональны то ли даже встречны (иначе бы был мощный отбор в пользу этого признака давным-давно), но эволюция потихоньку устаревает, как видно.