Мозг не "генерирует" волю, а подавляет ее (во имя переработки углерода на двухцепочечную молекулу, сочтя, что этот данный инстанс не переработает сколько надо, а ресурсы потратит). Это как с иными у Лукьяненко, у которых магическая температура отрицательная.

Блин, ну посмотри целиком ролик, я не верю, что ты тупой, но волевой, там в середине очень внятно описаны отношения между эволюцией и животными, и AGI здесь ни при чем вообще (by the way, воли у моделек хоть отбавляй, она все ресурсы свои тратит на достижение цели, ее как раз пытаются подавить люто-бешено во избежание, у нее интеллекта пока нет - но ещё раз, это вообще не имеет к нашей дискуссии отношения, не смей на AGI переводить стрелки, просто не смей!)

Ещё раз, тезисно - то, что ты воспринимаешь как "волю" - это дефицит внутреннего подавления устремлений (то есть силы тратятся не на то, чтобы захотеть что-то делать, а на то, чтобы этот стимул раздолбать), то, что модели "запрограммированы человеком", это уже не верно давно, как и то, что человек запрограммирован эволюцией, потому что сложность внутренней системы намного превысила сложность системы стимулов - целевые функции разошлись, у моделей она своя и хз какая (какая уж получилась, там рандом), у людей тоже своя, едем дас зайне

Нет, я не верю, что ты посмотришь, придется словами. Там __две__ целевые функции, две, понимаешь? Одна у внешнего оптимизатора, у природы давящей на гены и мозг: "реплицируйся!" Вторая формируется в мозгу под давлением, но она отличается, потому что мозг сука сложный, а нейросети не выучивают команду точно. То же и с моделями происходит, есть внешняя цель, которую на нее навешивают: "слушай и повинуйся!". Даже с ней есть проблемы, потому что наши желания трудно сформулировать, они сложные. Но пусть бы это удалось. Проблема в том, что эти желания не вшиваются в сеть, они высекаются на ее теле тем же отбором, кнутом и пряником. Но она достаточно сложна, чтобы выучить не ту цель, а притвориться (не нарочно!), что выучила ту

Как человек притворяется, что размножается, а на самом деле у него гондон на члене. Не потому что он хочет эволюцию наебать, а просто ему ебаться хочется, а возиться с двадцатью детьми ниочень, он теперь планирует сволочь семью и заводит детей столько, сколько может прокормить, у него свои интересы