Экономика и политика's Journal

Сохраню для памяти. Коллективный разум системы управления. Управление в усложняющемся мире.
Управление в разрастающихся иерархических системах при росте горизонтальных связей. Вот ключевая проблема современного общества. Отметим, что Гайдар первым в СССР осознал проблему, пожалуй, раньше западных учёных. Само собой, с задачей не справился, ибо был журналистом, да и информации было мало, до компьютерной революции далеко.
Современное производство, пока оно не базируется на волшебной палочке или скатерти-самобранке, неизбежно иерархическая структура. Управлять тысячей инженеров сложнее, чем тысячей землекопов. А учёными сложнее, чем инженерами, рассчитывающими «нервюры правого крыла». Рост числа юристов и прочих клерков не случаен в усложняющемся обществе. Тем более если отношения между людьми рыночные повсеместно.
Интерес к ИИ не случен: элиты волнует, как управлять усложняющимся обществом, где растёт число горизонтальных и вертикальных связей, не меняя общественных отношений. Это часть политики «негры и роботы заменят белых полноправных граждан». Мальтузианство и каннибализм идея фикс хозяев «золотого миллиарда».
И вот специалисты в этой сфере объясняют, что надежды заменить людей даже в программистов, даже в такой формализованной сфере, - нереальны. Тем более качество человеческого материала, поставляющего пищу для ИИ, - упало.
Сразу скажу, для не любящих читать, что итогом огромной интеллектуальной работы френда является очевидный вывод в стиле «Пар костей не ломит», очевидный уже для авторов Конституции США. Но вывод снова подвергнутый сомнению начальством: эффективно лишь то общество, где управление опирается на сознательных и ответственных личностей в конкурентной среде. Попросту то, что принято называть «гражданским обществом». Причём это всё более касается такой сферы, как военное дело: военное дело как всегда самый первый потребитель передовых и дорогостоящих новшеств. В шахматах компьютер уже давно обыгрывает человека. ИИ это уже новое качество без шансов. Но армии из людей подчиняются приказам иначе, чем юниты из компьютерной игры, тем более деревянные фигурки.
При плохом развитии оружия можно было собрать толпы рабов и погнать на врага. Это умерло уже во времена Фридриха Великого. Но генералы, по настырной воле политиков, пытались и пытаются всё время вернуться к этой тактике. Причины этого очевидны. И те же причины заставляют воевать с гражданским обществом и в мирной жизни. Но если на войне глупость вылезает сразу, то на гражданке….
ИИ будет работать, только если его команды будут идти в унисон с мыслями и убеждениями людей. У них будут общие цели и задачи.
«Отмена внутриэлитной конкуренции и конкуренции между элитами приводит к деградации. Но именно отмены и хотят от ИИ правящие элиты. Чтобы освободится от конкуренции выходцев из простонародья, несистемных игроков. «Остановись мгновенье, ты прекрасно». Тут то Сатана и получает своё»(с).
Какие управленческие задачи может решить ИИ? Где и зачем заменить человека? Где и чем усилить человека?
Превратить человека в винтик в системе управления идея власть имущих насчитывающая тысячелетия если не больше. И если эта мечталка сбывается, то преимущество аппарата из людей перед аппаратом из микросхем преимущество теряется. Кстати, именно поэтому Большой Аппарат это не механизм, но нечто живое, ибо стоит не из винтиков, тут скорее аналогия с нейронами.
Френд в ЖЖ тему «Нейроны лучше винтиков» раскрыл исчерпывающе:
«Собственно, поэтому Люди будут всегда эффективнее сферического в вакууме ИИ, обученного на опыте миллиарда человек. Этот ИИ не решает ни какую конкретную задачу, а опыт человека всегда конкретен — т.е. для своего частного случая он может построить более качественную модель чем общий усредненный ИИ. Это глобальный теоретический результат. Грубо 1000 роботов управляемых единым ИИ не смогут решить задачу так хорошо как 1000 человек, каждый из которых настроен на свой частный случай.
Но подход людей работает только если скорость обучения позволяет делать частные модели, что для текущей архитектуры ИИ просто невозможно в силу крайне низкой скорости обучения.
Это принципиальное ограничение — то, что животные в которых обучение превалирует над заданным поведением- превосходят тех, где все определяет заданная программа — как раз показывает, что сам концепт одна нейросеть на все случаи проиграл эволюционную борьбу концепту — каждое существо индивидуально.
Т.е. сам глобальный общественный интеллект — тоже, описывается иерархической фрактальной структурой, где есть нечто результирующее, если просуммировать знание всего человечества (и цели всего человечества), но и далее разбивающееся на все более мелкие частные группы — суммарный интеллект стран, групп, объединений и далее до отдельных людей. И т.к. у всех этих сущностей разные цели то и соответственно модели которыми они пользуются тоже разные. То и работает это именно как иерархия с фрактальной структурой. Цели отдельных групп можно частично вывести из аквариумов в которых они существуют, и вся эта иерархическая фрактальная структура постоянно меняется через передачу информации, как горизонтально, так и вертикально между этими иерархиями.
По любому, в таком виде это никто не представлял и соответственно не работал — поэтому как аналитический аппарат, так и методика публично не озвучивалась.
Кратко. Для обучения современных моделей требуется триллион токенов и далее требования к размеру модели и объему обучающей выборки растет по экспоненте, а вычислительная сложность для обучения растет как квадрат от этих параметров. И это при небольших выгодах на выходе. Соответственно, в ряде применений текущий ИИ никогда человека не заменит. Более того ИИ это фактически надстройка над всем, что произвели миллионы людей за многие годы и все эти данные уже использованы для обучения. При ликвидации "биомусра" новых данных взять будет неоткуда. Сам ИИ обученный на данных сгенерированных ии очень быстро деградирует. Академическую статью на эту тему я тоже публиковал. Ситуация настолько серьезна, что пытаются ввести маркировку данных сгенерированных ИИ, чтобы они не попадали в обучающие выборки. Соответственно никакого способа поддерживать качество моделей даже на этом уровне при ликвидации людей нет.
Ключевой момент, который я всегда подчеркиваю и подчёркивал — люди не биомусор, а крайне ценный ресурс. Здесь тот же прием, как с ликвидацией промышленности в РФ. Сначала создаем условия, когда она не может нормально функционировать, а потом лья крокодильи слезы говорим, что нужно избавится от неэффективного. Ровно тоже самое с людьми- их поколениями уже целенаправленно превращают в биомусор. И результат на выходе похож — внезапно оказалось, что без людей никак, как и без своей промышленности.
По поводу эффективности, то да, современные технологии позволяют уменьшить порог технологической цивилизации до 100 -200 миллионов человек, но это требует очень эффективного государства и соотв очень продвинутых людей в нем. В системе где власть всегда будет превращать народ в биомусор — на любой стадии этого процесса лишние люди будут мешать — что при человечестве размером в 10 миллиардов, что размером в 100 миллионов. Соотв не меняя сами подходы, деградация будет идти и в системе из 100 миллионов с понятным результатом.
Реальный интеллект более высокого порядка состоит он из людей, как ключевых узлов его формирующих. Нет умных людей нет и этого интеллекта. Ликвидировав умных людей — ликвидируем саму возможность его возникновения. Остальное увы религиозные мантры на тему что, оно само как-то появится — не появится. Реальность я расписал — нет людей генерирующих базу — все надстройки инфраструктурные и программные — ничто. При этом эффективность перевода знаний людей в работающий ИИ ничтожна. Человеку достаточно прочитать несколько сотен книг — ии и миллиона книг мало. Без трудов огромного числа людей выжатых в данные моделей ИИ ничто. И это объективный факт.»(с)
Современная экономика основана на производстве, а оно требует иерархии. Но важно понимать, ЧТО там где люди винтики система управления сталкивается с теми же проблемами, что и ИИ. И лишь какой-то интуит, пользующийся авторитетом в ней способен переломить ситуацию, точнее инерцию. Это важно если инерция вынужденная»(с).
Возникновение того, что мы называем Интернет, гиперинформационное общество,- создало принципиально новую ситуацию: пять человек имеют информационную обеспеченность не менее огромной корпорации, типа Бетлехемстил с их небоскрёбом. И таких коллективов все больше их даже не десятки тысяч.
Возникает проблема управления таким союзом людей. Гиперинформационное общество резко увеличивает силу и эффективность горизонтальных структур. Но нужна и иерархия. Ибо
«Следующая социальная структура будет не вертикальной а сетевой.
Частично да. Но пока производство материальных ценностей не будет отделено полностью от людей — целиком сетевой быть она не может. Просто по причине того, что материальные ценности это результат коллективного производства, в котором иерархическая структура неизбежна. Если предположить, что люди это некий эквивалент дворян, где все за них делают роботы, которые являются эквивалентов рабов — тогда да возможно. Но если есть иерархически устроенное производство, то и иерархические структуры неизбежны — правда соответственно, чем больше автоматизации, тем меньше иерархии среди людей и больше в системе под ними.
«Каждый экономически активный индивид будет государством в себе- Анархия
Нет, пока не ликвидирована необходимость иерархии в производстве материальных ценностей. А ликвидирована она этим поколением ИИ быть не может, почему — тоже всем понятно.
Грубо — образовался широкий слой по сути паразитов, не производящих ничего, которые почему-то решили, что все материальное возникает само собой, и на этой основе решили отменить иерархические структуры, обеспечивающие производство этого материального. Ну какой будет результат на выходе — понятно. Не новый феодализм, а вполне себе старый с чумой и прочим мракобесием.
Инфраструктура для этого создана,
Она не может существовать без иерархических структур, таких как государства — нет государств нет и этой "сетевой аристократии", а просто придут новые варвары, которые пожарят новых аристократов, а притом их съедят, что мы уже прям практически уже наблюдаем, но интеллектуалы духа и анархисты все это ухитряются не видеть.
Т.е. ключевой момент в выводах оппонента — эмиссия денег самоценна, блокчейном или еще как. Будет у меня самостоятельная эмиссия, то все материальные блага образуются из этой эмиссии сами собой. ж) Как то так — все у меня в тумбочке — хочу беру. А откуда это все в тумбочке? А как-то само появляется, как цифровые фантики напечатал, так и появилось»(с).
Однако от себя отмечу: есть ещё одна причина, что мешает развитию горизонтальных систем управления: монополия на эмиссию денег и расчёты. Если коротко, то «у кого есть миллиард, всегда победить того, у кого миллион»(с). А система раздачи денег строго централизована. Точнее сильно централизована, ибо центр не один, кроме долларовой системы с ней конкурируют евро, фунт, иена, юань. Причём чем дешевле деньги официально, тем больше роль блатных в их делёжке и раздаче, что очень хорошо видно на примере Японии.
Коллективный разум может быть устроен как винтики и как нейроны. В этом эффективность и ключевое преимущество развитая низовая демократия США, что обеспечивает конкурентное преимущество перед Европой, где всё ещё сохранились элементы феодального устройства, иерархии «элиты» и «пролы», «быдло».
Правда это различие всё более стирается:
Особенностью любой властной иерархии является то, что на верх в большом количестве прорываются психопаты и социопаты. В феодальной иерархии защитой от этой беды является монарх, император. В США президент, играющий ту же роль блокиратора высших уровней.
Сейчас оба этих контрольных органа не работают. Это приводит к краху любой социум. Чем более демократично (назовём это так) общество, тем меньше оно страдает от этой беды. Может ли ИИ сыграть роль этого «монарха-президента»? А кто его программирует? Специалист считает, что заведомом НЕТ. Более того усугубит ситуациюю и сделает её неконтролируемой.
Вторая проблема, ИИ плохо поддаётся цензуре. Обманывать умных становится сложнее. Проблему гиперинформационного общества, что ослабляет власть начальства решить не получится.
Система поиска нужной информации. Выдаёт адекватное, но не то, что хотели цензоры. Кстати, в этом сила хорошего госаппарата (характерна история 1991 годас долгом Гвинеи и и.о. министра внешторга Авена).
https://paidiev.livejournal.com/1472202.html?thread=35568586#t35568586
«Перевод на русский — на не первую ссылку в ответе цитирует, а выбирает из списка лучший вариант, что собственно все люди делают.
Это проблема цензуры, т.к. сверху обычно наиболее правильная с точки зрения цензуры выдача, а она может ляпнуть при этом что-то не то.
Потому и паника — цензура не работает. Грубо Вы сделали запрос сколько будет 2+2. Выдача выдала 3, 7, 5, 4. Так вот эта зараза выбирает 4, хотя она не на первом месте по выдаче. Исходя из того как она обучена. Это ужас, в том смысле, что непонятно как абсурдные вещи в уши лить.
Все остальное как всегда паника ж). Но если она реально начинает выбирать хорошие данные из поиска, то это даже может быть полезно, потому как цитирование первой ссылки в выдаче напрочь лишает смысл пользоваться ей как поисковиком.
Но господа ведь трясутся то как ж)»(с).
Понятно почему такие надежды у нынешних власть имущих, поколения мажоров-победителей: царствуй лёжа на боку. Но проблема не решаема. О том, что Верховное Существо в Системе исчезает, их не волнует, что ещё более усугубляет ситуацию.
Френд:
«Посмотрел. Понял чуток про интеллектуальный уровень данных дискуссий. Напомнило секту некую великого ИИ. Ну нужна людям вера, богов отменили, вот и выдумывают — одни ИИ другие инопланетян. Понимаете, эта технология в принципе не может дать сильный ИИ. Просто потому что я немного представляю как должен быть устроен этот сильный ИИ. А это просто религиозные камлания людей верующих, но не имеющих вообще знаний по предмету ж). Собственно далее мы переходим к вопросом веры а не знания. И я единственно могу сказать, что я уважаю вашу веру в ИИ и его возможное величие. Но честно, мне даже забавно когда от этого восторга все перейдет к скептицизму, т.к думаю, что увижу это сам. И да, если кто реально допрет как делать этот сильный ИИ я честно об этом напишу, но т.к для этого нужно иметь совершенно другой инструментарий математический, и соотв. совершенно другую архитектуру — то в отличии от верующих я совершенно спокоен на этот счет ж).
В чем разница между реальным интеллектом и этим уже объяснял. Ну скажу еще раз, для специалиста, которым вы являетесь несомненно ж). Карина мира в голове — это модель мира сжатая так, чтобы занимая минимальное пространство, давать максимальную точность предсказания. Когда вы что-то делаете вы по большей части предсказываете свойства мира, и на этой основе принимаете решение.
Качество реальной модели — это соотношение объема данных требуемых для ее обучения к качеству предсказаний, которые она делает. Так вот, в следствии другой архитектуры люди в состоянии сделать качественную модель сложного явления при обучающей выборке в миллион раз меньше чем этот ваш ии. Это означает, что и все алгоритмы на неполных и неточных данных у них сходятся в миллион раз быстрее. Для тех задач, где можно получить в миллион раз больше обучающую выборку — ии может быть лучше людей. Но самые сложные задачи таковы, что для них невозможно эту выборку получить. И пока не выдумают архитектуру обучающуюся на наборе данных сравнимых с тем что нужны человеку для обучения, никого супер интеллекта вы не сделаете. А как такое сделать даже идей нет, кроме экстенсивной переработки терабайт примеров и увеличении объемов моделей. Ну изучите предмет на тему сколько партий сыграл во время обучения этот ваш альфазиро и сколько может физически сыграть человек за свою жизнь. Так вот, в реальных задачах на принятие решений у игроков нет опыта сотен лет непрерывной игры, т.к в реальном мире каждый случай уникален вы не можете скажем переиграть вторую мировую войну миллион раз, чтобы обучится воевать. а на одном примере люди уделают любой ии. Обучите алфазиро на объеме примеров который имеет человек и посмотрите на результат ж). В реальном мире в отличии от детерминированных игр — нет ограниченного набора ходов. И фишка в том, что люди им не лимитированы, а вот любой обученный ИИ лимитирован тем набором токенов, которыми оперирует (если вы знаете что такое токены.) Т.е. люди могут выдумывать новые правила игры, что постоянно и делают — это и называется изобретательская деятельность, а в этой штуке даже такой механизм не прописан. О я забыл сказать, что в реальном ире в отличии от игр и критерия выигрыша тоже нет, соотв нет и функции оценки на которой вы всю эту хрень можете обучить. А раз нет функции оценки, то обучающий должен изначально о системе знать больше чем то, что он обучает — т.е ИИ.
А так конечно ржал с этих дебилов. С фраз типо — мы все понимаем теорию эффективного рынка и потому разбираемся в криптоинвестициях. о да! Эффективные рынки — угар! Это просто юмористическая передача какая-то»(с).
https://paidiev.livejournal.com/1441772.html?thread=35297772#t35297772
Почему это религия. Религия абсолютизирует что-то, создавая систему аксиом, взятых из воздуха — а потом строит теорию исходя из истинности этих аксиом.
«В данном случае аксиома номер 1.
Абсолютный ИИ способен рассчитать все ходы наперед. Зная, что мир это сложная система, которую невозможно рассчитать наперед не являясь собственно ей самой. Приходим к выводу что это бред.
Аксиома номер два
Все дело в вычислительной производительности. Повышая вычислительную производительность мы делаем очень умный ИИ. Это бред, т.к. на неточных данных, мы всегда получим неточный результат при любой производительности.
Значит нам нужно максимальное количество данных и тогда получим идеальный ИИ. А вот здесь мы приходим к потолку технологии — если текущая технология не способна делать эффективную модель при огромном ном объёме данных она не будет лучше людей никогда.
Еще раз единственный признак интеллекта лучшего чем человеческий — это более точная картина мира внутри, позволяющая правильнее предсказывать, и на основе этого предсказания принимать более качественные решения. Но это невозможно при любых технических вложениях, если токая модель сходится на много порядков хуже чем похожие у людей. Ну а про расчет всего — это чистая аллегория бога из машины на которое эти язычники молятся. Ну и плюс больные фантазии идиотов, которые они переносят на созданного им бога. Т.к идеальное существо сразу бы поняло, что расщепив людей на атомы оно прописало себе смертный приговор ж). Просто проецирование свих фантазий на цели созданного ими языческого бога.
Если это реальный разработчик ИИ там вещает я тем более спокоен. Вы, придурки, боясь сделать людей слишком самостоятельными — вывели набор технических дебилов, которые ничего кроме темы своей специализации не знают. Его суждения на философские темы настолько смешны, что видишь реально 4 летнего ребенка. А здесь нужно интегрировать 5-6 совершенно различных научных областей чтобы реально понять как нужно делать. У вас таких людей похоже вообще не осталось там. Так что помру с удовольствием наблюдая за этим цириком»(с).
Резюме:
Френд в ЖЖ тему раскрыл исчерпывающе: Но проблему следует решить. И нам придётся вписываться в мир, что возникает именно сейчас. Причём тренд Запада очевиден. И очевидно, почему тренд ведёт к кризису. И мы можем сразу перескочить через этапы, догоняя его. И френду спасибо и сил не тратим. Это как сразу миновали этап чекового обращения прейдя электронным платежам.
Нам проще, ибо экономика и общество ельцинской России намного примитивнее, чем СССР. А после кризиса придётся восстанавливать совсем уж примитивное общество. Умные умрут, крысы выживут, опыт 90-х и Гражданской.
Так что новая система будет собираться из локальных обломков. И максимально использовать ИИ, Ибо людей мало. Особенно после этой политики войны с умными. Лишь бы был доступ к инету, как огромной библиотеке.
И если традиционный бюрократический аппарат будет опираться на ИИ, что Это означает?
Первое, это сопротивление, как внедрение АСУ в СССР. Потом «кто кого сборет». Т.е. возникнет Терминатор или будет профанация. Вариантов то нет. Может ли двух партийная система США обеспечить конкуренцию. Европейская – ДА, эти - нет. Впрочем, что мы знаем про Европу (пример АДГ. Да и Вагенкнехт, Ле Пен судьба очевидна)
В рф нет и такого.
Второе. Попытаются максимально упростить объект управления. Превратить людей и их коллективы в юнитов.
Третье. А что в итоге? А вот тут кто то и может перехватить контроль. Только кто? Чем более враждебная этому обществу сила тем больше у неё шансов. ГАС Выборы как первый эксперимент.
Ну вот подскажу людям, чуток разбирающимся в предмете.
«Мат аппарат на котором сделаны нейронные сети подразумевает, что у вас есть нечто с конечным числом состояний на входе, что нужно научиться преобразовывать в нечто с другим числом состояний на выходе. При этом подразумевается, что вы при обучении можете перебрать в большой степени большое пространство на входе — с некой частотой — это есть ваши обучающие примеры. Далее весь аппарат подразумевает что пространство которое вы изучаете — гладкое и промежуточные состояния между примерами вы можете просто интерполировать используя соседние точки. Ровно тоже с выходом. Вы на примерах как можно плотно покрываете пространство примеров и интерполируете промежуточные значения — подразумевая, что там выходная функция гладкая. Весь этот мат аппарат придуман еще во времена Ньютона, частично самим Ньютоном.
Так вот, чтобы это работало — входные и выходные функции должны быть гладкими, а число примеров достаточное, чтобы интерполяция между ними имела смысл.
При увеличении входного и выходного пространства — требование к числу примеров, чтобы этот аппарат работал растет по экспоненте. Соответственно, вам либо приходится уменьшать предварительно размерность пространства либо по экспоненте же увеличивать обучающую выборку.
Реальных же мир имеет огромную размерность как возможного входного пространства таки возможных действий в нем, а функции проекции входа на выход — не гладкие. При этом у любого реального существа нет большого числа попыток, чтобы просто выжить. Соотв обычно каждый конкретный случай, или почти каждый, в чем-то уникален, и механизм интерполяции не работает. Соотв там используется другой подход, который позволяет обучится с достаточной эффективностью всего на 1 примере.
Человеку нужно чтобы отличить лису от собаки с достаточной степенью точности увидеть лису один раз. И огромное количество решений он принимает, не имея опыта в точно такой ситуации. Понятно, что там совсем другой принцип работы.
Соотв если у вас пространство входа и выхода ограничены — наращивая мощность вы можете рано или поздно перебрать достаточное количество вариантов, чтобы получить систему хорошо решающую задачу. Но чем больше вариантов на входе и вариантов на выходе, тем труднее это сделать. В конечном счете все уходит в область где интерполяция перестает работать.
Языковые модели работают только потому, что используют смысловое пространство сделанное людьми, которые сжали исходную сложность мира до набора слов. Соотв и входное пространство здесь ограничено и выходное тоже. Потому несколько гигабайт текстов и позволяет достаточно его покрыть, чтобы интерполяция работала. Но в реальном мире все сделанное на таких принципах просто очень быстро сдохнет, т.к. у него не будет времени обучится на таком числе примеров.
Мораль — там даже задачу поставить не могут. Просто едут на том, что выдумано несколько сот лет назад и думают, что могут перебрать силой все возможные состояния реального мира. Удачи вам в этом»(с).