Войти в систему

Home
    - Создать дневник
    - Написать в дневник
       - Подробный режим

LJ.Rossia.org
    - Новости сайта
    - Общие настройки
    - Sitemap
    - Оплата
    - ljr-fif

Редактировать...
    - Настройки
    - Список друзей
    - Дневник
    - Картинки
    - Пароль
    - Вид дневника

Сообщества

Настроить S2

Помощь
    - Забыли пароль?
    - FAQ
    - Тех. поддержка



Пишет dibr ([info]dibr)
@ 2007-06-20 22:54:00


Previous Entry  Add to memories!  Tell a Friend!  Next Entry
О мировом господстве
Fighting the world
               every single day
Fighting the world
               for the right to play

(c) Manowar


     Сижу тут, рассуждаю сам с собой о судьбах цивилизации, и у меня не сходится. Этакий философский провал в рассуждениях образуется - "тут вижу, тут вижу, в середине - не вижу".

     Человечество - очевидный тупик эволюции: сколь-либо существенное развитие человека в ближайшие несколько веков не предвидится, освоение космоса человеком (а не автоматическими станциями) - фантастика, а планетка у нас маленькая, если метеоритом не накроет, так ледниковый период придёт. А значит, очень хочется верить в качественный скачок - в создание нами (больше некому) новой, "машинной", формы жизни - условно говоря, "роботов" - которая и будет эволюционировать дальше, осваивать космос, и не имея (в отличие от человека) встроенных ограничений по самомодификации (вплоть до полной замены принципов работы аппаратной платформы) - таки станет венцом, а не тупиком эволюции.
     Отставим чуть в сторону чисто технологические вопросы: раз за нанотехнологии у нас взялся сам Президент, пусть у него голова теперь болит - да и на каком-то уровне технология способна будет "подхватить сама себя", используя для совершенствования самой себя - собственную же вычислительную мощность. Так что рано или поздно - нужную "степень интеграции" мы создадим. С другой стороны - ставшая самостоятельной разумная "механическая" жизнь уже не нуждается в внешних стимулах, и будет развиваться сама, без пинков со стороны человечества.

     А вот в промежутке - какой-то у меня провал в мыслях.

     Роботы давно паяют новых роботов - для этого много ума не надо. Робособачки "айбо" небезуспешно изображают настоящих, робопылесосы объезжают ноги в тапочках, роботы-болтуны давно сдали экзамен по тесту Тьюринга, и теперь соблазняют блондинок. Крупные компьютерные системы давно стали настолько сложными, что при взгляде со стороны уже не "работают по алгоритму", а явно "ведут себя" (особенно когда пытаются глючить). Забудем про шахматы - роботы уже помогают доказывать теоремы, разрабатывать новые модели физических систем, и хотя роботам пока не принадлежит ни одной теории - то это явно временно: если вспомнить, что простейшая из современных "единых теорий всего" - это 23-мерная теория суперструн (и говорят есть два или даже три человека, которые её понимают) - то я не удивлюсь, если следующий прорыв в области фундаментальной физики будет связан с тем, что разработку и проверку теорий отдадут роботам: у них башка большая, ещё не такое выдержит. В-общем, если роботы пока не научились думать - то уже довольно близки к этому.

     А провал в мыслях связан с тем, что для "самоподхвата" машинной жизни важна не вычислительная мощность, и не умение обыграть в шахматы. А важно целеполагание, инициативность - способность не просто найти наилучший (или хотя бы какой-то) метод решения какой-то задачи, но способность самому поставить себе цель - исходя из окружающей реальности и какой-то, опять же самостоятельно придуманной, "миссии". И каким образом может произойти переход от всё более и более "умного" решения задач, поставленных человеком, к настоящей инициативе, к целеполаганию - мне как-то не представляется.
     Есть, правда, читерский вариант - задать в качестве метазадачи, "миссии", задачу "сделать больше роботов". Как метацель это в принципе прокатит - в результате мы получим и эволюцию, и экспансию в космос как побочные эффекты - но как-то несолидно это для цивилизации будущего, пользоваться мотивацией времён одноклеточных водорослей, хочется чего-то более высокого, светлого, такого какого-то сверхразумного что-ли... иначе проще не строить роботов, а распылить над марсом бактерий побольше, и пусть они там сами эволюционируют, авось до разумной жизни доберутся. Да и уже практический нюанс - роботов-то мы, человеки, создаём и программируем - и подобную программу в чистом виде вряд ли кто рискнет заложить.

     Поэтому прямого пути от киберразума до киберинициативы мне не видится. Но видится ещё один читерский, вдохновленный Лемом - может помните, про эктофикацию в "осмотре на месте"? При этом тамошние нанороботы (у Лема - "шустры") сначала осваивают то, как работают отдельные клетки человеческого тела (включая мозг), а потом, постепенно - подменяют их работу собой. Получается... забавно получается :-)
     Но в прямую эктофикацию "по Лему" я не очень верю - не будет таких технологий, во всяком случае сколь либо скоро. Вот заняться конкретно мозгом, причем "удаленно" - более-менее верю. Сначала "улучшать" сознание, подцепляя к мозгу новые источники информации ("органы чувств") и возможности по манипуляции (зачем писать в ЖЖ тарахтя по клавишам, если достаточно завернуть нервные импульсы куда надо). Затем - постепенно подменять собственно нервную ткань "кремнием" - механическими приспособами, делающими "то же самое, но чуть лучше" - при этом вынося реализацию за пределы собственно мозга: зачем захламлять черепушку лишним железом, когда можно использовать её как терминал к более мощному внешнему разуму (кстати, надеюсь всем очевидно что там, в будущем, всё будет повязано в одну большую и очень быструю сеть, и работать совместно и весьма слаженно?). Сознание при этом будет всё больше и большей частью находиться там, "в машине" - а "тушка" будет всё больше напоминать радиоуправляемый терминал... и в какой-то момент окажется, что весь разум распределен в сети - а тушка... а что тушка, тушку можно и выкинуть - она своё дело сделала, отдала разум из мозга в машину, и больше не нужна.

     И получится мировая цивилизация роботов, "целеполаганием" которой - то есть, по сути управлением которой - будет заниматься один человек. Тот, кто решится на подобную эктофикацию, и сможет её провести.

     Кто тут во властелины мира последний? Я тоже хочу! :-)


(Добавить комментарий)


[info]dr_morro@lj
2007-06-20 20:01 (ссылка)
Если в качестве целеполагания для искусственных устройств положить "сделать больше роботов", то может фигня получиться. Товарищи могут пойти экстенсивным путём, в итогах это "электронное движение" может выродиться в ту-же эволюцию: при комфортных условиях для размножения устройств, рискуем получить кучу микроботов.

А нам надо получить изучение свойств текущей вселенной и "грандиозные космические корабли и устройства".
Этого можно достичь поставив в качестве целеполагания: убить всех людей уничтожить Вселенную.
Тогда роботам придётся изучать вселенную, и (по крайней мере на текущий момент) размножаться и распростроняться по вселенной. 8-)

(Ответить) (Ветвь дискуссии)


[info]dibr@lj
2007-06-21 15:03 (ссылка)
     Тут есть нюанс. Даже два. В-общем, есть тут ряд нюансов :-)

     Жизнь, которую ухитрилась создать Природа - в явном виде Миссии не имеет (если не впадать в креационизм), и отсюда и растут ноги у всех этих рассуждений про Свободу Воли, и инициативность/целеполагание как характеристическое свойство разума.
     Однако, Миссия на самом деле есть, и миссия эта проста: выживание живого. То живое, которое такой миссии не имело - вымерло в конкурентной борьбе с тем живым, что выжить хотело - и потому по факту получается, что простейшее "выживание живого" вполне катит на роль Миссии, причём возможно даже для сверхцивилизации.
     Замечу, что более конкретно сформулированные вещи - выживание особи, и даже выживание вида - вторичны по отношению к выживанию живого: особь интересует природу до тех пор пока особь способствует выживанию вида (и самопожертвование особи ради выживания группы не только "вшито" в прошивку простейших коллективных насекомых, но встречается и у высших животных), да и вид, по сути, важен постольку, поскольку участвует в биоценозе (хотя сам вид, конечно, будет пытаться выжить практически всеми силами) :-)

     Но насчет вшивания роботам "выживания жизни" в качестве миссии - есть нюанс. Природа оттачивала взаимодействие всех и вся "снизу", от простейших - и огромное, немеряное количество нюансов вшила на уровне инстинктов, а то и "конструктивных особенностей". А уж что на такой платформе возник разум (как высшая форма приспособления) - это уже побочный эффект, да и разум этот тесно зажат вшитыми на инстинктивном уровне рамками, программами и ценностями. В случае же роботов - развитие идет "сверху": роботы отлично умеют считать, удовлетворительно - "думать", но вот самостоятельная жизнь, на отладку которой у природы ушли миллионы лет, роботам только предстоит. А это значит, что многие из тех граблей, что были пройдены природой во времена трилобитов - роботы пройдут заново. Но, в отличие от трилобитов, имея в руках развитую технологическую цивилизацию - что может несколько увеличить масштаб вреда от этих граблей...

     Так что в принципе, при определенной осторожности - миссия "выживание живого" допустима, хотя возможны нюансы.
     Ну, и открытый вопрос - то, что получится в результате будет вести себя так, как будто оно разумно. Но будет ли оно разумно на самом деле, и главный вопрос - есть ли хоть какая-то разница?...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dr_morro@lj
2007-06-24 01:35 (ссылка)
Начнём с последнего: то, что получится в результате будет вести себя так, как будто оно разумно. Но будет ли оно разумно на самом деле, и главный вопрос - есть ли хоть какая-то разница?

Если нет никаких точных/научных критериев размности, то если нет разницы, зачем мучаться. Выглядит как разумное, действует как разумное, тупит как разумное - всё назначаем его разумным.

По поводу всего остального: текущая жизнь получившаяся в процессе эволюции оперировала очень ограниченным набором материалов и узким диапазоном температур. Хлипкая она в итоге получается. У искуственных преемнегов в этом плане проще получается, и полоний для своих нужд использовать может и Гелием-3, коль приспичит занюхивать может.

При том что "искусственная жизнь" уже сейчас может вполне удовлетворительно "считать" но весьма хреново "думать", то у неё есть возможность эмулировать процесс собственной эволюции, дабы зазря материал не расходовать. Тогда вполне может и "Меловой период - за пятилетку" получиться.

В общем степеней свободы у железных братьев побольше чем у белковых товарищей получается.

з.ы. Все идеи подчерпнуты из творчества С. Лема.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-24 03:45 (ссылка)
Уточню: главное преимущество искуственной жизни даже не в том, что она "железная", полоний жрёт и гелием-3 занюхивает, а в том, что она искуственная, поэтому знает и умеет разбирать-собирать элементарные кирпичики из которых сложена, и в результате обладает принципиально новыми возможностями по самомодификации. И может, в случае чего, сменить в своем электронном мозгу кремний на кристаллический углерод (а если приспичит - и на радиационно стойкие электронновакуумные приборы) - и остаться при этом разумной.

А насчет "обсчитать эволюцию" - это мысль, да. Заранее промоделировать варианты взаимодействия всего ансамбля роботов, повылавливать глюки... единственная проблема - может понадобиться очень много вычислительных ресурсов: как-никак не игру "жизнь" считаем, а поведение разумных систем при взаимодействии :-)

(Ответить) (Уровень выше)


[info]sleeping_owlet@lj
2007-06-21 03:04 (ссылка)
Есть у меня подозрение, что развитие в описанную тобой сторону всё так же не поможет людям чувствовать себя счастливыми...

(Ответить) (Ветвь дискуссии)


[info]phantom_ghostly@lj
2007-06-21 03:37 (ссылка)
Развитие и способность чувствовать себя счастливым, по-моему, слабо связаны.

(Ответить) (Уровень выше)


[info]dibr@lj
2007-06-21 03:44 (ссылка)
"Если нет разницы - зачем платить больше?"(с)

Развитие цивилизации в целом слабо связано с счастливостью отдельных индивидов. Да и - человек так или иначе тупик, бесперспективная ветвь - и дальше варианта два: либо развитие пойдёт дальше (оставив в конце концов человечество за бортом), либо человек будет всеми силами тормозить развитие всего остального, чтобы так и остаться "венцом творения в собственных глазах" - и умереть вместе с этой планеткой от очередной смены климата.

Первый вариант малосимпатичен тем, кто останется за бортом - то есть людям. Но второй, на мой взгляд, ещё хуже чем первый...

(Ответить) (Уровень выше)


[info]phantom_ghostly@lj
2007-06-21 03:36 (ссылка)
О, как! Я не одинок, оказывается, в желании потихоньку заменить скоропортящийся белок чем-нибудь более долговечным!

Самая главная мысль тут в том, что сознание именно что потихоньку переползёт. Одно неприятно, что всё сразу заменить вряд ли получится.

(Ответить)


[info]vetka_nn@lj
2007-06-21 03:36 (ссылка)
Короче, все идет к тому, что нас всех опять поимеет Матрица. :)

(Ответить) (Ветвь дискуссии)


[info]dibr@lj
2007-06-21 15:04 (ссылка)
В каком-то смысле да :-) Но в данном случае я скорее сторонник чем противник этого поимения :-)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]alex_rex@lj
2007-06-21 15:13 (ссылка)
Скажите, а Ваша фамилия не Кузнецов, часом? %)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-21 17:55 (ссылка)
"Даже не родственник" :-)))

К тому же поимение человечества роботами - вряд ли будет похоже на поимение Нео матрицей в лице агента Смита :-)

И вот кстати.
Никак не могу найти перевод на кириллический язык произведения "Р.У.Р." Карела Чапека. Чешский оригинал нашёл, а вот русского перевода - не вижу.
Не означает ли это то, что всемирная паутина потихоньку начинает убирать "с глаз долой" материалы, говорящие о возможном захвате человечества роботами? Ну, чтобы нам тут думалось меньше...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]alex_rex@lj
2007-06-22 08:17 (ссылка)
Мда, действительно, сложновато. Пока ищу.

(Ответить) (Уровень выше)


[info]tesanoff@lj
2007-06-21 04:45 (ссылка)
Здесь (http://fictionbook.ru/en/author/livadniyyi_andreyi/gorod_miertviyh/) фантазируется примерно на эту же тему.

И вообще, А. Ливадный эту тему раскрывает (по-своему, естественно) во многих своих книгах.

(Ответить) (Ветвь дискуссии)


[info]tesanoff@lj
2007-06-21 04:50 (ссылка)
PS: на сайте автора (http://www.livadnyy.ru/e-books.php) можно честно купить ПСС в электронном виде почти задаром (если учесть объём чтива).

Если тебя не воротит от космической фантастики и ты способен быть снисходительным к порой встречающимся техническим ляпам, то крайне рекомендую к прочтению.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-21 15:14 (ссылка)
У меня вебманей нет, а заводить их ради скачивания книжек, которые я не факт что дочитаю до конца - в ломы совершенно :-) Да и времени мало, читать всё это.
Поэтому будем считать, что с Ливадным у меня пока не сложилось :-)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]tesanoff@lj
2007-06-21 15:25 (ссылка)
Ты будешь смеяться, но я ради скачивания именно этих книжек и завёл себе вебмани. Хотя сидюк с ПСС я, помнится не за вебмани покупал, а за деньги (по-моему наложенным платежом Андрей мне свой диск присылал.)

(Ответить) (Уровень выше)


[info]dibr@lj
2007-06-21 15:09 (ссылка)
"а их мозг, заключенный под тройные оболочки металлопластиковых черепов, был отлично экранирован от Невидимой Смерти, которую еще по старинке иногда называли радиацией, или жестким излучением".

Всё, тупик. Это не прорыв - это выживание в худшем виде, "оттягивание конца". Вместо переноса разума на неорганический носитель, вместо эктофикации по Лему - мы имеем помесь киборга с "головой профессора Доуэля" - мозг "из мяса", со всеми недостатками, и "железную" тушку, заметная часть ресурсов которой тратится на поддержание комфортных условий этому кусочку белковой материи.

Так что может оно и на эту тему, но явно не в ту сторону :-)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]tesanoff@lj
2007-06-21 15:21 (ссылка)
Конкретно в этом рассказе - "мозг из мяса". В других - чистые кристаллы.

Основная мысль при этом (если очень грубо): "источник мотивации" = "нелогичные гормональные реакции". Т.е. при отсутствии "нелогичной" органической составляющей отсутствует и мотивация к существованию (т.е. способность сам себе ставить задачу), т.к. в процессе оптимизации потребления ресурсов система "самоуспокаивается".

Но Ливадного я читаю не за это, а за качественно придуманный мир (там один и тот же мир практически во всех книгах).

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-21 18:03 (ссылка)
Вообще, что-то в этом есть. Хотя с другой стороны...

Подход первый, формальный. Если мы действительно аккуратно, с полным сохранением функциональности, перенесли разум на новую аппаратную платформу - то и способность к самомотивации тоже будет перенесена, иначе это не будет полным переносом. Насколько в этой самомотивации важна "животная" составляющая (и насколько реально воспроизвести её "в кремнии") - вопрос отдельный.

Подход второй: "покой нам только снится". Ресурсы не бесконечны, мир не стационарен, а миссия "выживание живого" гонит живое в сторону развития и экспансии. То есть, "самоуспокоение" (квазистационарное состояние) возможно разве что при достижении предельных параметров ресурсопотребления (дальше становится просто некуда развиваться) - и то, стационар тут весьма условен, ибо ресурсы истощаются, и приходится разрабатывать новые источники, нередко - серьезно изменяя все принципы использования ресурсов...

(Ответить) (Уровень выше)


[info]hml@lj
2007-06-21 06:12 (ссылка)
Забавно, но когда-то я примерно на эту тему писал реферат для сдачи кандидатского по философии. К счастью, в институте философии его, видимо, не читали, но тебе может быть интересно, потому выкладываю (http://ibis.inasan.ru/mechanical_soul.pdf). Читать стоит начиная со стр. 12, где написано, почему ИИ равный человеческому, видимо, создать не удастся никогда :)
Sorry за pdf, latex2html подавился файлом :(

(Ответить) (Ветвь дискуссии)


[info]dibr@lj
2007-06-21 15:19 (ссылка)
Вообще, кажется мне что переход количества в качество в принципе возможен - произошел же он когда-то у обезъян, в результате чего получился человек :-)
Но понятных путей мне пока таки да, не видно - не факт, что вложив "выживание живого" в качестве миссии и "отпустив на волю" роботов, мы получим разум, а не робособачек Айбо нового уровня, весьма натуралистично разум имитирующих, но оным не обладающих.

С другой стороны - очень философский вопрос. Если что-то во всех ситуациях ведёт себя так, как будто оно разумно - есть ли разница между этим чем-то, и "истинным" разумом?...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]hml@lj
2007-06-21 16:05 (ссылка)
Надежда на качественный скачек -- та же надежда на чудо: "вот хорошо бы вдруг нашелся такой закон природы, чтобы из кучи мусора сам собою составился телевизор". Так не бывает :(
Между "механическим" и "человеческим" огромная пропасть и как ее преодолеть -- не понятно. Идея о том, что очень-очень большая нейросеть будет разумна идет, ЕМНИП, от создателей первых персептронов. Они обнаружили, что сеть большего размера обучается быстрее и, экстраполировав этот закон далеко вперед, предположили, что сеть бесконечного размера не будет нуждаться в обучении совсем :)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-21 18:11 (ссылка)
Ну, собрался же - из первобытного метана и аммиака в мировом океане, через саморепродуцирующиеся молекулы и коацерватные капли, через одноклеточных и многоклеточных, через млекопитающих и человека - к первой половине ХХ века в природе таки собрался телевизор. То есть, подобное чудо уже происходило!

Насчет бесконечной сети я как-то не въехал, да оно и не важно наверное. Важно, что пропасть может носить характер "количественный" (мощность), и "качественный" ("прошивка"). "Количественно" можно наращивать мощность "самораскруткой" (роботы делают роботов, по пути совершенствуя технологию создания роботов) задолго до того, как запахнет разумом. Дальше - вопрос в том, удастся ли, набравши достаточную мощность, сделать скачок качественный - обеспечить это самое самостоятельное целеполагание, инициативу.

В принципе - почему бы и нет? Для начала - задав "миссию" "выживание живого", а затем - отпустив на волю, и положившись на теорию эволюции... :-)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]hml@lj
2007-06-22 09:28 (ссылка)
Как оно собралось -- тайна великая есть. А "задать миссию и отпустить" -- это нужно несколько миллиардов лет ждать результата :) И результат не гарантирован, что самое обидное :(

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-22 19:23 (ссылка)
Ну, мы ж не с нуля стартуем, а с в общем-то готового "квазиразума" - поэтому ждать столько не понадобится, основные результаты можно будет увидеть довольно быстро.
Главное, чтобы они друг друга не поубивали "в рамках борьбы за мир" :-)

(Ответить) (Уровень выше)


[info]a_gorb@lj
2007-06-22 12:58 (ссылка)
Сижу, делать особенно нечего (есть, но очень нехочется)
Будут писать ....

(Ответить) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-22 13:02 (ссылка)
У Dibr маленькая ошибочка про шустров: они не встраимаются в мозГ, а встраиваются в окружающую среду и меняют делают разумной и благой к человеку окружающую среду (благосфера)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-22 13:16 (ссылка)
И еще про Лема.
На эту тему у него есть несколько мыслей.
1) Постепенная замена (с улучшение функциональных характеристик) отдельных органов и частей человеческого тела (более сильные конечности, дольше работающее сердце и т.д. и т.п.) приведет к превращению живого (из белков) человека в машину при сохранении и улучшении функциональности. Процесс плавный (уже начался, кстати), может растянуться на века и быть почти незаметным. Что касается целей такого получившегося в результате кремне-металло-пластикого человека - то черт его знает, предсказать очень трудно.
2) роман "Непобедимый". Там рассмотрена эволюция самовоспроизводящихся автоматов на планете после гибели их создателей. Выживает только одна из форм (рой мелких летающих мушек, не обладающих по отдельности практически никаким разумом), уничтожающая как все другие автоматы, так и органическую жизнь. У Лема - эта форма рождается просто в результате борьбы за существования и отбора (трудно тут сказать "естественного").
Но! стремление существовать необходимо для этого процесса.
Правда, уничтожив всех врагов, когда существованию этой формы уже ничто не мешает, она по-видимому прекращает дольнейшее совершенствование и развитие (как качественное, так и колличественное).

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-22 14:05 (ссылка)
Тут, как можно заметить из всего обсуждения выделяются три проблемы:
Первая. Вожможно ли устойчивое (хотя бы также как и человечетсво, около миллиона лет - это не мало) самостоятельное существование некоторой структуры роботов?
Вторая. Возможно ли машинное мышление?
Третье. Что есть движущая сила развития машинной цивилизации?

На первый вопрос я бы ответил положительно, на второй ответа не знаю.
Если ответить нет, то немыслящим автоматам целеположение не нужно, они будут существовать без всякой цели и может даже будут клепать себе подобных. Однако, без мышления трудновато приспособюиться к заранее неизвестным изменении окружающей среды и обеспечить долгое существование такой системы. Поэтому тогда на первый вопрос придется ответить тоже нет.
А теперь все перевернем. Мышление (и сильно развитые фантазии, например, о мировом господстве) может уничтожить цивилизацию. Мы сами, на самом деле, давно уже находимся на грани самоуничтожения. Так что положительный ответ на второй вопрос также может привести к отрицательному ответу на первый. Но, в тоже время, не мыслящий простенький автомат может быть зависим от окружающих условий в гораздо меньшей мере, чем сложный и думающий (вирусы гораздо живучи, чем курицы). Поэтому вожможна долго и "счастливо" существующая система простых (относительно), не думающих роботов (Лем, "Непобедимый"). Цели тут никакой не надо, достаточно протых инстинктов, вроде самосохранения.

Пусть на второй вопрос ответ положительный, и мышление у машины возможно. Тогда я не знаю ответ а на первый вопрос. Как я уже отметил, мышление само по себе не гарантирует, а, как мне кажется, даже мешает устойчивому длительному существованию. (Замечу, что возможна и такая ситуация: сообщество роботов после окончательной гибели белковой жизни обнаруживает, что белковые тела демонстрируют очень интересное поведение. Они начинают сооружать белковые автоматы, решать с помощью них некоторые задачи, а потом эти белковые существа начинают все больше и больше по своим функциям превосходить роботов. Так что развитие будет идти по спирали белковые существа -> роботы -> белковые существа 2 -> роботы 2 -> .....). Но я отвлекся. Так вот, я думаю, что мышление есть само по себе столь сложный процесс, который сам для себя ставит цели. И цели в обществе мыслящих индивидумов бывают как личные, так и общественные. Формирование же общественных целей, которые часто вообще не похожи на цели отдельного индивидумума и даже противоречат им, происходит по своим собственным законам, до понимания которых человечеству еще ой как далеко! Поэтому ответа на третий вопрос пока вообще нет.
Его нет толком даже для человека, неговоря уже о других типах мыслящих существ.

О мышлении мне тоже хочется сказать пару слов, именно оно тут самое главное... (лично мне так кажеться...) Но об этом уместнее сказать в комментарии к реферату о ИИ

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-22 19:56 (ссылка)
Однако, без мышления трудновато приспособюиться к заранее неизвестным изменении окружающей среды и обеспечить долгое существование такой системы

Нифига - бактерии и вирусы не особо способны к мышлению, но по приспособляемости - мало кто сравнится с бактериями.

Поэтому вожможна долго и "счастливо" существующая система простых (относительно), не думающих роботов (Лем, "Непобедимый"). Цели тут никакой не надо, достаточно протых инстинктов, вроде самосохранения.

Это не очень интересно :-) Интересно-то, чтобы система в целом по мере возможностей самосовершенствовалась и производила экспансию на новые просторы (осваивала космос, например). Для этого, впрочем, достаточно изначального целеполагания "на максимальную экспансию", и достаточно "умных" роботов, способных эту цель реализовывать максимально оптимальными методами (это, в принципе, реально). "Разум" тут не очень обязателен - достаточно хороших алгоритмов с возможностью самомодификации.

Так вот, я думаю, что мышление есть само по себе столь сложный процесс, который сам для себя ставит цели. И цели в обществе мыслящих индивидумов бывают как личные, так и общественные.

Если это мы создаем такую систему - то цели у неё логично изначально задавать только "общественные", а "личные" - будут вторичны от общественных (это отлично реализовано у пчёл и муравьёв, а в каком-то, хотя и слабо выраженном виде, виде присуствует и у человека). Ну, и если "толпа индивидов" способна уничтожить сама себя в ходе междуусобной борьбы, то та же толпа, но с едной "общественной" целью и подчиненностью индивидов именно ей - должна быть вполне устойчивой. Я так думаю.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-23 02:32 (ссылка)
"...но по приспособляемости - мало кто сравнится с бактериями." - нифига, не приспосабливаются они, просто требования к условиям окружающей среды у них не столь жесткие. Более высокоорганизованное существо уничтожить легче, для хорошей приспосабливаемости ему нужен разум.
Собственно, под мышлением я понимаю способность человека (и человечества) жить в соответствии с окружающей средой (природной, социальной, межличностной...) и преобразоввывать ее.

"Это не очень интересно :-)..." - и я про тоже, сравнительно просто, по моему мнению, создать устойчиво существующую систему простейших роботов, пусть они даже захватят Землю, солнечную ситему и т.д. Но, это действительно не интересно.

"Если это мы создаем такую систему - то цели у неё логично изначально задавать только "общественные", а "личные" - будут вторичны от общественных (это отлично реализовано у пчёл и муравьёв, а в каком-то, хотя и слабо выраженном виде, виде присуствует и у человека)" - задавай не задавай ... мы еще только в самом начале пути развития общественных наук, которые и изучают процессы формирования общественных целей и их взаимодействие с личными. Мне кажется, что при наличии разума у индивидумов общественные цели будут формироваться сами собой (естественно, в зависимости от уровня развития общества и множества др. факторов) независимо от воли конкретного индивидумома. Так, что запрограмировать тут что-то не получиться.
А муравьи, пчелы или их киборганалоги - это как мы уже согласились неинтересно! Ну сожрут они весь космос - и че? Это венец развития?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-23 02:34 (ссылка)
А как правильно вставлять цитаты? А то у тебя так красиво получается

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-23 03:23 (ссылка)
Ну, например так:
<i>цитата</i> (цитата)

Или так:
<i><font color=#008000>цитата</font></i> (цитата)

А можно тупо, в фидошном стиле, отделять "галочками":
> что мол типа
> вот ты тут говорил,
> так вот я счас отвечу! :-)

(Ответить) (Уровень выше)


[info]dibr@lj
2007-06-23 03:19 (ссылка)
Приспосабливаются только так, наглядный пример - антибиотики: если ещё на моей памяти бисептол был "эффективным сульфамидным препаратом", то сейчас его перестали использовать даже в ветеринарии, ибо толку уже нет, а вред есть. Почему? Да потому что бактерии приспособились, и сейчас его разве что не жрут, но как минимум - игнорируют. А ещё раньше, когда человечество было в эйфории от открытия пенициллина - бактерии отращивали у себя фермент пенициллазу. И где сейчас тот пенициллин, не подскажешь?

Но что более высокоорганизованные существа - более хрупкие, я согласен. Точнее, насчет хрупкости-то вопрос спорный, но на место уничтоженной бактерии через минуту родится ещё миллион (а скорость изменения генотипа за счет мутаций напрямую связана с числом "отбраковок" и скоростью размножения), а на изготовление нового полноценного человека взамен убитого - понадобится не один год. Отчасти поэтому нам "приходится крутиться" с индивидуальным выживанием, в то время как бактерии мрут пачками, но как вид - приспосабливаются к изменившимся условиям быстрее любых других существ.

Но принципиальный вопрос ещё в том, что даже разум пока не даёт нам возможности "сменить платформу", и пересесть с белкового носителя на, скажем, кремниевый. А это ограничивает...

Насчет "не очень интересно" - ну, да в общем-то. Но с другой стороны - не забываем, что собственно из такого вот gray goo, умеющего только размножаться, в конце концов, через много этапов эволюции, появились мы сами. Тут же - мы имеем возможность стартовать новую жизнь не с уровня простейших (и надеяться что дальнейшая эволюция родит разум), а с определенного, довольно высокого, уровня. И вопросы тут - "а можно ли", и "а будет ли это разумом"...

Насчет общественных наук - а зачем это вообще? Самоорганизация самостоятельных индивидов в "общественную систему", обладающую собственными целями, иногда проиворечащими целям индивидов (и весь геморрой с созданием механизмов для такого объединения, и для удержания "эгоизма" индивидов в разумных рамках) - у природы вещь вынужденная, "так получилось" - ведь сначала возникли индивиды, и только потом, за миллионы лет, было отлажено взаимодействие, увеличивающее выживаемость именно вида, но не индивида.
У нас же такого ограничения нет - что нам мешает изначально дать системе единый "децентрализованный" разум (с единой мета-целью), а "индивидуальности" индивидов - сделать этой мета-цели подчиненными? То есть, чтобы единственной "личностью" была система в целом, а индивиды по отдельности были бы так, "интеллектуальными контроллерами" большой машины, отдельными винтиками с солидной долей самостоятельности и инициативы, но под контролем единого распределенного гипер-супер-мозга. Этакий единый распределенный организм всепланетного масштаба - с нейронной сетью замененной на tcp/ip, и нейронами, замененными на отдельных роботов. Тогда и задача "запрограммировать индивида так, чтобы их совокупность сама создала себе Миссию" отпадет - миссию мы вошьём в систему в целом, а индивиды будут её следовать :-)

(Ответить) (Уровень выше)


[info]dibr@lj
2007-06-22 19:46 (ссылка)
1) вопрос в том, что будет с мозгом в конце этого процесса, и будет ли в конце концов нужен собственно мозг для создания "киберчеловека". Ибо киборгизация всей тушки кроме мозга (то есть, всё тело механическое, но мозг сохранен) не изменит ни-че-го: эту штуковину потребуется точно так же кормить белками, углеводами и витаминами, не допускать перегрева выше 40 градусов, и вообще по всякому няньчиться. Киборгизация с переносом разума из мозга в машину (кстати, не верю что такое будет) - частичное решение вопроса: до тех пор, пока для создания разумной машины будет требоваться человек, мы всё равно привязаны к тем же жестким условиям, только меньшее время.
Поэтому речь идет о том, можно ли создать мыслящую машину, способную либо воспроизводить другие мыслящие машины, либо (вариант) существовать неограниченно долго (например, перенос разума из человеческого мозга, а затем - распределение(!) его по всей системе, чтобы разрушение старых роботов и создание новых не приводило к разрушению сознания).

2) "Непобедимый" не читал, надо прочитать. Но вообще - gray goo рулит, согласен :-) Но мы-то планируем стартовать не с насекомых, и даже не с мелких зверюшек - а скорее с распределенной системы, всерьез конкурировать которой придется разве что с самими людьми.

А уничтожение всех врагов не означает остановки прогресса. Прогресс остановится, когда форма жизни заполнит все доступные ниши, и оптимально приспособится к среде - и враги тут перпендикулярны...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-23 02:43 (ссылка)
Вся дискуссия возвращается к тому с чего начинали лет 50 назад отцы основатели кибернетики. Может ли машина мыслить?
Правда тут часто даже не пытаются разобраться с тем, что такое мышление. Если удасться создать мыслящие машины, то лично я не вижу припятствий для возникновения общества таких машин и его дальнейшего развития параллельно с человеком, уничтоджив его, или еще как-то - не суть важно.
Свое понимание проблемы мышления и мышления машины - попробую изложить вечерком в качестве реплики на вышеприведенный реферат тов. hml.
Пошел домой, пора поспать!...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-23 03:36 (ссылка)
Кстати, опять-таки. Ты предполагаешь повторить алгоритм создания общества, когда-то реализованный природой: давайте сначала создадим индивидов, а потом научим их эффективно взаимодействовать. Но фигня-то в том, что природа отлаживала механизмы создания "общества" весьма долго, и начиная с относительно "дешевых" многоклеточных организмов, только потом создав (используя готовые наработки) всяких там высших мелкопитающих, а затем и человека. То есть, социализация была создана и отлажена задолго до разума, и отладка производилась на "дешевом" расходном материале.

У нас же сырьё - изначально высокоорганизовано и весьма недёшево, поэтому "создавать общество" придётся предельно аккуратно: права на ошибку у нас тут нет, это не какие-нибудь полевые мышки, которые если даже вымрут целиком, природа найдёт им замену - ошибка может привести к вымиранию всего живого вообще.

Но никто ведь не заставляет нас идти именно таким путём - создавать общество как объединение независимых личностей! Можно пойти наоборот - создавать индивидуальность как изначальную, частично самостоятельную, часть общества, часть большой системы - то есть, строить систему не через попытку объединить N разумов в одну футбольную команду, а через децентрализацию одного разума на N небольших подразумов. Каждый из которых в принципе разумен и самостоятелен - но подчинен (на уровне того, что мы, человеки, называем "инстинктом") Системе в целом...

(Ответить) (Уровень выше)


[info]a_gorb@lj
2007-06-23 02:45 (ссылка)
Непобедимый - чисто приключенческий роман, мне нравиться.
Сейчас в машине слушаю его в виде аудиокниги.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-23 03:50 (ссылка)
Кстати, зачем далеко ходить?
Собственно, сама этикосфера у Лема - пример искуственно созданной, предельно устойчивой, вполне самостоятельной, на порядки превосходящей "человечество" (точнее, как там их правильно называть) по "уму" (собственно, наука-то у них вымерла именно потому, что с шустрами в плане науки оказалось бессмысленно конкурировать), даже в меру инициативной (примеры есть) системы - для которой, тем не менее, подчёркивается отсутствие у неё "личности" и полная подчинённость "человеку".

Вот и вопрос: этикосфера, более "умная" чем все учёные планеты вместе взятые - разумна ли она? И второй вопрос - если мы построим систему, поставим ей мета-целью "обеспечение максимальной выживаемости" (что примерно соответствует мета-цели эволюции в природе), и обнаружим что она ведет себя ну совершенно как разумная - то есть ли разница между сложной системой, неотличимой внешне от разумной, и разумной системой? Мы ведь не знаем, "мечтают ли андроиды об электроовцах" на самом деле, и каким образом все эти мечтания связаны с разумностью, а мы сами - просто очень сложная система органических молекул...

(Ответить) (Уровень выше)


(Анонимно)
2007-06-23 07:37 (ссылка)
А мне кажется Глобальный человейник Зиновьева -- наше недалекое уже будущее

(Ответить) (Уровень выше)


[info]dibr@lj
2007-06-22 19:33 (ссылка)
Ээээ... вообще-то я имел в виду не благосферу (ака "ка-ундрий"), по которой у Лема информации практически ноль, да и в работающем виде она просуществовала весьма недолго, а этикосферу - описанную у Лема довольно подробно. И конкретно - процедуру эктофикации, при которой полной замене на шустры постепенно подвергается всё тело, включая мозг. Ну, и на промежуточном этапе - тело (и мозг!) состоят частично из нормальной материи, частично из шустров. Почему это нельзя называть "подменой клеток тела" (слова "встраивание" у меня нет, хотя разница непринципиальна) - я не понял. Поясни?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-23 02:14 (ссылка)
У Лема ("Осмотр на месте") Шустры не влияют на человека, они встраиваются в основном в окружающую среду, дома, воду, одежду и управляют свойствами этой среды. Замена белкового материала человеческого тела и мозга на Шустры у Лема не принципиальный момент в этой книге. Но впрочем это и не важно!

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dibr@lj
2007-06-23 02:55 (ссылка)
Раз я сослался у Лема именно на эктофикацию (а не на идею нациомобилизма, например) - значит, для меня в данном контексте важным было именно это, логично? А ты свои рассуждения начал с того, что перепутал благосферу и этикосферу, и заявил что эктофикации не существует.
Как ты воспримешь физика, который на семинаре по СВЧ разряду первым делом перепутает радиус Дебая и длину свободного пробега, заявит о том что мультипакторный разряд не существует, потому что в вакууме нечему пробиваться, а потом скажет что это всё не принципиальный момент и вообще неважно? А если всё это произойдет на семинаре по мультипакторному разряду? ;-)

Так что - если есть возражения по сути приведенного примера с эктофикацией - излагай. А если идти рассуждениями "в основном" - так ведь и мультипактора "в основном" не бывает, в основном физика плазмы изучает разряд в газах. Но несмотря на это - пробой бывает даже в вакууме...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]a_gorb@lj
2007-06-26 11:48 (ссылка)
Да, согласен, тут у меня ошибочка, эктофикация (замена белкового основания организма шустрами) действительно не тождественна этикосфере. Но мне по прежнему кажется, что это один из примеров возможного способа возникновения небелкового разума. Это пример сам по себе весьма интересен. Но более широкое применение шустров - насколько я помню, изменение в окружающей среде и возникновение другого типа небелкового разуа - разумной (в какомто смысле) среды. Поэтому я думал, что о шустрах надо говорить более широко. Так, что пардон, если что не так понял.
А мультипактор не в вакууме возникает, а на электронах, которые там уже летают. В вакууме обычно дуга зажигается из-за автоэлектронной эмиссии.

(Ответить) (Уровень выше)

про эктофикацию...
[info]prizmoid@lj
2007-07-19 06:49 (ссылка)
можем ли мы хоть на мгновение допустить, что наша наука пока не столь совершенна ?
ведь есть вероятность того, что наша наука, измерительные приборы, которыми мы располагаем, не могут обнаружить наличие некой иной субстанции, которая, например, тоже может являться составляющей человека, но на данном этапе развития науки никак не диагностируется ?
в этом случае, мы окажемся не в состоянии произвести полный перенос человека на другую основу.
или точнее перенесём только ту часть, о которой нам известно и, возможно, даже не будем догадываться о том, что что-то утратили, например - бессмертную душу (ведь мы можем допускать, что она существует, пока не доказано обратное ?:) )

поэтому, мне пока эктофикация кажется не очень надёжным, хотя и заманчивым, вариантом дальнейшего развития человечества.

а вот вариант с генной инжинерией, с модификацией текущего устройства человека, на данном этапе выглядит очень доступно и привлекательно, несмотря на меньшую масштабность идеи.
было бы уже очень неплохо расширить некоторые возможности человека - приемлимый для жизни температурный диапазон (например от -120 до +90 хотя бы), ускорить регенерацию органов, расширить спектр воспринимаемых организмом частот волн (ночное зрение, ультразвуки и т.п.), расширить список различных вариантов пригодной для дыхания атмосферы, усилить скелет и мышцы :), несколько продлить срок жизни и уже можно осваивать океаническое дно, антарктиду, марс, венеру :)

(Ответить) (Ветвь дискуссии)

Re: про эктофикацию...
[info]dibr@lj
2007-07-23 14:16 (ссылка)
можем ли мы хоть на мгновение допустить, что наша наука пока не столь совершенна ?

Пока она не то что "не столь совершенна", она даже до уровня средневековья не дошла - так, "выплавка стали на костре и первые попытки металлообработки". Потом - посмотрим. Учитывая, что то самое "сознание", похоже, хранится на молекулярном уровне внутри всех клеток (и каждой из клеток) мозга - есть у меня сомнения, что эктофикация в чистом виде, по Лему, вообще будет когда-нибудь возможна.
Почему у меня и крутятся альтернативные варианты. Вроде "плавного симбиоза" кибермозга с мозгом белковым, и постепенный перехват функций белкового мозга - мозгом кибернетическим. С моментом отказа от белкового мозга, когда его роль в управлении системой станет ничтожна.

Но действительно:
возможно, даже не будем догадываться о том, что что-то утратили, например - бессмертную душу
...при таком переносе мы получим что-то, что "ведёт себя как вёл тот человек", и что-то, что получилось "плавной трансформацией из человека". И хотя при этом вроде как бы и непрерывность не нарушается (нет конкретного момента "смерти" души), и внешне оно может быть похожим - значительная часть собственно "души", того что хранилось в мозге и отвечало за разум, будет разрушено. Постепенно - но таки невосстановимо.

Поэтому это - путь Властелина Мира из мультфильмов, которому пофиг что миром будет править уже не совсем он сам. Более практичный путь с точки зрения эволюции живого - создание новой формы жизни, и обучение/воспитание уже её. Но личного бессмертия у человека при этом уже не будет - разве что возможно у его созданий.

а вот вариант с генной инжинерией, с модификацией текущего устройства человека

...с евгеникой (а это она и есть) есть политическая проблема.
Мы создаем не просто "разумного робота" (в отношении которых у нас пока нет готовых законов и моральных принципов), мы создаем Человека Разумного. И мы "не имеем права на ошибку" - если в результате получится уродец, то получается что и убить его нельзя (человек как-никак), и жить ему потом хреново. Ошибки природы неизбежны, но в них некого винить - а в ошибках человека есть кого винить.

Поэтому если это и будет - то изначально как очень секретные и чрезвычайно закрытые исследования. И потому - наверняка военные :-)

было бы уже очень неплохо расширить некоторые возможности человека - приемлимый для жизни температурный диапазон (например от -120 до +90 хотя бы), ускорить регенерацию органов, расширить спектр воспринимаемых организмом частот волн (ночное зрение, ультразвуки и т.п.), расширить список различных вариантов пригодной для дыхания атмосферы, усилить скелет и мышцы :)

Насчет "до +90" я все-таки не верю: "для -120" достаточно нарастить многослойный пух, защитить от холода входы и выходы, да кормить получше, а вот при +90 вроде бы способны кое-как выживать только некоторые простейшие. Не факт, что на той базе, на которой живут бактерии, удастся "завести" высшее млекопитающее. С регенерацией тоже не факт что удастся многого добиться... в остальном же - получается человек будущего как у Стругацких. Как там: "...и тогда он, изо всех сил сузив зрачки, нажал на клавишу выключателя..." - кстати, одна из главных проблем - отсутствие сознательного контроля за "автоматикой" тела...

(Ответить) (Уровень выше)