Войти в систему

Home
    - Создать дневник
    - Написать в дневник
       - Подробный режим

LJ.Rossia.org
    - Новости сайта
    - Общие настройки
    - Sitemap
    - Оплата
    - ljr-fif

Редактировать...
    - Настройки
    - Список друзей
    - Дневник
    - Картинки
    - Пароль
    - Вид дневника

Сообщества

Настроить S2

Помощь
    - Забыли пароль?
    - FAQ
    - Тех. поддержка



Пишет ivanov_petrov ([info]ivanov_petrov)
@ 2010-05-25 08:15:00


Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Антиподы: другая Земля

Нам интересно построить искусственный интеллект. Он бы нам строил дороги и было б, наконец, понятно, кто виноват. И вообще, ИИ – дело денежное.

Некоторые даже обещают, что ИИ вот-вот будет готов, уже почти вскипел. Разобраться в проблеме трудно – мы почти перестали понимать, что означают слова, обозначающие уникальные качества. Что такое интеллект – если считать, что это свойство человека? Что такое общество? Рациональное решение? Сосуществование с чужаками?
Вроде бы, как ни крути, получается, что в XXI веке придется заниматься пониманием интеллекта и общества. Все проблемы на это замыкаются. Чтобы понимать и моделировать такие вещи, нам нужно их с чем-то сравнивать. Нам нужно посматривать иногда на «другой интеллект» и «другое общество» – совсем другие, чтобы различать и понимать. Чтобы крутить головой и говорить: «Нет, ну это же совсем не то, у нас совершенно иначе».

Самая большая опасность при изучении ИИ – обмануть самих себя, загипнотизироваться и решить, что первым ИИ было Windows 3.1. Когда человечество себя с упоением обманывает – происходят самые страшные вещи, никакое нашествие марсиан в подмётки не годится. Чтобы не обманываться, надо посматривать вот хотя бы на муравьёв – именно потому, что они тоже обманывают и учат нас не поддаваться.

Муравьи регулярно обманывают исследователей. Люди находят у них сложнейшие типы интеллектуального поведения – и каждый раз оказывается, что муравьи используют очень простые остроумные решения, чтобы обеспечить сложное поведение. Муравьи учат исследователей не принимать за интеллект то, что им не является, но внешне выглядит как интеллект.

Опять обманули муравьи

Чем сообразительнее животное, с которым имеет дело исследователь, тем труднее получить объективные результаты.

Среди насекомых самым подлым объектом являются муравьи. Они очень умные и потому с ними регулярно конфузы. Например, годах в 60-х был поставлен знаменитый опыт. Над муравьиной дорогой на нитке подвешивали чашечку с сиропом. Нить была перекинута через блок, и длинный конец нити свисал над муравьиной дорогой в другом месте, не у самой чашки. Если нитку тянуть, чашка кренилась и сироп капал, его можно было собирать. Так вот, муравьи клубились вокруг этого снаряда и одни активно тянули за нитку, а другие лопали сироп и тащили еду в муравейник. Ученые аж заходились от радости, как всё это альтруистично и хорошо как муравьишки друг с другом взаимодействуют: ведь одни не получают награды, а только тянут канат, а другие только кушают.

Всё это оказалось ошибкой интерпретации. Потому что у муравьев есть стандартная реакция - если какая дрянь над муравьиной дорогой торчит, надо скусить, чтобы не мешала. Они так дорогу расчищают. А если откуда-то падает сироп, его надо собрать и тащить в муравейник. Так что никакой взаимопомощи - каждый муравей видел стимул и адекватно реагировал. Вместе получалось как бы коллективное поведение.

Однако оно как бы коллективное, но всё же – сложное, разумное и множественное. Простыми средствами достигается сложный результат.

*******
Сказки мирмекологов
У исследователей муравьев, живущих в своем мире – свои сказки. Сказки мирмекологов – это не фантазии. Это то, что наблюдал тот или иной исследователь. Однако это не опубликовано, не описано, не может выступать в качестве научного факта – не подтверждено. Возможно, при проверке выяснится, что объяснения у сказочного наблюдения какое-то иное, не то, что само напрашивается. Так что это не факт, но знать его занятно.

В лесах Перу разные виды муравьев используют одни и те же дороги. Вот идет колонна муравьев-листорезов Atta. Численностью этак в несколько тысяч. Несут листья с дерева в муравейник. А навстречу – колонна муравьев-кочевников Eciton тоже числом тысяч в десять. Листорезы останавливаются и ждут, пока по дороге идут кочевники. Не разбегаясь и не нападая. А по бокам колонны кочевников идут сторожа-охранники, чтобы наблюдать за окружающим, и не подают сигналов тревоги – что особенного, ну стоят листорезы, ждут очереди. Вот разрыв в движении – какие-то кочевники замешкались, разорвалась колонна и освободилась дорога ненадолго. И по ней пошли листорезы с листьями в челюстях, а кочевники отошли в сторонку и пережидают, когда пройдут листорезы. Наблюдал это в Перу А.А. Захаров.



*******
Муравьи всё время обманывают. Вот в 2009 году появилась статья с очередной сенсацией – якобы пустынные муравьи-бегунки спасают попавших в ловушку сородичей. Муравьи не только откапывают своего засыпанного песком товарища и пытаются вытащить его за ноги, но и находят в песке нейлоновую нить, которой он привязан, и перекусывают ее. Муравьи выручают только членов своей семьи. Особи того же вида, но из другого муравейника, вместо этого подвергаются нападению. Муравьи рыли песок вокруг жертвы, оттаскивали крупные частицы грунта на расстояние до 5 мм от нее, тянули жертву за ноги (но никогда не дёргали за хрупкие антенны), кусали нейлоновую нить, которой жертва была привязана.

Это, скорее всего, тоже случай обмана со стороны муравьев. Повторность опытов очень мала – такое наблюдали всего 9 раз. Шевелится муравей в песке – дёрни его. Наткнулся на корешок нитевидный при копании – перекуси. Что муравьи вытаскивали только своих из своего гнезда, а на прочих нападали - просто банальность. Определяется по запаху: чужаков кусай и гони.

Другая Земля

Эволюция животных очень рано разделилась на два крупных ствола и потому у нас как бы два животных царства – независимо развивались позвоночные животные, рыбы-жабы-змеи-куры-собаки, и огромная ветвь беспозвоночных животных, черви-раки-моллюски-насекомые. Итак, шло две (по крайней мере) независимых эволюции, в которых совершенствовались разные планы строения и в результате получились совершенно разные животные. Можно сравнивать – если в разных стволах находится какое-то сходство, то почти наверняка достигается оно разными путями.

С другой стороны, эти две эволюции шли в разных сообществах. Можно представить, что каждая экосистема – как матрёшка, одни системы вставлены в другие, при этом они сравнительно независимы. Когда корова пасётся на лугу, она в очень малой мере взаимодействует со всей кишащей насекомой жизнью у неё под ногами – упрыгивающими кузнечиками, улетающими жуками, разбегающимися муравьями и прочими такими букашками. Сообщество крупных позвоночных животных рассматривает всю биосистему как пастбище, подножный корм. А другая ветвь, всякие насекомые – теснейшим образом сплетены с растительным сообществом – насекомые опыляют растения и паразитируют на них, строят в них свои убежища и истребляют отмёршие части растений. То есть имеется этакая экологическая матрёшка: есть одна система, в основном из блока взаимодействующих насекомых и растений, а внутри у нее в качестве почти паразита существует сообщество крупных позвоночных животных, от наличия или отсутствия которых мало что меняется – растительнонасекомое сообщество как бы вынашивает ребенка-зверя, выкармливает его, мало что получая взамен.

Одна ветвь животных – позвоночные – сделала ставку на условные рефлексы, у этих животных повыше доля обучения в поведении. Конечно, рыбы не слишком сообразительны, но в целом позвоночные выучивают за свою жизнь, что хорошо и что плохо. Другая линия эволюция – которая привела к моллюскам и насекомым – сделала ставку на инстинкты, тут в большей мере имеется сложнейшая программа, которая всячески адаптируется к текущей ситуации. Не о том речь, что муравьи «совсем глупые». Разумеется, муравьи вполне обучаемы. Речь об общей тенденции психики. Насекомые в большей степени устроены как системы детерминированного от рождения поведения, как довольно определённые системы программ… Которые у муравьев и других социальных перепончатокрылых дополнены мощной способностью к обучению. Но на основе такого инстинктивного поведения насекомые добиваются удивительных результатов, и достоинства скорых на научение жирафов каких-нибудь им ни к чему.

Человек - вершина мира позвоночных животных, которые потребляют созданное для них растительным сообществом. Человек создал цивилизацию, в которой из неорганических веществ собираются много превосходящие его по масштабу сооружения, строит дороги, использует другие виды животных для своих целей, он решает сложные интеллектуальные задачи и живёт в человеческом обществе, обучаясь от других особей своего вида разным умениям. Так выглядит вершина одной башни, созданной эволюцией. А там, очень далеко, мы почти не умеем так далеко видеть – на другой вершине, на другой эволюционной башне, - там находятся муравьи. Они тоже умеют из неорганики строить мегасооружения, города, строят дороги, одомашнивают других животных, выпасают свои стада и охраняют их, ведут сельхозработы на одомашненных видах грибов, делают запасы на время сурового сезона, образуют многомилллионные общества со своими взаимоотношениями.

Что это такое? Как это понимать? Это интересно.

Больше всего человек любит говорить о себе и узнавать про себя. Но так уж устроено понимание – понять можно лишь в сравнении, мы понимаем себя, глядя на окружающий мир. Вглядываясь в мир муравьев, человек очень им интересуется, потому что в конце концов он он надеется понять что-то о себе.

И мы платим за то, что нам интересно. Такова простая формула. Вот, недавно гуманитарию, профессору из Кембриджа Александру Эткинду достался беспрецедентно большой грант (1 млн. евро) на изучение советского прошлого (http://www.varsity.co.uk/news/2122): для сравнительного исследования жизни в России, Украине и Польше советских времен. Дали грант не нефтяному химику, а доценту русской литературы на кафедре славянских наук. Потому что людям интересно, что такое советский строй, какой след остался в истории от той жизни и как такое могло с людьми приключиться. Платят не за будущую прибыль, а за текущий интерес.

Так вот, муравьи людям страшно интересны. Они делают многое из того, что, как нам кажется, умеем только мы – но делают совершенно иначе. Строят высотные здания, занимаются скотоводством, ведут войны и захватывают рабов, объединены в бригады, индивидуально друг друга узнают… Но всё это так странно перевёрнуто, что по сравнению с муравьями даже хлопок одной ладонью окажется тривиальной пощёчиной.

//продолжение воспоследует//








(Добавить комментарий)


[info]young_botan@lj
2010-05-25 01:27 (ссылка)
>>Вроде бы, как ни крути, получается, что в XXI веке придется заниматься пониманием интеллекта и общества. Все проблемы на это замыкаются.
Ох. В XXI веке все проблемы замыкаются как ни крути на чем-нибудь этаком, большом и важном. Хехехе.

(Ответить)


[info]eldhenn@lj
2010-05-25 01:34 (ссылка)
>Муравьи регулярно обманывают исследователей

А люди - сами себя. Примерно таким же образом.

(Ответить) (Ветвь дискуссии)


[info]ext_97196@lj
2010-05-25 06:56 (ссылка)
То есть - принимают за "сложный" (вплоть до мистического) результат - то, что порождено и объясняется куда более "простыми средствами"? Да, согласен.

(Ответить) (Уровень выше)


[info]fregimus@lj
2010-05-25 01:45 (ссылка)
Про вершины двух башен — отличная мысль. Спасибо, жду продолжения. Очень.

(Ответить) (Ветвь дискуссии)


[info]ext_97196@lj
2010-05-25 06:59 (ссылка)
Ну, у людей-то самих - этих "башен"... Вот Вы, как я понял, совсем далеки от "острова Пасхи":).

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]fregimus@lj
2010-05-25 07:41 (ссылка)
Нет, не близок, это верно.

(Ответить) (Уровень выше)


[info]anikevich@lj
2010-05-25 02:24 (ссылка)
Как всегда познавательно.
еще бы узнать как с ними действенно бороться :)

(Ответить) (Ветвь дискуссии)


[info]misha_makferson@lj
2010-05-25 04:40 (ссылка)
"С этим товарищи не надо бороться. Это товарищи надо возглавить и углубить" (С)

(Ответить) (Уровень выше) (Ветвь дискуссии)

нашествие муравьев
[info]anikevich@lj
2010-05-25 04:49 (ссылка)
вот-вот! :)

(Ответить) (Уровень выше)

Я в растерянности
[info]viktor_tr@lj
2010-05-25 02:37 (ссылка)
"Люди находят у них сложнейшие типы интеллектуального поведения – и каждый раз оказывается, что муравьи используют очень простые остроумные решения, чтобы обеспечить сложное поведение. Муравьи учат исследователей не принимать за интеллект то, что им не является, но внешне выглядит как интеллект."

Я вообще-то и думал, что интеллект - это что-то вроде этого. Простые остроумные решения, обеспечивающие решения сложных задач. А демонстративно сложное поведение - больше как умничанье. А еще Тьюринг считал: имеет вид разумного поведение,еллекта - так оно и есть - значит, оно и есть.


(Ответить) (Ветвь дискуссии)

Re: Я в растерянности
[info]ivanov_petrov@lj
2010-05-25 14:16 (ссылка)
что-то вроде - это несколько расплывчато. Есть много чего с разными свойствами. и все - вроде того.

(Ответить) (Уровень выше)


[info]helix_a@lj
2010-05-25 02:39 (ссылка)
Хмм... Я ведь правильно помню, что природа словно ленится, и все время старается использовать достаточно небольшой набор решений? Не помню, как это называлось - когда за неимением хищников в хищники шли лошади, а мезиозавры походили на дельфинов?

Может и с "разумом" та же штука - нет как такового "разума вообще", а есть набор приемов социального поведения, общественной организации, который был эволюцией найден - и потом используется у насекомых, птиц, млекопитающих - и расцветает вовсю у человека?

WBR - Andrew

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 04:04 (ссылка)
Я понимаю. Я думаю, что думать так - это некоторое психическое расстройство. Для меня звучит, как если было Вами сказано, что Достоевский или там Пушкин на деле обладали разумом жирафа и стремились языком сахар слизывать, но некой хитростью движения языка преобразованы в движение пальцев и "получились стихи". Спорить тут не с чем, на мой взгляд, но я вижу, что эта точка зрения распространена - вот тут уже несколько такого рода комментариев.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]misha_makferson@lj
2010-05-25 04:46 (ссылка)
А кто это отлил в граните - "Разум это сложный инстинкт в процессе формирования"? :-))

(Ответить) (Уровень выше)

поспикулирую
[info]young_botan@lj
2010-05-25 04:54 (ссылка)
Думаю, эту точку зрения можно развить =)
Эти "наборы приемов" (высотные здания, скотоводство, войны, захватыват рабов, и т.д.) встречались во всех человеческих цивилизациях, включая современную - но какова между ними разница! Таже ситуация в науке - не редко все эффекты исследуемой системы можно качественно получить исследуя апроксимацию довольно низкого порядка: 2-3 члена ряда Тейлора.
А во время эволюции интеллект просто добирает массу дополнительных параметров.

(Ответить) (Уровень выше)


[info]eednew@lj
2010-05-25 06:12 (ссылка)
А ведь это гениальная критика фрейдизма. :)

(Ответить) (Уровень выше)


[info]ptn1900_9@lj
2010-05-25 14:26 (ссылка)
Ой, не могу не спросить: а как Вы относитесь к фрейдизму?
Ой, уже спросили комментом выше. :)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 14:35 (ссылка)
там не было вопроса

ну... я не думаю, что эту теорию имеет смысл принимать во внимание при изучении психики человека.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ptn1900_9@lj
2010-05-25 14:37 (ссылка)
:)
А ведь эта теория формирует много рабочих мест. Очень много рабочих мест. У психологов есть целая подкаста сотрудников этой сферы, которая опирается именно на эту теорию.

(Ответить) (Уровень выше)


[info]helix_a@lj
2010-05-25 19:51 (ссылка)
Так я сам, скорее, не рад наблюдению.

Просто меня часто ужасает и удивляет насколько часто "средний человек" (или даже "человек в произвольный момент времени") ведет себя не просто неразумно - а почти инстинктивно.
Ни малейшего признака разума - голые рефлексы, иногда усугбленные фантазиями на модели текущей реальности, сложностью уровня детей, только научившихся говорить.

Что нам толку от Толстоевских и, прости господи, Малевичей с Бродскими - это наше внутреннее дело, этакая деталь метаболизма, практически не вырывающаяся наверх.

Если говорить совсем грубо - вот прилетели мы на совсем чужую планету - и видим на ней явный технологический конструктив - скажем, пирамиды, поля антенн, что-то горячее, движущееся постоянно туда-сюда (все узнали Лема?) - разум это или нет?

Вот Лем не уверен. И я, пожалуй, тоже.

Я понимаю, что у муравьев нервная система устроена совсем не так, как у млекопитающих, а в глубине у них "все просто" и на десятке нейронов в межчелюстном ганглии. Я понимаю, что эффекты, зачастую кажущиеся нам очень сложными порождаются очень простыми причинами - как тот термос у Пратчетта, что сам решал - хранить воду горячей или холодной. ;)

Но я не могу для себя найти это действительно качественное отличие, что позволило бы нам ткнуть в человеков и сказать - "вот это муравьи не могут".
Ибо, опять же вспоминая Пратчетта, кто знает, какие романы они оставили нам феромонами на стенах своих кладовых? ;)

Это не болезнь. Это оторопь человека, упершегося ладонью в стол, в котором он точно знает - нет почти ничего кроме пустоты и малой горстки атомов. Просто, по-видимому, пришло время опять менять парадигму.

WBR - Andrew

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]fregimus@lj
2010-05-25 21:30 (ссылка)
Когда я говорю, что большинство людей на свете ни разу за жизнь так и не думают, это принимают за преувеличение. А я ведь ни капельки. Ни разу в самом прямом смысле, ноль раз.

Image (http://xkcd.com/638/)

Если не доводить Вашу мысль до абсурда, то она интересна, и ее полезно думать. Конечно, утверждение о том, что стихи произошли из слизывания сахара языком, будет выглядеть дико, но, если задуматься о phenomena emergentia, то, в общем, где-то в глубине, несомненно, и слизывание сахара в стихах тоже есть. Насколько это важно, насколько стихи бы не получились без инстинкта языка слизывать сахар, — говорить об этом нельзя, этого мы думать пока не умеем, только как-то робко и неуклюже пока пытаемся. Об чем, если я понимаю, и весь пост.

(Ответить) (Уровень выше)


[info]rarelena@lj
2010-05-25 02:58 (ссылка)
Потрясающе интересно! Спасибо.

А вы не планируете выпустить отдельной книгой статьи о муравьях?

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 04:07 (ссылка)
спасибо

не планирую. Известно, что книги не окупаются. То есть дергаться, уговаривать издателя, платить самому или уговаривать его заплатить за меня - и для чего? Чтобы подарит знакомым, а остальной тираж выкинуть? Знакомый издатель как раз днями тонны книг выкинул на свалку. На мой взгляд, неплохих. Что-то еще с ними делать - не покроет стоимости бензина, чтобы отвезти, и времени... Так что незачем, как мне кажется. Этот опыт выкидывания книг, произошедший вот только что и непосредственно поблизости от меня - весьма впечатляет. Ну не покупают, не надо. Кому надо - тех так мало, что не имеет смысла... Плакать тут не о чем, такова структура момента, но к чему зря тратить силы.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]snorkelstein@lj
2010-05-25 04:33 (ссылка)
Блин, а ведь когда-то мы читали Фриша.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 05:22 (ссылка)
да... выкинуты тиражи книг 2007, 2008 и 2009 годов издания. То есть готовится книга, классика по экологии, или там еще что - весьма интеерсные вещи, казалось бы, должно быть многим интересно, редкие работы переизданы, многого не достать. Два года работы над томом, редактирование, подбор картинок и пр. Издание. И через год - считай весь тираж на свалку. Не куплено почти ничего - оставшиеся полтора специалиста получили книгу в подарок. еще полтора сами ее и готовили к изданию, а прочие сотни экземпляров не покупаются вне зависимости от цены. Просто нет места и не надо. Стоит она сто рублей или 0 или 500 - не важно. Ее и в подарок не возьмут.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]snorkelstein@lj
2010-05-25 13:45 (ссылка)
Может, затаиться и переждать? Лет на 50.

(Ответить) (Уровень выше)

адресочек свалки не подскажете?
[info]aosypov@lj
2010-05-25 16:06 (ссылка)
без шуток

(Ответить) (Уровень выше)

опс, не надо
[info]aosypov@lj
2010-05-25 16:10 (ссылка)
ниже прочел.
pardon

(Ответить) (Уровень выше)


[info]misha_makferson@lj
2010-05-25 04:43 (ссылка)
Ну в электронном виде если? И положить куда-нибудь (хоть на Флибусту). Чай в эпоху интернетов живем.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-25 05:05 (ссылка)
Как тут мне объяснили, чтобы читали объём не должен превышать 5000 знаков. Так что еще и на кусочки порезать.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]eldhenn@lj
2010-05-25 06:15 (ссылка)
"Историю Земли и жизни на ней" читаем же. А там больше пяти тысяч.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-25 06:34 (ссылка)
Читаем. То что уважаемый автор может рассчитывать на тираж не менее размера аудитории своего журнала, сомневаться и не приходится.

(Ответить) (Уровень выше)


[info]vkpb@lj
2010-05-25 05:31 (ссылка)
Не могли бы вы информировать, что именно выкидывают и где эти свалки?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 06:16 (ссылка)
http://natchalnik.livejournal.com/273702.html
"Вчера я "дозрел" и решил наконец сдать в макулатуру около 300 пачек совсем уж никчемных книг, которые хранятся на дальнем складе. Потому как платить за их хранение - нет никакого смысла!.. Среди них: А. Кустарев "Нервные люди", А. Люсый "Нашествие качеств", Е.Н. Матюшкин "Избранные труды", О.Ф. Чернова "Атлас волос млекопитающих" и книга М. Комацу, агитирующая за японский китобойный промысел - заказное издание, за которое мне до сих пор стыдно - к счастью, его почти никто не покупал с 2005 г."
где свалка - спросите у этого юзера

(Ответить) (Уровень выше)

print on demand
[info]alex_nacharov@lj
2010-06-14 07:13 (ссылка)
Ну так изобрели ведь такой метод как "печать по требованию". Именно затем чтобы печатать только для тех, кому надо, и без расходов на бензин.

А таких не так уж и мало, судя по количеству читателей вашего журнала.

(Ответить) (Уровень выше)


[info]markshat@lj
2010-05-25 03:15 (ссылка)
Один «интеллект» проявляет себя не во взаимодействии с другим «интеллектом». «Интеллект» воды, налитой в кувшин, осваивает сложную «интеллектуальную» форму кувшина. Человек ставит задачу с использованием блока, муравьи решают ее, как вода «решает» кувшин. В окружающем нас мире все имеет форму или, что точнее, свойства. И свойства одних сопрягаются со свойствами других. Когда человек взаимодейсвует с муравьями, муравьи становятся умнее, потому что в их «интеллекте» отражается в «интеллект» человека. А человек – глупее, потому что видит отражение своего интеллекта в интеллекте муравьев, и не узнает его. И все вместе мы вливаемся в форму Вселенной. Нам кажется, что это мы такие умные, а в нашем интеллекте мы видим отражение вселенского «интеллекта», задающего свойства всему. И разве корова не участвует в жизни рстений и насекомых своим навозом? Равзе такие уж неприницаемые переборки между мирами живой природы?

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 04:11 (ссылка)
А нам точно кажется, что мы такие умные? Ну, мне не кажется, и вроде бы многим знакомым тоже не кажется. Мне кажется иное - что происходит смешение "сложности устройства муравья" и "ума муравья". Кристалл алмаза устроен некоторым упорядоченным образом, "по формуле", но это не значит. что углерод имеет разум - в смысле человеческого интеллекта. Муравей устроен очень сложно, и нашего ума не хватает, чтобы это понять - но этим не говорится, что интеллект муравья сложен.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]markshat@lj
2010-05-25 06:17 (ссылка)
кому же тогда приписать "сложность устройстав" всего? мы все - муравьи, люди, - не равны сложности собственного устройста. получается креационизм.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 06:23 (ссылка)
Мне кажется очевидным факт, что сложность устройства чего-то и "степень разумности" этого чего-то - очень разные вещи. Это факт, он весьма известен. Что из этого факта следует креационизм - не думаю. Попросту говоря. абсолютно все системы знания и гипотезы, какие только есть. учитывают этот факт и как-то с ним обходятся.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]markshat@lj
2010-05-25 07:27 (ссылка)
значит, все может "устраиваться" и устраиваться довольно сложно без участия "разумности" того, кто "устраивается". а "разумность" того, кто "устраивается", зиждется на этом сложном устройстве. что же тогда движет этим "устраиванием", если не сам устраивающийся? и то, что им движет, не будет ли тогда "богом"? или это просто изначальное свойства всего, что есть, "устраиваться", и не только устраиваться, но и усложняться, какая-то невообразимо многообразная валентность, заставляющая притягиваться одно к другому и сотворившая все, что нас окружает. те же самые кувшин и вода, если есть кувшин, то вода неперемнно примет его форму.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 07:48 (ссылка)
Это исходная точка размышлений начиная с Аристотеля. Вы как-то игнорируете всю науку разом. Не в ХХ веке. а в -20 любой прадревний хетт мог сказать: я нахожу в окружающем мире великую мудрость; мне следует полагать, что раз я вижу мудрое устройство в природе, в строении растений, в залегании рудных жил - значит, за природой стоит творящий разум или много разумов, бог или боги.

Начиная с 16-17 века это ну очень старое рассуждение выстраивается иначе. говорится: мы не спрашиваем, откуда взялась сложность, мы смотрим, какова она. Удается писать движение планет с помощью относительно простых законов. Не спрашивается о создателе растений. Спрашивается - как именно устроены. То есть Вы обращаетесь не по адресу - не нужны статьи о сложности поведения муравьев. чтобы начать искать в мире Бога. Это просто лишнее обстоятельство - разговор о сложном поведении. Интерес данного текста не в том, что он заставляет задуматься, где же Бог и есть ли он - интерес в том, насколько же сложно всё у муравьев устроено и как именно.

Любое, сколь угодно глубокое изучение муравьев не приведет к ответу на Ваши вопросы. И они могут быть поставлены в точно таком же виде совсем без муравьев.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]markshat@lj
2010-05-25 08:40 (ссылка)
а разве вы занялись муравьями не потому, что они напоминают, может быть, несколько упрощенную или, если не упрощенную, то уменьшенную или во всяком случае наглядную модель человеческого общества? это, может быть, слишком личное и я не имею права на эти вопросы, но разве вы с самого начала ограничивались тем, как именно это устроено и все? да, надо признаться, как и прадревний хетт, я нахожу в природе мудрое устройство. и совсем не потому, что игнорирую науку, а благодаря ей, добытым ею подтверждениям. и дело не в богоискательстве, а в поиске ответа на вопрос, что же это я сам за такой "муравей". разве можно вычесть себя из любого научного рассмотрения?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]fidelkastro@lj
2010-05-25 09:46 (ссылка)
Бог - существует. Муравьи - тоже.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]markshat@lj
2010-05-25 10:52 (ссылка)
между утверждениями "бог существует" и "бога не существует" нет какой-либо существенной разницы. муравьи действительно все еще существуют.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]fidelkastro@lj
2010-05-25 13:38 (ссылка)
>между утверждениями "бог существует" и "бога не существует" нет какой-либо существенной разницы

А вот это, кстать, интересно. Ключевое слово - "существенная". (В свое время на философском ф-те ходило такое высказывание: "Бога, конечно, нет, но пути Его неисповедимы". ) Считать ли "существенной" духовную сторону жизни человечества? Считать ли "существенным" вопросы судьбы, жизни и смерти, не побоюсь этого слова - совести каждого из нас?

Ну, и с муравьями тоже не так просто. Существовать-то они существуют, вот только как они существуют - как автоматы с жестко встроенной программой, или у них есть элементы интеллектуальности (не об этом ли пост?)? По-моему, ответ очевиден: как и всякое живое существо муравьи не могут не иметь интеллектуальности, хотя бы на уровне применения той или иной "программы" поведения - кто-то же их запускает, останавливает, модернизирует?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]markshat@lj
2010-05-26 07:27 (ссылка)
боюсь, невозможно надежно отделить "автоматы с жестко встроенной программой" от "элементов интеллектуальности". лично мне неизвестно ничего совершенно отдельного. мне кажется, всегда сохраняется возможность двоякой интерпретации. когда-то я наивно полагал, что наука способна это преодолеть. и будучи гуманитарием, ожидал, что оттуда придет недоступное мне оазрение, которое даст на все однозначный ответ и тем самым уничтожит меня с моей двоякостью. но со временм я стал понимать, что это не только моя двоякость, что двоякость - это свойство всего, с чем бы кто бы ни соприкасался. а раз так, то не разумней ли понимать все как двоякое, каким оно и является.

(Ответить) (Уровень выше)


[info]ivanov_petrov@lj
2010-05-25 13:57 (ссылка)
Вот в этом и беда... в смысле непонимания.

Я не занимаюсь муравьями. Мой интерес к ним - не по указанной Вами причине. Нет, мне не только не кажется - я уверен. что они не напоминают модель человеческого общества. Да, указанные вами вещи можно вычесть из любого научного исследования. Даже нужно.

Такая беда.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]markshat@lj
2010-05-26 07:37 (ссылка)
но если вычесть, что же тогда останется, муравьи, которых некому исследовать?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 09:04 (ссылка)
увы, не понимаю, о чем Вы

(Ответить) (Уровень выше)


[info]dskrvk@lj
2010-06-02 11:56 (ссылка)
Посмотрите это видео, в нем показано, что даже такой сложный и явно рукотворный предмет, как часы, можно получить в ходе естественной эволюции - при выполнении некоторых условий.

(Ответить) (Уровень выше)


[info]dm_kalashnikov@lj
2010-05-25 03:37 (ссылка)
Спасибо. Очень интересно.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 14:15 (ссылка)
благодарю

(Ответить) (Уровень выше)


[info]nsela@lj
2010-05-25 04:16 (ссылка)
Интересно, у муравьев есть в мозгу хоть какая от система награды за умственную или иную деятельность, как у нас? Или только врожденные готовые нейронные сети.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 06:56 (ссылка)
а у нас в мозгу есть награда за умственную деятельность?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]nsela@lj
2010-05-25 07:17 (ссылка)
если бы у нас не было, никто бы и не писал статей про муравьев

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 07:41 (ссылка)
это несколько иначе называется. чем "награда в мозгу". Если речь об этом, то эволюционные выигрыши "за ум" есть у всех, начиная с простейших. Можно наоборот: не бывает без "награды в мозгу"

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]nsela@lj
2010-05-25 10:29 (ссылка)
Наверное, отбор поддерживает "развитие ума" вообще. Признаюсь, у меня очень смутные представления о работе мозга муравьев, а о нашем еще хуже. Я полагала, что коли деятельность членистоногих обусловлена инстинктами, и они рождаются с готовыми связями между нейронами, рецепторами и эффекторами, можно обойтись и без награды. Как у нас, стукнули молотком по коленке -нога разогнулась. Активировался у муравья какой то обонятельный рецептор - и пошел он доить тлю. Насколько муравей свободен в своих действиях? Не знаю, хотя писали, что колониальные осы могут уклоняться общественных работ... Искусственный интеллект будет функционировать по принципу муравья: включили ток - пошел процесс? Или ему (интеллекту) будут придумывать систему награды, подобно тому, как у нас в мозгу выделяются эндорфины или дофамин?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 14:02 (ссылка)
господи, как же тяжело-то... Извините, это нервное. Вот по ссылке можно видеть. что я об этом думаю http://ivanov-petrov.livejournal.com/1339281.html

(Ответить) (Уровень выше)


[info]misha_makferson@lj
2010-05-26 04:29 (ссылка)
Хм, а почему те кто занимается мозгом заявляют, что мозг не любит думать. Это очень затратное энергетически дело, тратится много глюкозы. Если мозг будет все время работать то через достаточно непродолжительное время будет либо коллапс (крыша съедет) либо нервное истощение и смерть.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ext_97196@lj
2010-05-26 20:40 (ссылка)
А, понятно:)- Вы - вот об этом товарище:
http://www.aif.ru/article/print/article_id/33835
Все эти "заявления", как обычно, далеко не бесспорны (и ещё в меньшей степени "общеприняты"), но, между прочим, они ничуть не "противоречат логически" и этим разговорам про "награду": мол, напрягся умственно - получи конфетку, насытился конфеткой - поспи, отдохни:)...

Кстати - вполне в тему поста: почему бы Вам тогда столь же серьёзно в том же номере не отнестись к эпатажным "предъявам" Невзорова?:) -
http://www.aif.ru/article/print/article_id/33842
(уж ежели лошадь поумней человека будет, то до муравья нам - как Америке до Луны:)).

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]misha_makferson@lj
2010-05-27 02:44 (ссылка)
>Все эти "заявления", как обычно, далеко не бесспорны (и ещё в меньшей степени "общеприняты"),

Ну насчет потребляемой мозгом калорий установлено довольно точно. Действительно потребляет непропорционально больше своей доли в массе тела.

(Ответить) (Уровень выше)

Муравьишки навеяли
[info]schwalbeman@lj
2010-05-25 04:47 (ссылка)
Image

(Ответить) (Ветвь дискуссии)

Re: график не закончен - надо до 1000
[info]ivanov_petrov@lj
2010-05-25 05:18 (ссылка)
Image

Image

Image

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: график не закончен - надо до 1000
[info]schwalbeman@lj
2010-05-25 06:28 (ссылка)
Судя по Вашим картинкам, справа надо экспоненту пририсовать.

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: график не закончен - надо до 1000
[info]ivanov_petrov@lj
2010-05-25 07:01 (ссылка)
Image

Image

в общем, они прелестны. Только восемь -десять ног смотрятся тяжело, а после тысячи практически безразлично

(Ответить) (Уровень выше)

Мораль
[info]albiel@lj
2010-05-25 08:05 (ссылка)
Лучший способ понравиться - встать на четвереньки.

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: Мораль
[info]schwalbeman@lj
2010-05-25 09:22 (ссылка)
Как вариант.

(Ответить) (Уровень выше)


[info]eldhenn@lj
2010-05-25 06:28 (ссылка)
Чем, в сущности, человек отличается от муравья? У человека есть рефлексия.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 06:56 (ссылка)
ну, может быть, есть еще что-то, но и рефлексия, конечно

(Ответить) (Уровень выше)


[info]dssh@lj
2010-05-25 11:40 (ссылка)
А почему, собственно, у муравья ее нет? Сдается, что очень даже есть. По крайней мере самоосознание (самоощущение) непременно должно быть, иначе просто он не сможет двигаться. Как можно планировать свое движение не осознавая, что ты есьм? Непонятно.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 13:58 (ссылка)
Круто. Подумал о катящихся под уклон камнях...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dssh@lj
2010-05-25 15:07 (ссылка)
Нет, образ камней тут не подходит. Единственное содержание нервной деятельности, которое имеет хоть какой-то смысл, на мой взгляд, - это опережающая реакция на внешнее воздействие. В противном случае - это бесполезная трата калорий. Чтобы иметь возможность опережать окружающий мир, необходимо предсказывать его изменение. Но подвижный носитель НД необходимо вынужден позиционировать себя в этом мире. Иначе говоря, чтобы предсказывать развитие событий, живому организму необходимо иметь представления о себе, своем месте в мире, своих возможностях по его изменению, по изменению себя (хотя бы своей позиции) в этом мире. Единственное существенное отличие, как я вижу, муравья от человека - в некоторой ограниченности рефлексии (скорее всего отсутствует позиционирование себя в социуме), в определенных нюансах общественной организации, в строении организма. Но суть НД остается и для муравья, и для человека.
А камень - нет, камень не предсказывает своего будущего.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 16:09 (ссылка)
Это - как мне кажется - какой-то странный уровень обсуждения. мне кажется или вы совсем не знаете ничего о нервной деятельности? О том, что все высшие отделы нервной системы занимаются на примерно 90% торможением активности нижележащих отделов - знаете? Мнение об опережающей реакции, как мне кажется - это просто ваши... ээ... ну, представления, которые имеют отношение только к степени незнания, но никак не к реальности

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dssh@lj
2010-05-25 16:25 (ссылка)
Вы не о том. Торможение тут не при чем. К сожалению, Вы не предложили свою интерпретацию НД, а только указали на то, что я ничего не знаю. Как-то меня не тянет обсуждать мои знания о НД и сравнивать их с вашими. Это мне не интересно.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 16:35 (ссылка)
да, не исключено, что Вы знаете очень много и намного больше меня. Но в любом случае я не нашел в Вашем комментарии смысл - может, по малознанию.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dssh@lj
2010-05-25 16:50 (ссылка)
Попробуйте ответить на вопрос: зачем нужна НД? Не как она устроена, а в чем преимущество организма имеющего НД перед организмом ея не имеющего. Вы же, кажется, сторонник эволюционной теории, значит НД должна давать преимущества. Какие?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 01:11 (ссылка)
Она позволяет при желании правой руке знать, что делает левая. Это орган непротиворечивости в живом мире.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dssh@lj
2010-05-26 03:12 (ссылка)
Я правильно понимаю, что Вы считаете, что задача НД - синхронизация отдельных частей организма? А зачем их синхронизировать? Это дает какие-то преимущества перед асинхронным поведением?

Посмотрите на НД с другой стороны: появляется она как отдельные рецепторы, которые еще ничего не синхронизируют, но выделяют специфическое воздействие внешней среды и запускают некоторый ответ на это воздействие. Уже на этом этапе ответ на возбуждение должен быть опережающим по отношению к следующему воздействию среды. Иначе он не дает никакого перимущества перед поведением камня: "пнули - полетел". Преимущество появляется только если при первом прикосновении организм среагировал так, что до "пнули" дело не дошло. Потом, когда появляется сеть, да - появляется синхронизация, но ее задача - более эффективная реакция всего организма на воздействие внешней среды, - более быстрая, если хотите, более эффективная в смысле возможностей. На следующем этапе развития НД у организма появляется примтивная возможность моделирования внешней среды за счет корреляции сигналов от множества рецепторов, а потом и рецептивных полей разнородных рецепторов. Но в любом случае организм должен давать опережающую реакцию на внешнюю среду, учитывать, как эта среда изменится к моменту наступления реакции (надо ли говорить, что задержка между запускающим воздействием и ответом весьма существенная, особенно с учетом синаптической передачи сигнала). Иначе это будет "махание кулаками после драки". Вот я об этом.

А что значит и зачем надо "непротиворечивость в живом мире" - это мне непонятно.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 03:35 (ссылка)
Преимущество... Да. Что тут скажешь. Можно еще обсудить преимущество иметь пищеварительную систему перед "не иметь". Должно же быть преимущество, раз есть система.

Увы, я не могу продолжать этот разговор. Это совершенно бесполезно. О чем Вы говорите - предугадать невозможно, никакой нервной системы не хватит.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ipain@lj
2010-05-26 11:58 (ссылка)
предугадать невозможно, никакой нервной системы не хватит

конечно. поэтому мир в основном сначала конструируется, а угадывается типа стабильность конструкции.

но я про нервную деятельность еще меньше знаю, мне и камни кажутся падующими осмысленно, а вчера ваще читал про коммуникацию у трещин (http://arxiv.org/abs/1005.4622).

а фройд кслову, не так далеко от москвы уехал пока. вполне может и вернуться.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 16:18 (ссылка)
про фрейда забавно. Я замечал по разным своим знакомым, что есть люди Фрейда - и люди не фрейдовы. У одних все выглядит похоже на то. что он написал, а другие - не подходят под те понятия.

(Ответить) (Уровень выше)


[info]clayrat@lj
2010-05-31 13:36 (ссылка)
так ведь модель затем и нужна, что она непротиворечива
синхронное поведение дает "синергию" - то самое целое, что больше суммы своих частей

(Ответить) (Уровень выше)


[info]eldhenn@lj
2010-05-25 15:31 (ссылка)
Вы как дышите?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]dssh@lj
2010-05-25 16:26 (ссылка)
Глубоко.

(Ответить) (Уровень выше)


[info]kondybas@lj
2010-05-25 06:35 (ссылка)
Я искренне убежден, что стороннему незамыленному взгляду человечество представится куда менее разумным, чем муравейник. Треть сапиенсов думает только одну мысль - где достать денег? Еще треть вообще не думает - какие-то типовые реакции, скорее рефлекторные, чем осознанные. Это очень хардкорный экспириенс - внезапно понять, что у собеседника в голове происходит что угодно, но не мыслительный процесс. Думаю, это главная причина молчания внеземных цивилизаций :)

(Ответить) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-25 06:48 (ссылка)
Все и не должны думать. Велика тоже мне беда.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]kondybas@lj
2010-05-25 06:54 (ссылка)
По большому счету - НИКТО не должен :) Но, как говорится, назвался сапиенсом - изволь соответствовать...

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-25 17:04 (ссылка)
Я имел в виду - не должны, чтобы вид оставался разумным.

(Ответить) (Уровень выше)

Мы почитаем всех нулями
[info]alex_nacharov@lj
2010-06-14 07:25 (ссылка)
>Это очень хардкорный экспириенс - внезапно понять, что у собеседника в голове происходит что угодно, но не мыслительный процесс.

Как раз обычные человеческие склонности прямо противоположны. Как писал поэт, "Мы почитаем всех нулями,
А единицами – себя." Осознать что в другом существе тоже есть какая-то психическая жизнь, тоже какая-то мысль движется – вот это мощный опыт, да

(Ответить) (Уровень выше)


[info]schwalbeman@lj
2010-05-25 06:49 (ссылка)
Человек может судить об интеллекте того, кому он может поставить задачу и пронаблюдать её решение. Или пронаблюдать решение случайно возникшей совершенно новой задачи. Это приводит нас к взгляду на интеллект, как на способность аккумулировать гибкие универсальные решения. Что, в свою очередь, наводит на мысль о том, что между инстинктом и интеллектом различие количественное, а не качественное.

Инстинкт предполагает решение аппроксимационной задачи "не плавными" функциями (которые в узлах прилегают плотно, зато между узлами "проваливаются", могут ничего общего не иметь с аппроксимируемой гиперповерхностью). А интеллект готов проиграть в точности в узлах, зато у него решение "плавное" и есть шанс, что оно работает и между узлами. Поэтому осы сфекс не могут чего-то там схватить, если у жертвы чего-то там оторвать.

Ну и степень "плавности" этой... это же просто параметр, множитель там какой-нибудь. У муравьёв он выкручен близко к одному крайнему значению, у человека поближе к другой крайности.

Хочу подчеркнуть, это не я так думаю. Но это ход мысли, который, как мне кажется, естественно возникает, если измерять интеллект способностью решать задачи. Это к вопросу о том, "точно ли нам кажется, что мы умные".

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 14:20 (ссылка)
_ это ход мысли, который, как мне кажется, естественно возникает, если измерять интеллект способностью решать задачи_ _Человек может судить об интеллекте того, кому он может поставить задачу и пронаблюдать её решение_

Возможно. Но зачем так определять интеллект? Я совершенно не собираюсь спорить или как-то его определять. но так бы - не стал, наверное. Наскоро вот какое соображение. словом интеллект называют очень разные вещи, это понятно. Там расплывчато и пр. Так вот, умение решать задачи - согласен. входит в чрезвычайно широкий набор того. что называют интеллектом. То есть некоторые и так говорят. Но это маргинальное по самой сути понимание, потому что это совсем отдельная способность. И там отдельные трудности - что назовем решением (компьютер - решает? амеба - решает), что назовем задачей... Как только это определяется, можно понять. что полученный класс объектов незачем называть интеллектуальным - это просто отдельное значение.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-25 16:59 (ссылка)
А расскажите, чем ещё меряют интеллект? Я только и слышу со свой дилетантской колокольни о решении занимательных задач. Гусь умнее свиньи... свинья умнее гуся... гусь свинье не товарищ... все на основании тестов.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 01:14 (ссылка)
Да его в основном не меряют. Вот бихевиоризм был помешан на таких измерениях - ну как же можно работать без измерений, и там измеряли - весьма строго. и тебе время решения, и скорость обучения, и сложность решения и вообще. Потребовалось более 50 лет, чтобы наконец стало массовым образом понятно - там нет пути, стенка. То есть человеку со стороны это совсем не понятно - говорю, сообщество из тысяч ученых более полувека не могло сообразить, что это не работает, это вовсе не универсальная отмычка, и измерять интеллект можно, но это не более важно и полезно, чем делать что угодно другое - ну, раскрашивать интеллект или сравнивать, оценивать или рассказывать.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-26 08:24 (ссылка)
Это очень приятно слышать. Значит, я не еретик, а наоборот, в самом мэйнстриме.

Ладно, количественных критериев интеллекта нет. А качественные есть?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 09:06 (ссылка)
сколько авторов, почти столько и критериев. Иначе Вы бы давно знали. Это, на мой взгляд, вопрос, который просто не имеет значения. Пустой. Нет понимания интеллекта - к этому много причин. ну и мелкая деталь - потому нет критериев. критерии вторичны от понимания. Когда есть понимание, можно придумать для данного случая критерии, понимая их относительность и пр.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-26 10:16 (ссылка)
Пытаюсь вспомнить ещё хоть один пример того, что обладало бы сходной притягательной силой и было бы таким же неопределенным. Бог? Абсолют? Слишком абстрактно. Вроде бы нет конкурентов.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 16:17 (ссылка)
добро. зло. истина. и т.п.

(Ответить) (Уровень выше)


[info]sergius_v_k@lj
2010-05-26 04:46 (ссылка)
Ну да. То, что представляется нам задачей, так сказать вторично. Если есть ум, он может ставить себе задачи и понимать другие умы, которые ставят их себе. Если ума нет, о задачах говорить бессмысленно.
Компьютер не решает, он - железка и "ходит", как ходят часы. Также, как счеты или арифмометр, на которых мы считаем, не решают задач, они двигаются так, как нам требуется. Или другой пример: еще Бисмарк хорошо понимал и объяснил всем желающим это понимать, что стреляет не пушка, стреляет внутренний мир человека. Без него пушка - груда металлолома.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-26 04:50 (ссылка)
как это часто, очень часто бывает - подводит привычка объективировать. Принято думать, что мышление и наука улучшаются, когда уходят от человека. и потому говорится: а как мы отличим компьютер и человека? вот мы их поместили в лабиринт, они решают задачу, оба. Они оба интеллекты. К сожалению, вот так и думают.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]sergius_v_k@lj
2010-05-26 05:06 (ссылка)
Даже (ограниченные) гении. Как говорил Эйнштейн: "Мой карандаш умнее меня".

(Ответить) (Уровень выше)

Тащим сироп в муравейник
[info]seryi67volk@lj
2010-05-25 06:52 (ссылка)
Навело на мысль об управлении людьми.

Наверняка все согласятся, что американцы умнее, скажем, африканцев. Например, меньше ДТП. Но при одинаковых правила дорожного движения, в одной стране люди десятилетиями выдрессированы их соблюдать, а в другой - нет. Так вот, не принимаем ли мы выполнение правил (следование инстинктам) за интеллект? То есть для того, чтобы общество в целом было эффективным ("умным"), меньшинство (элита) должно выработать (творческая, умственная работа) правила, которым большинство должно просто следовать (работа инстинкта). Эффективность управления, собственно, измеряется тем, насколько большинство выполняет правила (не допускает ошибок).

(Ответить) (Ветвь дискуссии)

Re: Тащим сироп в муравейник
[info]ivanov_petrov@lj
2010-05-25 14:21 (ссылка)
все? согласятся? ну и ну

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: Тащим сироп в муравейник
[info]schwalbeman@lj
2010-05-25 17:05 (ссылка)
Да все же, все. Не привередничайте.

(Ответить) (Уровень выше)

Re: Тащим сироп в муравейник
[info]seryi67volk@lj
2010-05-26 01:47 (ссылка)
Я имел ввиду, что это общее представление (подобно "общему знанию" об уме муравьёв). Разве это не так? Дальше попытался это представление разложить по Вашему примеру.

Не похоже?

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: Тащим сироп в муравейник
[info]ivanov_petrov@lj
2010-05-26 02:01 (ссылка)
мне трудно судить, на что это похоже. У людей с инстинктами напряженка, мало их. Так что правила у насекомых и у людей - это просто одно слово для разных вещей.

(Ответить) (Уровень выше)


[info]velobos@lj
2010-05-25 08:12 (ссылка)
А не читали ли Вы художественную книжку "Ложная слепота" канадца Питера Уоттса? Он там инопланетных животных выводит с разумом, но без сознания совершенно.

(Ответить) (Ветвь дискуссии)


[info]misha_makferson@lj
2010-05-25 08:35 (ссылка)
Это как? Непонятно. Без подсознания и всех этих биохимических штучек идущих ещё от кистеперых рыб это сколько угодно, вот искусственный разум если его когда-нибудь создадут такой и будет.

(Ответить) (Уровень выше)


[info]ivanov_petrov@lj
2010-05-25 14:00 (ссылка)
нет, не читал

(Ответить) (Уровень выше)

"взятки" по-муравьиному
[info]lectica@lj
2010-05-25 14:29 (ссылка)
Очень интересно было бы узнать, а есть ли у муравьев что-то похожее на взятки? "Социальные программы" в виде кормежки старых неработающих муравьев, говорят, есть.

(Ответить) (Ветвь дискуссии)

Re: "взятки" по-муравьиному
[info]ivanov_petrov@lj
2010-05-25 14:36 (ссылка)
ломехуза и другие жуки-паразиты. выделяют наркотики и за это их кормят муравьи.

Если угодно, это можно называть и взятками - это столь же бессмысленно, как говорить о скотоводстве или рабовладении

(Ответить) (Уровень выше) (Ветвь дискуссии)

рабовладение
[info]drug_indejcev@lj
2010-05-25 15:18 (ссылка)
Какая-то книжка была детская, там одни муравьи забирали других в рабство. Так на самом деле не бывает?

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: рабовладение
[info]ivanov_petrov@lj
2010-05-25 16:10 (ссылка)
более чем бывает, сотни видов. Просто слово "рабство" - метафора. Как слово "царица".

(Ответить) (Уровень выше)

Re: "взятки" по-муравьиному
[info]lectica@lj
2010-05-25 17:50 (ссылка)
Да, после Вашей статьи про лентяев - муравьев вопрос о взятках становится глупым. Спасибо. Очень интересно. Буду ждать продолжения.

(Ответить) (Уровень выше)

Если они такие умные, то чё они строем не ходют?
[info]drug_indejcev@lj
2010-05-25 15:17 (ссылка)
А раз ходют, то, значит, умные.

Вот омары тоже ходят по дну в колонну по одному - интересно, зачем?

(Ответить) (Ветвь дискуссии)

Re: Если они такие умные, то чё они строем не ходют?
[info]peggy_s@lj
2010-05-25 15:47 (ссылка)
Вот, кстати, пока нигде не нашла ответа (правда вроде не омары, а лангусты). То есть зачем в колонну по одному - понятно, чтоб не потеряться, а зачем в глобальном смысле? Сколь я поняла, толком непонятно не только "зачем", но и "куда"

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: Если они такие умные, то чё они строем не ходют?
[info]drug_indejcev@lj
2010-05-25 19:13 (ссылка)
Homarus americanus - он кто? Я как-то всегда думал, что раз хомарус, то омар.
Но ходят, да.

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: Если они такие умные, то чё они строем не ходют?
[info]peggy_s@lj
2010-05-26 14:26 (ссылка)
Вроде омар, да. С клешнями. Лангусты - они без клешней.
Ну наверное они и те, и другие строем ходят. Я просто только про лангустов слышала, что многие тысячи, положив усы на спину впередидущему...

(Ответить) (Уровень выше)


[info]peggy_s@lj
2010-05-25 15:45 (ссылка)
Ну к вопросу о двух стволах - интересно было бы сравнить насекомых не только с позвоночными а... ну с головоногими что ли, кто еще из беспозвоночных интеллектом известен? Как осьминоги задачи решают - скорее как рыбы-птицы или скорее как насекомые? Или вовсе нечто третье?
А то как-то делать выводы о всех беспозвоночных по такой специфической во всех отношениях (начиная со среды обитания) группе, как насекомые ИМХО рискованно.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 16:13 (ссылка)
Нет, это не к выводам о "всех". Просто представитель для контраста. Если угодно, можно взять осьминогов. Просто о них все же поменьше известно.

(Ответить) (Уровень выше)


[info]wvoldo@lj
2010-05-25 16:05 (ссылка)
Благодарю, познавательно и интересно. Вобщем жду продолжения. Интересно, а такое явление как лень попадается у муравьёв?

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-25 16:13 (ссылка)
http://ivanov-petrov.livejournal.com/841205.html

(Ответить) (Уровень выше)


(Анонимно)
2010-05-25 16:26 (ссылка)
Ваши публикации интересны. Спасибо. Но Вы, как все гуманитарии, плохо знаете русский язык. Старайтесь, чтобы каждое слово сохраняло свой первоначальный смысл. Береза - это береза, а не сосна с белой корой. Я не удивлюсь, если Вы обучались на журфаке МГУ - рассаднике безграмотных и поверхностных личностей.

(Ответить) (Ветвь дискуссии)


[info]schwalbeman@lj
2010-05-25 17:01 (ссылка)
Надеюсь, этот прекрасный комментарий не будет стёрт.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]termometr@lj
2010-05-26 13:27 (ссылка)
+1 рускаго языка надо знать хорошее

(Ответить) (Уровень выше)

Андрей Быструшкин
(Анонимно)
2010-05-26 13:59 (ссылка)
Потенциально сложность поведения обеспечивается не только сложностью устройства самого субъекта, но и сложностью системы взаимодействия субъекта с поступающей извне информацией.

Например такая аналогия, в геноме человека всего около 25 000 генов при всей человеческой сложности, мозге, наследуемых не только морфологических малостях вплоть до родимых пятен и волосков на коже, но и элементах поведения. В геноме маленького круглого червячка Caenorhabditis elegans длиной около 1 мм - 19100 генов! Достаточно представить себе, что у этого червячка нет никаких специализированных органов чувств, нет кровеносной и дыхательной системы, никаких органов, нет почти ничего кроме кишечника и гонад, состоит червячок всего из 959 клеток, по структурной сложности и эволюционной развитости червячок не только с человеком, но и с рыбой или насекомым никак не сравнить, а развивается из одной единственной клетки-зиготы и функционирует и человек и Caenorhabditis elegans на базе почти одинакового количества генов, которые собственно и заключают в себе наследственную информацию.

В чём же причина этого парадокса? Почему при почти одинаковом количестве носителей информации-генов результат столь разительно отличается: Человек венец природы и крошечный безмозглый жрущий и размножающийся червячок, примитивный даже с точки зрения дождевого червяка?

Ответ на мой взгляд состоит в природе организации информационных процессов в живом, когда простейшими алгоритмами обработки внутренней наследственной информации создаются сложнейшие и прецизионнейшие механизмы взаимодействия информации об окружающем мире с саморазвивающимися системами живого организма. Такие свойства как использование информации извне, алгоритмичность, итерационность, самоподобие или фрактальность информационных механизмов в живом позволяют создавать чудовищную избыточную сложность организма на всех уровнях организации - биохимическом, клеточном, тканевом, органном, организменном, включая ВНД, сравнительно скромными средствами всего 20-30 тысяч кусков макромолекулы дезоксирибонуклеиновой кислоты.

Фактически грандиозное здание человеческой сложности опирается на "притёртый" за миллионы лет компактный наследственный генетический механизм, в котором не только 25000 существующих генов, но и сотни тысяч, возможно миллионы, отсутствующих генов, использованных и выброшенных эволюцией в процессе адаптации предков человека к окружавшему их миру. За компактной генетической машиной человеческого генома стоят отсутствующие сейчас огромные пласты информации, которые были переработаны и эту машину совершенствовали миллионами лет. Это пласты информации об окружающем мире, которые, тем не менее, неявно присутствуют в конструкции и этой машиной успешно используются.

Поэтому, если принимать во внимание только имеющееся сейчас количество генов и не принимать во внимание количество отсутствующих, то действительно трудно понять почему человек и червячки такие разные :)

Аналогична на мой взгляд и ситуация с муравьями, у которых не то что мозга дифференцированного нет, а почти все нейроны только мышцы и органы чувств и обслуживают. У муравьёв в нервных узлах всего около 100 тысяч нейронов, по сравнению с около 100 миллиардов у человека - чепуха недостойная упоминания, тем не менее даже с такими скромными средствами нервная система насекомых обеспечивает очень сложное поведение, за несчастными 100 000 муравьиными нейронами стоят неизвестное количество, тьмы и тьмы нейронов отсутствующих, но когда-то в их эволюционной судьбе бывших, испытанных, утраченных, но оставивших свой след в совершенстве нервной деятельности ныне живущих муравьёв.

(Ответить) (Уровень выше)

Андрей Быструшкин
(Анонимно)
2010-05-27 06:08 (ссылка)
Потенциально сложность поведения обеспечивается не только сложностью устройства самого субъекта, но и сложностью системы взаимодействия субъекта с поступающей извне информацией.

Например такая аналогия, в геноме человека всего около 25 000 генов при всей человеческой сложности, мозге, наследуемых не только морфологических малостях вплоть до родимых пятен и волосков на коже, но и элементах поведения. В геноме маленького круглого червячка Caenorhabditis elegans длиной около 1 мм - 19100 генов! Достаточно представить себе, что у этого червячка нет никаких специализированных органов чувств, нет кровеносной и дыхательной системы, никаких органов, нет почти ничего кроме кишечника и гонад, состоит червячок всего из 959 клеток, по структурной сложности и эволюционной развитости червячок не только с человеком, но и с рыбой или насекомым никак не сравнить, а развивается из одной единственной клетки-зиготы и функционирует и человек и Caenorhabditis elegans на базе почти одинакового количества генов, которые собственно и заключают в себе наследственную информацию.

В чём же причина этого парадокса? Почему при почти одинаковом количестве носителей информации-генов результат столь разительно отличается: Человек венец природы и крошечный безмозглый жрущий и размножающийся червячок, примитивный даже с точки зрения дождевого червяка?

Ответ на мой взгляд состоит в природе организации информационных процессов в живом, когда простейшими алгоритмами обработки внутренней наследственной информации создаются сложнейшие и прецизионнейшие механизмы взаимодействия информации об окружающем мире с саморазвивающимися системами живого организма. Такие свойства как использование информации извне, алгоритмичность, итерационность, самоподобие или фрактальность информационных механизмов в живом позволяют создавать чудовищную избыточную сложность организма на всех уровнях организации - биохимическом, клеточном, тканевом, органном, организменном, включая ВНД, сравнительно скромными средствами всего 20-30 тысяч кусков макромолекулы дезоксирибонуклеиновой кислоты.

Фактически грандиозное здание человеческой сложности опирается на "притёртый" за миллионы лет компактный наследственный генетический механизм, в котором не только 25000 существующих генов, но и сотни тысяч, возможно миллионы, отсутствующих генов, использованных и выброшенных эволюцией в процессе адаптации предков человека к окружавшему их миру. За компактной генетической машиной человеческого генома стоят отсутствующие сейчас огромные пласты информации, которые были переработаны и эту машину совершенствовали миллионами лет. Это пласты информации об окружающем мире, которые, тем не менее, неявно присутствуют в конструкции и этой машиной успешно используются.

Поэтому, если принимать во внимание только имеющееся сейчас количество генов и не принимать во внимание количество отсутствующих, то действительно трудно понять почему человек и червячки такие разные :)

Аналогична на мой взгляд и ситуация с муравьями, у которых не то что мозга дифференцированного нет, а почти все нейроны только мышцы и органы чувств и обслуживают. У муравьёв в нервных узлах всего около 100 тысяч нейронов, по сравнению с около 100 миллиардов у человека - чепуха недостойная упоминания, тем не менее даже с такими скромными средствами нервная система насекомых обеспечивает очень сложное поведение, за несчастными 100 000 муравьиными нейронами стоят неизвестное количество, тьмы и тьмы нейронов отсутствующих, но когда-то в их эволюционной судьбе бывших, испытанных, утраченных, но оставивших свой след в совершенстве нервной деятельности ныне живущих муравьёв.

(Ответить) (Ветвь дискуссии)

Re: Андрей Быструшкин
[info]ivanov_petrov@lj
2010-05-27 06:24 (ссылка)
про отсутствующие гены - занятно. Я, правда, не уверен... Это та же мысль. что про отсутствующие признаки. Раз организм продукт эволюции. мы должны - по вашей мысли - считать наличные у него свойства плюс те, от которых его предкам пришлось избавиться, чтобы выжить.

Еще шагом ближе. Содержимое моего ума должно состоять из мыслей, которые у меня есть и я думаю (допустим. у меня она одна) и плюс те, что я не думаю, не подумал - и именно их недуманием объясняется. к примеру, плачевное мое положение. Типа, не подумал вовремя 25 лет назад купить лотерейный билет - вот и сижу в одних трусах.

Боюсь, будет все же неверным суммировать существующее с несуществующим. Может быть. проще думать. что существующее существует само по себе, без приписанного к нему "принадлежащего ему" несуществующего? А для обозначения истории служит давнее понятие - память. К моим мыслям относятся те, что я помню, к чертам моего строения - те. что у меня есть в той или иной форме (например, корреляции развития и пр.). а чего нет - того нет

(Ответить) (Уровень выше) (Ветвь дискуссии)

Андрей Быструшкин
(Анонимно)
2010-05-27 09:56 (ссылка)
Идея другая, я предложу пару аналогий, может быть будет понятней.

Наблюдатель на поверхности моря видит верхушки айсбергов, но не видит их подводной части. По расположению айсбергов, скорости их движения и форме надводной части наблюдатель пытается выстроить теорию строения айсбергов и теорию их образования, генезиса путём откалывания от единого ледяного щита. Так вот моя идея в том, что для построения такой теории невозможно игнорировать подводные части айсбергов только на том основании, что их не видно.

Необходимо вовлекать в естественно-научные концепции и теории понимание того, что даже если мы не можем ретроспективно детально восстановить естественноисторические процессы генезиса, эволюцию уже не существующих в настоящее время биологических объектов и явлений, то это не означает, что их существование в прошлом можно игнорировать так, как будто их не было и мир сотворён в 7 дней уже таким, каким мы его видим.

Вторая аналогия, если заниматься сравнительной морфологией и сравнительной физиологией телефонов, имея несколько аппаратов системы начала 20 века и современных сотовых смартфонов, то для создания теории эволюции телефонов не правильно было бы игнорировать 100 лет напряжённой работы инженерной мысли над созданием угольных-электромагнитных микрофонов, полупроводников, микросхем, компьютеров и программного обеспечения, жидкокристаллических экранов, радиотехники, микрооптики, цифровых фотоаппаратов, электромагнитной записи музыки и её оцифровки, литий-ионных аккумуляторов и т.п.
Но у исследователя нет для сравнения объектов из промежуточных этапов, нет ни патефонов, ни плёночных магнитофонов и фотоаппаратов, нет ламповых микрокалькуляторов и роботронов, нет кинескопов на электронно-лучевых трубках, аналоговых модемов, детекторных радиоприёмников и коротковолновых радиостанций на кристаллах и радиолампах. Есть только деревянные телефоны образца 1905 года и сотовые 2005 года и как ему поступить?
Идея в том, что необходимо учитывать то, что было, даже если сейчас этого уже нет. Даже если в современном сотовом телефоне нет магнитной плёнки и радиоламп, чтобы понять филогенез его устройства необходимо учитывать что плёнка и радиолампы существовали в прошлом в других устройствах, создание которых сказалось совершенно определённым образом на телефонах и компьютерах того времени и информация об этом этапе развития не исчезла из мира с исчезновением тех приборов, но осталась в виде вполне определённых, уже более совершенных, черт строения современного сотового телефона с мр3 проигрывателем, интернет браузером и цифровым фотоаппаратом.

Насчёт мыслей и индивидуальной человеческой судьбы - всё гораздо сложнее и интересней, но это уже другая тема ;)

(Ответить) (Уровень выше) (Ветвь дискуссии)

Re: Андрей Быструшкин
[info]ivanov_petrov@lj
2010-05-27 13:01 (ссылка)
да, игнорировать существующее - неправильно.

(Ответить) (Уровень выше)

Re: Андрей Быструшкин
[info]misha_makferson@lj
2010-05-27 07:09 (ссылка)
Закон необратимости эволюции Л. Долло: организм (популяция, вид) не может вернуться к прежнему состоянию, уже осуществлённому в ряду его предков?

(Ответить) (Уровень выше)


[info]igor_dzhadan@lj
2010-05-28 10:13 (ссылка)
==В лесах Перу разные виды муравьев используют одни и те же дороги. Вот идет колонна муравьев-листорезов Atta. Численностью этак в несколько тысяч. Несут листья с дерева в муравейник. А навстречу – колонна муравьев-кочевников Eciton тоже числом тысяч в десять. Листорезы останавливаются и ждут, пока по дороге идут кочевники. Не разбегаясь и не нападая. А по бокам колонны кочевников идут сторожа-охранники, чтобы наблюдать за окружающим, и не подают сигналов тревоги – что особенного, ну стоят листорезы, ждут очереди. Вот разрыв в движении – какие-то кочевники замешкались, разорвалась колонна и освободилась дорога ненадолго. И по ней пошли листорезы с листьями в челюстях, а кочевники отошли в сторонку и пережидают, когда пройдут листорезы. Наблюдал это в Перу А.А. Захаров.==

- Я это наблюдал на видео, в одном из фильмов про муравьев. Вопрос: а существуют ли виды муравьев, которые, скажем так, смертельно враждуют. ТО есть - происходят ожесточенные муравьинные войны с захватом чужих гнезд так сказать - "до победного конца"? Про рабовладельческие виды я знаю, но не это имею в виду...

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-28 10:42 (ссылка)
я не знаю, что такое до победного. вроде бы ситуация такая, что в любой местности есть сообщество разных видов муравьев, которые друг с другом в разных отношениях. иные очень конкурируют и часто при встречах дерутся, если муравейник одного вида большой и здоровый, но находящиеся рядом гнезда другого задавит и пр. Это вроде понятно. как и то, что никакой вид не будет шастать и класть ресурсы только на то, чтобы известь где только можно заклятого врага

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]igor_dzhadan@lj
2010-05-28 11:36 (ссылка)
но теоретически бродячие муравьи могут использовать муравейники оседлых видов в качестве законной добычи, разве нет? по крайней мере пчелинные гнезда и осинные муравьи атакуют.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-28 14:11 (ссылка)
это конечно. у муравьев нет исключения из питания других муравьев за то. что они родственники. Хищные виды могут охотиться на других муравьев, почему нет. Но это же не война до победного. Просто еще одна добыча среди прочих.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]igor_dzhadan@lj
2010-05-28 15:01 (ссылка)
На мой вкус, если муравейник захватывается другим видом, то это именно, что "война до победного", только ещё и с поеданием :)

(Ответить) (Уровень выше)


[info]bvn_mai@lj
2010-05-29 09:24 (ссылка)
Тут на Вас сослались http://plakhov.livejournal.com/134147.html и я пришел. Написано здорово, но из слов «…Некоторые даже обещают, что ИИ вот-вот будет готов, уже почти вскипел…» можно сделать предположение, что Вы не разделяете мозги и интеллект.
Ну, так вот - закипать могут только мозги, а интеллект – он бродит…
;)

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2010-05-29 12:26 (ссылка)
интеллект бродит, где хочет. Как добродит - будет пиво

(Ответить) (Уровень выше)