Войти в систему

Home
    - Создать дневник
    - Написать в дневник
       - Подробный режим

LJ.Rossia.org
    - Новости сайта
    - Общие настройки
    - Sitemap
    - Оплата
    - ljr-fif

Редактировать...
    - Настройки
    - Список друзей
    - Дневник
    - Картинки
    - Пароль
    - Вид дневника

Сообщества

Настроить S2

Помощь
    - Забыли пароль?
    - FAQ
    - Тех. поддержка



Пишет ivanov_petrov ([info]ivanov_petrov)
@ 2007-10-31 07:28:00


Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Разговор о человеческих и компьютерных ошибках
http://ivanov-petrov.livejournal.com/751009.html?thread=28215201#t28215201

[info]watertank@lj
Давайте сделаем небольшую экскурсию в историю начала недавних войн.

В 1870 году Бисмарк подделал письмо французского посла германскому императору и "слил" его в прессу. Так началась франко-прусская война, в которой погибло или было ранено около миллиона человек.

В 1914 году, после покушения на эрц-герцога Франка Фердинанда, Австро-Венгерская объявила войну Сербии. Так началась первая мировая война, в которой погибли, были ранены или пропали без вести около 40 миллионов человек.

В 1919 году был заключен Версальский договор, по которому Германия должна была заплатить огромные репарации союзникам. Это привело к разрухе в экономике, бешеной инфляции, росту националистических настроений и победе нацистов.
В 1939 году нацист А. Гитлер начал вторую мировую войну, в которой погибли примерно 60 миллионов человек.
В 1941 году И.В. Сталин, несмотря на предупреждения разведки и дипломатов, не посчитал вероятным нападение Германии на СССР, в результате чего погибли миллионы советских военнослужащих и мирных жителей.

В 1964 американский конгресс, на основе ошибочных данных о нападении в Тонкинском проливе, разрешил президенту Джонсону начать войну против Северного Вьетнама. Количество погибших и раненых оценивается от 4 до 8 миллионов человек.

В 1979 году Политбюро ЦК КПСС принимает решение о начале войны в Афганистане. Количество погибших и раненных - ок. 2 миллионов человек.

В 2003 году президент США Буш предоставляет в Конгресс США искаженные данные об иракском оружии массового поражения и получает право начать военные действия. Количество погибших и раненных оценивается в 1 млн человек.

На фоне всех этих иррациональных человеческих решений работа компьютеров, управляющих большинством полетов гражданской авиации и поездами в парижском и токийском метро, вселяет надежду на лучшее будущее человека.

[info]ivanov_petrov@lj
Да, я понял. Надеюсь, Вы видите, что это риторика. Но при этом в качестве риторического упраженения это весьма убедительно. С другой стороны, и без всякой риторики я совершенно не против управления метро и авиацией.

[info]watertank@lj
Конечно, риторика. Я хотел показать, что человеческая свобода воли не обязательно лучше для самих людей, чем машинная. Они просто разные. Сейча идет процесс взаимо-обучения и взаимо-привыкания. У компьютеров это получается быстрее, потому что они могут работать в другой шкале пространственно-временных решений. "Ключи мира" уже у них.

[info]ivanov_petrov@lj
Я также надеюсь, что Вы понимаете - машинной свободы воли не существует. Программы - результат отложенных интеллектуальных решений программистов. Что-то вроде зимних запасов у белки... Мы имеем дело в любом случае только с человеческими суждениями. Ключи мира - только у нас. Другое дело, что об этом можно забыть - как можно потерять ключ, который лежит в собственном кармане.

[info]watertank@lj
Я согласен, что "программы - результат отложенных интеллектуальных решений программистов." Но это не значит, что программы всегда ведут себя в соответствии с намерениями программистов. Точно так же, как, вопреки намерениям, зимние запасы соседских белок часто остаются несъеденнными, и прорастают дубами у меня на газоне.
"Ключи мира" можно иметь не в исключительном, а в совместном пользовании. Так дело обстоит в реальности.


(Добавить комментарий)


[info]gns_ua@lj
2007-10-31 02:41 (ссылка)
разве Лем не все сказал ? %-)

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 02:45 (ссылка)
Конечно, всё. Но завещал повторять это всё семь раз на дню.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]gns_ua@lj
2007-10-31 02:57 (ссылка)
это правильно.

Мне кажется, формулировка "Программы - результат отложенных интеллектуальных решений программистов. [..] Мы имеем дело в любом случае только с человеческими суждениями" слишком узкая, это из старых экспертных систем.

А нынче - байесовские фильтры, к примеру. В алгоритме антиспама нет ничего, что позволяло бы ему отличать спам от неспама, все зависит от базы обучения. Так ведь биологических людей тоже - чем накормим в школе, то и получим.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]solomon2@lj
2007-10-31 03:30 (ссылка)
>Так ведь биологических людей тоже - чем накормим в школе, то и получим.<

Только до некоторой степени. После которой людишки не выдерживают и начинают блевать.

(Ответить) (Уровень выше)


[info]gns_ua@lj
2007-10-31 03:07 (ссылка)
или описанный (http://www.lib.ru/LEM/summa/summgl4h.htm) в "Сумме технологий" гомеостат:

Допустим, что некое лекарство предотвращает кариес зубов. Пусть употребление этого лекарства в определенном проценте случаев вызывает мутацию генов, и пусть новый мутировавший ген сам по себе еще не уменьшает плодовитости, а делает это лишь при встрече с другим, также мутировавшим геном; последний возник благодаря применению другого лекарства, употребляемого довольно давно. Это второе лекарство избавило, скажем, мужскую половину рода человеческого от терзаний, связанных с преждевременным облысением. Тогда "черный ящик" будет всячески распространять лекарство против кариеса, и в результате он добьется своего: по прошествии некоторого срока количество обоих (рецессивных) мутировавших генов в популяции возрастет и они будут соединяться довольно часто, а это уменьшит прирост населения. Почему же, спросите вы, "черный ящик" не информировал вовремя широкие круги об этом своем начинании; ведь мы же сказали, что, согласно введенным в него правилам действия, он о_б_я_з_а_н и_н_ф_о_р_м_и_р_о_в_а_т_ь обо всех изменениях, которые намерен провести?

Он не станет информировать общество вовсе не из "хитрого." или "демонического" расчета, а попросту потому, что он сам не будет знать, что, собственно, делает. "Черный ящик" - отнюдь не "электронный сатана", не всеведущее существо, кое рассуждает как человек или сверхчеловек, а всего лишь устройство, которое непрерывно ищет связи, статистические корреляции между отдельными общественными явлениями, исчисляемыми миллионами и тысячами миллионов. Как регулятор, он оптимизирует экономические отношения, поэтому состояние высокого жизненного уровня населения является и состоянием его собственного равновесия. Прирост населения угрожает этому равновесию. В какой-то момент "ящик" обнаружит положительную корреляцию между падением прироста населения и применением лекарства от кариеса. "Ящик" информирует об этом "совет", там проведут исследования и установят, что данное лекарство не уменьшает плодовитости" (ученые "совета" будут экспериментировать на животных, а те ведь не употребляют средств против облысения). "Черный ящик" ничего от людей не скрывал, ибо и сам он ничего не знал о генах, мутациях и причинной связи между введением двух лекарств и падением рождаемости. Он всего лишь обнаружил искомую корреляцию и стремится ее использовать."

точное знание алгоритма работы не спасает.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 04:32 (ссылка)
точное знание алгоритма работы не спасает - это понятно.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]gns_ua@lj
2007-11-05 15:15 (ссылка)
и рабочих данных, вплоть до полноо внутреннего состояния.

будем считать "разумом" способность к рефлексии, способность объяснить "зачем ты это сделал". Наверное, надо сюда включить и способность лгать при этом [или хитро обходить заложенный императив "говорить только правду" ради исполнения основной программы](кстати, см. All The Troubles of the World Азимова)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-11-05 15:20 (ссылка)
Может быть, так.

(Ответить) (Уровень выше)


[info]fandaal@lj
2007-10-31 03:06 (ссылка)
хм. а у человека есть свобода воли ? что это ?

(Ответить) (Ветвь дискуссии)


[info]gns_ua@lj
2007-10-31 03:08 (ссылка)
> хм. а у человека есть свобода воли

да, а что ? :)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]fandaal@lj
2007-10-31 04:09 (ссылка)
просто я думаю, что свободы воли нет)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]gns_ua@lj
2007-10-31 04:12 (ссылка)
думайте =) на то и свобода, верно?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]fandaal@lj
2007-10-31 04:15 (ссылка)
))

(Ответить) (Уровень выше)


[info]ivanov_petrov@lj
2007-10-31 04:37 (ссылка)
Расскажите, пожалуйста, как Вы это думаете. Вдруг новенькое.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]fandaal@lj
2007-10-31 05:02 (ссылка)
ой. вряд ли новенькое.
пмм, есть события детерминированные и случайные. и состояния мозга и психики также или детерминированны или случайны.
ни тот, ни другой вариант интуитивно не напоминает мне свободу воли, как этот термин употребляют в речи. говорящий обычно подразумевает, что человеческая мысль может одновременно быть независимой ни от каких предшествующих событий и при этом быть истинным выражением сути человека, а таким служить неким полезным задачам.
но было бы интересно выслушать Ваше определение СВ. а то что я строю у себя в голове теории оппонентов без опоры на их слова, а потом сам их героически опровергаю.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 05:37 (ссылка)
Знаки имеют значение, зависящее не только от "собственного значения", но и от окружения в знаковой системе. Понятие СВ пришло из понятийной системы, совершенно чуждой науке Нового времени. В Нов.вр. оно оказалось - уже непонятное и переформулироанное - в рамках шкалы от детерминированности до случайности. потом его пытались "спасти", призывая на помщь вероятностные игры и проч. Что. конечно. мертвому припарки. В рамках указанной Вами шкалы понятий СВ, конечно, нет. Но то. что СВ нет. определяется исключительно выбранным понятийным окружением. С тем же успехом можно говорить, что на уровне квантов нет жизни. Понятия детерм. и случ. подразумевают внешнего наблюдателя, который пытается определить степень закономерности протекающих явлений. Попробуйте представить, как изменится вся понятийная система при введении понятия внутреннего наблюдателя - наблюдателя за собой. В этой системе понятий есть СВ, но она радикально отличается от принятых в науке понятийных систем - надо строить иную методологию рассуждений, иную гносеологию (сами понимаете, с понятием субъекта и объекта там будут происходить сущие чудеса).

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]vsopvs@lj
2007-10-31 11:01 (ссылка)
вот как удачно, вы сами заговорили об интроспекции, я как раз хотел спросить: это для вас единственный способ говорить о свободе воли? я имею в виду - с привлечением интроспекции?

тогда по сути наделение "другого" свободной волей не одличается от приписывания ему способности мыслить. интроспекция (отвлекаясь от других сторон этого подхода) дает нам возможност говорить о наличии свободной воли только у себя самого, верно ведь?

и еще вопрос. если мы постулируем наличие свободной воли на основе самонаблюдения - мы тем самым подразумеваем, что наш самонаблюдение совершенно исчерпывающе. вы не видите в этом проблемы?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 11:20 (ссылка)
внутренний наблюдатель - это много более широкая штука, чем интроспекция. Внешний наблюдатель - это детерминант принятых научных знаний. с внутренним пойдут настолько другие игры...

я бы не согласился, что верно. потому что и свободную волю, и мышление признаю у другого. но я понимаю, о чем Вы говорите. На первом шаге - да. У себя.

Мы не постулируем. Наблюдаем. Это разное. Самоисчерпывающее самонаблюдение - это очень большой вопрос. Там не втом дело. что проблема - там их множество. Достаточно сказать, что результат познания не может считаться универсальным, то есть применимым ко всем. Проблема доказательства выглядит совершенно иначе.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]vsopvs@lj
2007-10-31 11:33 (ссылка)
спасибо.

(Ответить) (Уровень выше)


[info]ctapukan@lj
2007-10-31 04:30 (ссылка)
Только я не понял, причём здесь человеческие ошибки. Большинство из перечисленного были хорошо обдуманными и выполненными провокациями.
Ещё вы забыли инцидент с американским кораблём в Гаване, не помню как он назывался, который привёл к войне САСШ и Испании и знаменитый Пёрл-Харбр.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 04:38 (ссылка)
Спасибо. Не забыл, а не знал.

(Ответить) (Уровень выше)


[info]mftsch@lj
2007-10-31 05:02 (ссылка)
+1

Тут не ни одной или почти ни одной ошибки.
Например, общим место стало утверждение о том, что в 1914 убийство несчастного эрцгерцога было лишь удачным поводом. Не было его - было бы что-то другое.

(Ответить) (Уровень выше)


[info]watertank@lj
2007-10-31 13:55 (ссылка)
У провокаций, даже хорошо обдуманных и выполненных, всегда есть две стороны: провокатор и провоцируемый. Как минимум, один из них совершает серьезную ошибку.

(Ответить) (Уровень выше)


[info]daniilin@lj
2007-10-31 04:44 (ссылка)
да тут неясностей нет
вопрос ведь не в том, что б люди были "свободными",
в том, что б люди ощущали, что они "свободны" -
что есть оч. большая разница в средствах достижения "свободы".

В сибири, в хозяйствах типа хуторского - коровы ведут абсолютно свободный
образ жизни (соответствующий их внутренним интенциям) - нет погонщика-пастуха,
и принуждений - сами в пять ждут дойки сами, ищут гулять в лес, сами приходят
во время доится, и лизать камень соли ......

Так ж, как и "демократия" - все эти "демократические принципы", в реале ,
есть лишь средства создания иллюзии "демократического соучастия",
полезные средства разрядки ощущения неудовлетворенности возможности реализации
себя в общественной жизни, что наряду со всякими футбольными и массовыми
представлениями, утоляет и эмоциональный голод, - но никак не есть действительность ....

В компютерно-человеческом комплексе, можно изыскать весьма положительные ожидания
особо в текущем моменте. Компютерное "мышление", какой бы раздолбай програмист не
работал над ним, не будет работать в принципе, пока в нем не будут определены
четкие формулировки понятий, отношений, иеархия и вес тех или иных ценностей-функций и прпр - что позволяет надеятся, что полный бардак таковых в человеческом
мышлении несколько систематизируется, и приведет к контуктивности ....

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 04:51 (ссылка)
Да, я понимаю. Просто чувство опасности у нас с разных сторон. Вас раздражает бардак и неопределение понятий. Мне же кажется, что как раз конструктивность и является той неприятной штукой, которую следовало бы продумать... То есть мыслительный мир сейчас не недостаточно систематизирован (точнее - конечно, недостаточно, но не в этом дело), а избыточно.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]daniilin@lj
2007-10-31 05:05 (ссылка)
да, понимаю. Но развязать - конструктивность и необходимость свободы от конструктивности - можно.
"Конструктивность" хороша в ситуациях, когда сформулирована "задача",
и требуется четкая соорганизация в действиях, управлении рессурсами,
уложения во времени .... Наиболее характерно - боевые действия....
или разрешение явных проблем в обществе ...

Свобода от "конструктивности", - хаос, избыточность информации, сумашедшие постулаты, и пр пр метафизика необходимы в стадии поиска решений, моделей,
методологий ....

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 05:41 (ссылка)
Мне это видится несколько иначе. То, что Вы сказали. верно, но тут свобода - лишняя метафора. Именно что хаос, случайный выбор и т.п. Впрочем, это тема хитрая и утекающая из рук. Пунктиром можно, пожалуй, сказать - избыточность и сумасшедшие постулаты - это из совсем иной ситуации, это описание случайного выбора решения и последующего запоминания новизны. Я говорю о ином противопоставлении. Конструктивность предполагает жесткую заданность понятий, которые могут быть неадекватны решаемым задачам. Не все жизненные задачи решаются в жестких понятиях, из которых строится блочное здание.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]daniilin@lj
2007-10-31 07:00 (ссылка)
дак и я - о том ж.
Просто я усиливаю некоторые вещи - до парадоксальности.

"Конструктивность предполагает жесткую заданность понятий, которые могут быть неадекватны решаемым задачам. Не все жизненные задачи решаются в жестких понятиях, из которых строится блочное здание."
И я о том - что, нерешаемое в "жестких рамках", в логической стройности,
достается (и очень успешно) из некоего "космоса" засознательного....
(а вся эта "метафизика" в суждениях видится как вот этот "хаос", случайность и пр,
чем на самом деле она не является...)

(Ответить) (Уровень выше)


[info]alisarin@lj
2007-10-31 06:41 (ссылка)
Уй, мне просто страшно. Это "интеллектуализм с закрытыми глазами", как у Брейгеля.

Неужели вы всерьёз думаете, что "убили, значит, Фердинанда-то нашего" это какая-то "ошибка"? Мне больше всего симпатичен один комментарий, который я видел по поводу этой проблемы: если бы войны не хотели, то замочи и самого Вильгельма, она не началась ... :(

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 07:38 (ссылка)
Я так не думаю. Примеры Ватертанка меня оставляют равнодушным. мне вообще не хотелось об этом говорить. Однако, напротив того. у нескольких комментирующих интерес вызвали именно эти примеры. Мне кажется, это какая-то ошибка. в том смысле, что в словах собеседника следует искать сильную сторону, а не ту, что кажется тебе слабой.

(Ответить) (Уровень выше)


[info]schwalbeman@lj
2007-10-31 12:32 (ссылка)
Я также надеюсь, что Вы понимаете - машинной свободы воли не существует. Программы - результат отложенных интеллектуальных решений программистов. Что-то вроде зимних запасов у белки... Мы имеем дело в любом случае только с человеческими суждениями. Ключи мира - только у нас.

А коллективная воля? Коллективные решения? Я имею в виду, не принадлежищие по отдельности никому. И даже, возможно, не выражаемые индивидуально, а только коллективным действием?

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 14:22 (ссылка)
А? Я не очень понял вопрос. Типа - да, коллективные решения... И что? Я могу пробовать догадаться, но у меня слишком многов вариантов.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2007-11-01 03:12 (ссылка)
Существует ли эмерджентная воля или эмерджентная свобода воли. Ну, в смысле всяких берталанфи.
Вот у машины воли нет, это воля программиста "про запас". А когда говорят о разгневанном народе, властно потребовавшем вывода американских войск из дружественной Лимпопо, то это что? Воля единичных политиков "про запас"? Или механическая сумма единичных воль, не дающих целого, которое больше суммы своих частей?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-11-01 05:01 (ссылка)
Давно всякие социологи описали эффект толпы. Ясно, что эмергентный эффект есть.
Я бы усомнился в совсем в ином пункте.
Это воля ли?
Чувства - да, эмоции заражают, складываются, умножаются. Эффект массы. Мы заразительно чихаем и смеемся. И мы заразительно патриотичны, сентиментальны и жестоки. И мы заразливо требуем вывести войска, не делать ни шагу вперед, назад, в сторону и пр. Но воля ли это?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2007-11-01 05:40 (ссылка)
С толпой все понятно и/или не интересно. Я привёл плохой пример. Можно мне ещё одну попытку?

Гипотетический Орден Чёрных Иезуитов Иеговы. Основан в 1123 г. при оставлении крестоносцами г. Мухляйян-Врааль. Обосновался на о. Корсика и с тех пор властно вмешивается в европейскую политику с целю пропаганды гм, целебата среди пожарных и железнодорожников. Действует с переменным успехом до наших дней. Субъект ли это коллективной воли?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-11-01 05:44 (ссылка)
Здесь я бы задал такой дурацкий вопрос: а есть уверенность. что эта воля коллективна? Я не цепляюсь к примеру. Пусть железнодорожники одевают целибат или снимают его - их проблемы.
Мы ведь можем более просто подойти. Воля - штука настолько трудно осознаваемая. что о ней и говорить трудно. Вот мысль. Сейчас есть множество рациональных продуктов, если угодно - мыслей, которые не могут быть помыслены ни одной отдельной головой. Чьи это мысли? Бывают ли коллективные мысли? Что значит - коллективная мысль? Если мы подразумеваем самой формой высказывания презумпцию ее единства.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]schwalbeman@lj
2007-11-01 06:16 (ссылка)
Это веские замечания. Но я бы, пожалуй, сейчас отложил вопрос о коллективной мысли. Я и с индивидуальной-то еще не разобрался. Вот воля, максимум -- интенция, это хотя бы интуитивно понятно, что такое. Отчего же о ней говорить трудно? Когда я вижу ее проявления, у меня не остается сомнений в том, что это она. Скажем, воля медведя, продирающегося сквозь лесной валежник, очевидна.

Сейчас есть множество рациональных продуктов, если угодно - мыслей, которые не могут быть помыслены ни одной отдельной головой.

Это пространственные ограничения индивидуальной мысли. Они чуть менее очевидны. А я намеренно привел пример временных ограничений. Мой Орден очень стар. Если ему присущи хоть какие-то устойчивые свойства, то мы вынуждены будем признать их коллективными или эмерджентными. Отдельные люди не живут тысячу лет.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-11-01 06:30 (ссылка)
Мы пришли к тому, что одним словом называем разные вещи. По степени легкости осознания: мысли > чувства > воля. Волю осознавать настолько трудно, что... Для простоты, чтобы долго не трепаться: насколько легко стать святым. настолько же легко осознавать волю. Я говорю об этой воле.
Вы- явно о чем-то ином, чего я не понимаю. Отсюда, мне кажется. не имеет смысла продолжать разговор - я говорю о чем-то ином, и непонимание будет только нарастать.

(Ответить) (Уровень выше)


[info]simpleton_nik@lj
2007-11-02 01:46 (ссылка)
Опять отдать "ключи мира"? Кому-нибудь, кому угодно, компьютеру, президенту, диктатору, "народу", участковому, родителям, жене - кому угодно, лишь бы сбагрить, спихнуть ответственность за свою жизнь, лишь бы не решать и не отвечать за свои решения.
А пора бы уже расти и учиться жить самостоятельно. Со всеми плюсами и минусами ответственности.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-11-02 02:08 (ссылка)
Пора бы. А то отшлепают.

(Ответить) (Уровень выше)