Войти в систему

Home
    - Создать дневник
    - Написать в дневник
       - Подробный режим

LJ.Rossia.org
    - Новости сайта
    - Общие настройки
    - Sitemap
    - Оплата
    - ljr-fif

Редактировать...
    - Настройки
    - Список друзей
    - Дневник
    - Картинки
    - Пароль
    - Вид дневника

Сообщества

Настроить S2

Помощь
    - Забыли пароль?
    - FAQ
    - Тех. поддержка



Пишет ivanov_petrov ([info]ivanov_petrov)
@ 2007-10-31 07:28:00


Previous Entry  Add to memories!  Tell a Friend!  Next Entry
Разговор о человеческих и компьютерных ошибках
http://ivanov-petrov.livejournal.com/751009.html?thread=28215201#t28215201

[info]watertank@lj
Давайте сделаем небольшую экскурсию в историю начала недавних войн.

В 1870 году Бисмарк подделал письмо французского посла германскому императору и "слил" его в прессу. Так началась франко-прусская война, в которой погибло или было ранено около миллиона человек.

В 1914 году, после покушения на эрц-герцога Франка Фердинанда, Австро-Венгерская объявила войну Сербии. Так началась первая мировая война, в которой погибли, были ранены или пропали без вести около 40 миллионов человек.

В 1919 году был заключен Версальский договор, по которому Германия должна была заплатить огромные репарации союзникам. Это привело к разрухе в экономике, бешеной инфляции, росту националистических настроений и победе нацистов.
В 1939 году нацист А. Гитлер начал вторую мировую войну, в которой погибли примерно 60 миллионов человек.
В 1941 году И.В. Сталин, несмотря на предупреждения разведки и дипломатов, не посчитал вероятным нападение Германии на СССР, в результате чего погибли миллионы советских военнослужащих и мирных жителей.

В 1964 американский конгресс, на основе ошибочных данных о нападении в Тонкинском проливе, разрешил президенту Джонсону начать войну против Северного Вьетнама. Количество погибших и раненых оценивается от 4 до 8 миллионов человек.

В 1979 году Политбюро ЦК КПСС принимает решение о начале войны в Афганистане. Количество погибших и раненных - ок. 2 миллионов человек.

В 2003 году президент США Буш предоставляет в Конгресс США искаженные данные об иракском оружии массового поражения и получает право начать военные действия. Количество погибших и раненных оценивается в 1 млн человек.

На фоне всех этих иррациональных человеческих решений работа компьютеров, управляющих большинством полетов гражданской авиации и поездами в парижском и токийском метро, вселяет надежду на лучшее будущее человека.

[info]ivanov_petrov@lj
Да, я понял. Надеюсь, Вы видите, что это риторика. Но при этом в качестве риторического упраженения это весьма убедительно. С другой стороны, и без всякой риторики я совершенно не против управления метро и авиацией.

[info]watertank@lj
Конечно, риторика. Я хотел показать, что человеческая свобода воли не обязательно лучше для самих людей, чем машинная. Они просто разные. Сейча идет процесс взаимо-обучения и взаимо-привыкания. У компьютеров это получается быстрее, потому что они могут работать в другой шкале пространственно-временных решений. "Ключи мира" уже у них.

[info]ivanov_petrov@lj
Я также надеюсь, что Вы понимаете - машинной свободы воли не существует. Программы - результат отложенных интеллектуальных решений программистов. Что-то вроде зимних запасов у белки... Мы имеем дело в любом случае только с человеческими суждениями. Ключи мира - только у нас. Другое дело, что об этом можно забыть - как можно потерять ключ, который лежит в собственном кармане.

[info]watertank@lj
Я согласен, что "программы - результат отложенных интеллектуальных решений программистов." Но это не значит, что программы всегда ведут себя в соответствии с намерениями программистов. Точно так же, как, вопреки намерениям, зимние запасы соседских белок часто остаются несъеденнными, и прорастают дубами у меня на газоне.
"Ключи мира" можно иметь не в исключительном, а в совместном пользовании. Так дело обстоит в реальности.


(Читать комментарии) - (Добавить комментарий)


[info]gns_ua@lj
2007-10-31 03:07 (ссылка)
или описанный (http://www.lib.ru/LEM/summa/summgl4h.htm) в "Сумме технологий" гомеостат:

Допустим, что некое лекарство предотвращает кариес зубов. Пусть употребление этого лекарства в определенном проценте случаев вызывает мутацию генов, и пусть новый мутировавший ген сам по себе еще не уменьшает плодовитости, а делает это лишь при встрече с другим, также мутировавшим геном; последний возник благодаря применению другого лекарства, употребляемого довольно давно. Это второе лекарство избавило, скажем, мужскую половину рода человеческого от терзаний, связанных с преждевременным облысением. Тогда "черный ящик" будет всячески распространять лекарство против кариеса, и в результате он добьется своего: по прошествии некоторого срока количество обоих (рецессивных) мутировавших генов в популяции возрастет и они будут соединяться довольно часто, а это уменьшит прирост населения. Почему же, спросите вы, "черный ящик" не информировал вовремя широкие круги об этом своем начинании; ведь мы же сказали, что, согласно введенным в него правилам действия, он о_б_я_з_а_н и_н_ф_о_р_м_и_р_о_в_а_т_ь обо всех изменениях, которые намерен провести?

Он не станет информировать общество вовсе не из "хитрого." или "демонического" расчета, а попросту потому, что он сам не будет знать, что, собственно, делает. "Черный ящик" - отнюдь не "электронный сатана", не всеведущее существо, кое рассуждает как человек или сверхчеловек, а всего лишь устройство, которое непрерывно ищет связи, статистические корреляции между отдельными общественными явлениями, исчисляемыми миллионами и тысячами миллионов. Как регулятор, он оптимизирует экономические отношения, поэтому состояние высокого жизненного уровня населения является и состоянием его собственного равновесия. Прирост населения угрожает этому равновесию. В какой-то момент "ящик" обнаружит положительную корреляцию между падением прироста населения и применением лекарства от кариеса. "Ящик" информирует об этом "совет", там проведут исследования и установят, что данное лекарство не уменьшает плодовитости" (ученые "совета" будут экспериментировать на животных, а те ведь не употребляют средств против облысения). "Черный ящик" ничего от людей не скрывал, ибо и сам он ничего не знал о генах, мутациях и причинной связи между введением двух лекарств и падением рождаемости. Он всего лишь обнаружил искомую корреляцию и стремится ее использовать."

точное знание алгоритма работы не спасает.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-10-31 04:32 (ссылка)
точное знание алгоритма работы не спасает - это понятно.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]gns_ua@lj
2007-11-05 15:15 (ссылка)
и рабочих данных, вплоть до полноо внутреннего состояния.

будем считать "разумом" способность к рефлексии, способность объяснить "зачем ты это сделал". Наверное, надо сюда включить и способность лгать при этом [или хитро обходить заложенный императив "говорить только правду" ради исполнения основной программы](кстати, см. All The Troubles of the World Азимова)

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2007-11-05 15:20 (ссылка)
Может быть, так.

(Ответить) (Уровень выше)


(Читать комментарии) -