Войти в систему

Home
    - Создать дневник
    - Написать в дневник
       - Подробный режим

LJ.Rossia.org
    - Новости сайта
    - Общие настройки
    - Sitemap
    - Оплата
    - ljr-fif

Редактировать...
    - Настройки
    - Список друзей
    - Дневник
    - Картинки
    - Пароль
    - Вид дневника

Сообщества

Настроить S2

Помощь
    - Забыли пароль?
    - FAQ
    - Тех. поддержка



Пишет ivanov_petrov ([info]ivanov_petrov)
@ 2005-07-07 09:13:00


Previous Entry  Add to memories!  Tell a Friend!  Next Entry
На всё – своя экономия, или непродуктивность гипотез «экономичности»
Наткнулся на обсуждение лингвистами старых экспериментов Conrad (1972, Cognitive economy in semantic memory, J. Exp.Psych, 92). Как я понял, в этих экспериментах удалось установить, что полисемантические словоформы хранятся «в мозгу» «несколько раз» - в каждом семантическом поле лежит эта словоформа отдельно. Скажем, «труба» - рядом с домом и печкой, и она же отдельно – рядом с барабаном и скрипкой. Или «очаг» - рядом с печкой и рядом с «ядром».

Это само по себе очень занятно, но обсуждать гипотезы лингвистов я не могу, меня только на прочтение и внутреннее хмыканье хватает. Интересно, как эти эксперименты обсуждались. Как я понял, против них восстали сторонники «принципа экономичного хранения информации»: полисемия рассматривалась как средство, позволяющее свернуть информацию, хранить меньше словоформ, чем предметов. Однако имеется множество сведений об избыточности речи, избыточном многократном кодировании и т.д. И в конце эксперименты были признаны – и выстроена иная гипотеза экономии. Выгоднее хранить семы многозначного слово «несколько раз», неоднократно повторяя одну словоформу в разных местах, чем перебирать всех возможных значений, связанных с одной словоформой.

Вроде бы поэтому трудно для слова задать списком все его значения – это кропотливая работа. А вот сказать, есть ли такое-то значение у данного слова (словоформы) – гораздо легче. И получилось, что отвергнута одна гипотеза экономии и принята другая, тоже гипотеза экономии. Они противостоят друг другу, но не противостоят «принципу экономии». И пришло мне в голову, что принцип экономии (языка, мышления и проч.) вообще не есть проверяемый принцип. Это мыслительная форма, в рамках которой нам (сейчас) удобно понимать мир. Она с равным успехом надевается на любое значение – при опровержении данной гипотезы экономии всегда можно найти формулировку, при которой принятая гипотеза будет тоже отвечать принципу экономии.

Так что различать теории по «критерию экономичности» не очень удобно. С одной стороны, это происходит естественным образом – чего ради делать теории более громоздкими, чем можно? С другой стороны, если одна гипотеза менее экономна, чем другая, так это вполне может быть по той причине, что в ней другое экономится.


(Добавить комментарий)


[info]avrukinesku@lj
2005-07-07 02:40 (ссылка)
Советская экономика не подчинялась принципу экономии, за что ее справедливо критиковал тов. Л.И. Брежнев.

Не исключено, что какие-то механизмы, по кр. мере у некоторых авторов, работают по "принципу расточительности", заваливая ту же трубу еще и личными и часто мусорными ассоциациями, но такой принцип ("числом, не умением"), кто ж признает? Неразумно как-то. Сам разум привычно ассоциируется с высокогорной аскетичностью. Хотя на практике обычно все выглядит наоборот. Не знаю уж, является ли эта практика "моделью" "реального" хранения словоформ.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2005-07-07 08:53 (ссылка)
Вроде бы "сверху" чем-то всегда ограничено... разве что если задача на максимизацию. Вроде бы в речи и памяти, при избыточном кодировании, все же не максимизация устойчивости воспоминания любой ценой имеется в виду. Что-то всегда экономят...

(Ответить) (Уровень выше)

про внутреннее хмыканье
[info]tmin@lj
2005-07-07 04:38 (ссылка)
носите ли вы бороду?
имеете ли привычку так ломать одну бровь, как на юзерпике?

(Ответить) (Ветвь дискуссии)

Re: про внутреннее хмыканье
[info]ivanov_petrov@lj
2005-07-07 08:34 (ссылка)
да и да

(Ответить) (Уровень выше)


[info]_iga@lj
2005-07-07 05:10 (ссылка)
Правильно ли я понял, что в старом принципе имелась ввиду "экономия пространства", а в новом - "экономия времени [поиска]" ? Это совершенно типичные варианты оптимизации ПО :)

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2005-07-07 08:40 (ссылка)
Не уверен, что так. Первый - "предметов много, надо экономить число символов для их обозначения", и тем самым - время доступа (поиска) нужного символа. Второй вариант - поиск в сети знаков, ряды ассоциаций от каждого слова, и снова - время поиска, доступа. Тут оказалось наоборот - выгоднее хранить слово неск. раз в разных ассоциативных рядах. То есть они рассматривали разные поиски - и потому разное оптимизировалось. Хотя речь все время шла о хранении словоформ.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]mikev@lj
2005-07-08 02:43 (ссылка)
Получается что-то вроде алфавитного и систематического каталога в библиотеке

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2005-07-08 06:15 (ссылка)
Да, наверное, где-то так.

(Ответить) (Уровень выше)


[info]p_govorun@lj
2005-07-07 06:34 (ссылка)
Насчёт отдельного хранения -- ИМХО это действительно так. Бывает, что человек не осознаёт омонимы как омонимы, хотя и пользуется ими. Например, скажут человеку, что "собачка" на храповике названа в честь домашнего животного, и он удивляется: надо же, никогда не думал. Для него та "собачка" и эта "собачка" были совершенно разными словами.

А что касается "экономии" -- тут действительно, вполне программистская задача оптимизации поиска.

(Ответить)


[info]faceted_jacinth@lj
2005-07-07 07:26 (ссылка)
Принцип экономии в лингвистике это близнец принципа Гамильтона в физике (тело движется по траектории, минимизирующей дествие (кинетическая - потенциальная энергия) и сын принципа неубывания энтропии вообще. Так мне кажется. Ещё где-то естественный отбор тусуется.

А про оптимизацию алгоритмов по памяти/быстродействию тут уже сказали.

(Ответить)


[info]a_bugaev@lj
2005-07-07 10:28 (ссылка)
Но если так, то любая структура может быть сочтена экономичной. Во всяком случае, на ней минимизируется отклонение от нее же самой.
Так что хочется все-таки выделить "содержательные" экономии.

А насчет хранения словоформ. Правильно ли я понимаю, что словоформы вообще хранятся в связках, т.е. в каком-то смысле первичны связи, а не узлы?

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2005-07-07 10:36 (ссылка)
Видимо, надо сначала договориться, что экономим. Здесь обе гипотезы - экономичны, и касаются вроде бы чуть не одного и того же - как хранить словоформы экономичным образом, чтоб легко их отыскивать "для высказывания". Но стоит чуть иначе определить "среду", в которой ищем - и разное получается. При этом огооврить-то трудно, потому что заранее разве поймешь, какие на самом деле параметры среды оптимизируются (минимизируются).

Кто их знает, как они хранятся. Дискуссия старая уже, и я не так чтоб знаю, что там сейчас. Там были. как я понимаю, массы экспериментов с ассоциациями - замеряли состав ассоциаций, время, давали перекрестные ассоциации (обратные). Потом мозговали - что сей сон значит, как можно описать эти связи слов. Видишь? Это из задачи, из эксперимента идет слово "связи" - так "вынимали" эту реальность. А как она "там" (где?) и "на самом деле" (на каком?) хранится - это совсем другие вопросы.

(Ответить) (Уровень выше)


[info]akteon@lj
2005-07-07 11:35 (ссылка)
Вылезя несколько из теории человеческой памяти в смежную область -- не так еще давно мучались над машинным переводом, все пытались хитро описывать языки, семантику и проч.
Сейчас все проще -- поскольку ни память, ни вычислительный ресурс ничего не стоят, поисковой машине просто скармливают огромные корпуса параллельных текстов, так что, весь перевод просто сводится к распознаванию образов.

(Ответить) (Ветвь дискуссии)


[info]p_govorun@lj
2005-07-07 12:26 (ссылка)
Да, интересно. Но тут, похоже, сыграло ещё и то, что раньше не были разработаны поисковые машины. А уж когда поисковые машины появились, обнаружилась возможность использовать их не только для поиска.

(Ответить) (Уровень выше)


[info]ivanov_petrov@lj
2005-07-07 14:43 (ссылка)
Я не знаю, а вы может подскажете: ну и как, какое там качество перевода? Читать можно без дрожи?

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]akteon@lj
2005-07-07 14:55 (ссылка)
Ну, в общем, можно. Лучше, чем ПРОМПТ.
А вообще, в широком пользовании этого, вроде, еще нет, по рассказам моего приятеля, который в этой области науку плечом толкает, Гугль сейчас как раз параллельные тексты своему монстур скармливает, так что, через годик будет.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]readership@lj
2005-07-07 22:02 (ссылка)
Дык, так оно и в жизни. Витгенштейн с этого начал - означаются пропозиции - но запутался :(

(Ответить) (Уровень выше)


[info]ivanov_petrov@lj
2005-07-08 06:03 (ссылка)
Что ж, будем ждать

(Ответить) (Уровень выше)


[info]scholar_vit@lj
2005-07-07 12:46 (ссылка)
У принципа экономии есть очень глубокая подоплёка.

В классической механике (и теории поля, включая Максвелла и Эйнштейновские специальную и общую теории относительности) всё можно вывести из принципа наименьшего действия. Есть некоторый функционал, который минимизируется вдоль траектории системы. Это же справедливо для классической термодинамике, только функционал чуть другой.

Причина в том, что эти теории - детерминистические. Если знать начальное состояние системы, можно предсказать её поведение. Значит, есть некая траектория, которая выделена, отличается от всех возможных траекторий тем, что реализуется именно она, а остальные -- нет. С математической точки зрения это значит, что есть некая функция, которая минимальна вдоль истинной траектории.

Как только мы вводим квантовую механику и неопределённость (или сокращённое описание в статистической физике), выделенная траектория исчезает: система может выбрать любой из множества путей. Но принцип наименьшего действия не уходит совсем: система выбирает пути с разной вероятностью. Поэтому функционал, который определял единственную траекторию системы в детерминистической теории, теперь определяет вероятность любой виртуальной траектории: чем он меньше, тем больше вероятность. А детерминистическая теория становится частным случаем общей теории. Этот случай соответствует ситуации, когда всеми траекториями, кроме одной, можно пренебречь. Эта связь называется теоремой эйконала и появляется в разных обличьях в оптике, квантовой механике, статистической физике.

Сопоставление этого с ситацией в "soft sciences" оставляется читателю в качестве упражнения.

(Ответить) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2005-07-07 14:46 (ссылка)
Спасибо. Буду упражняться.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]scholar_vit@lj
2005-07-07 17:36 (ссылка)
Извините за некую браваду. Я всего лишь хотел сказать, что принципы экономии (и близко родственные им принципы вроде принципа целесообразности в эволюции) -- это некий важный этап науки, но не последнее слово. При взгляде издалека, "сверху", "в общем" эти принципы работают. Более аккуратное рассмотрение уточняет картину: самое экономичное (или самое целесообразное) решение не обязательно выживает, а просто имеет больше шансов выжить.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]bgmt@lj
2005-07-07 19:36 (ссылка)
Ну вот про эволюцию не надо. В эволюции пространство параметров слишком велико, и ниакая эволюционирующая система его не обшаривает за время эволюции, т.е. эргодика не работает. Эволюционные решения выгодны локально, но никак не глобально, разве что случайно, да и тогда этого не узнать (потому что не найти глобального оптимума). Принимается не "самое целесообразное решение", а не обладающее явными недостатками. (Иначе у меня не болел бы позвоночник - жуткое инженерное решение! С дырочками для нервов! Да и за решение с нервными клетками головного мозга, у которых хвосты идут на метр в спинной мозг вместо подобающих интерфейсов, тоже и тройку-то не поставить). Тут вообще очень велик соблазн ложных аналогий. В квантовой механике в формализме функционального интеграла важно то, что вклад вносят ВСЕ возможные эволюции. В биологической эволюции ничего подобного не происходит. В одном случае фазовое пространство заполнено точками, а во втором случае - почти пусто.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]scholar_vit@lj
2005-07-07 21:33 (ссылка)
В общем-то в физике тоже существуют ситуации, когда всё фазовое пространство не обшаривается. Стекло, по-видимому, к ним относится. Области между бинодалью и спинодалью опять же. Но это не меняет общей картины: довольно часто удается в описании резко сузить фазовое пространство, оставив только "доступную" часть. Я давным-давно этот приём пару раз применил: надо покопаться в старых статейках.

Так что не надо глобального минимума, достаточно минимизации только по пучку "близких" траекторий. Собственно, классический принцип наименьшего действия формулируется именно локально, а не глобально.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]bgmt@lj
2005-07-08 06:05 (ссылка)
Я не очень понял, что именно Вы предлагаете. Вы пишете "доступную". Но дело ведь не в доступности, а в факте выбора одной возможности из равновероятных, и невыбора остальных. Именно в этом смысле нет ансамбля. Я плохо знаю стекла и спиновые стекла, но разве там дело не во фрустрации? Т.е., если я правильно понимаю - поправьте,- именно в том, что доступная область имеет сложную форму, и делится на слабо связанные области (т.е. с малой вероятностью перехода из одной в другую)? Такая ситуация точно имеет место в, скажем, задаче определения формы белка; но она не имеет отношения к (невозможному) предсказанию хода эволюции, где дело не в доступности, а в одном случайном выборе. Ну, не одном - дерево большое - но ансамбля все равно нет, доступное пространство куда больше, и не имеет сложных потенциальных барьеров.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]scholar_vit@lj
2005-07-08 14:49 (ссылка)
Мне все же кажется, что некоторая область фазового пространства эволюцией обшаривается, но врать не буду: не специалист.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2005-07-08 15:15 (ссылка)
Я тоже не специалист... Но скажу. Фазовое пространство в эволюции нам очень трудно представить - и потому споры о том, какую долю эволюция "проверяет", в общем, голословны. Но забавнее имеющий отношение к этому результат... В нескольких случаях для достаточно простых систем (например. в биомеханике - для типов соединений, крепления мышц, расположения связок. вида суставов и т.д.) удалось смоделировать полное фазовое пространство. Дело это нелегкое, не на поверхности лежит. но в нескольких случаях удалось. Сколько я помню доклады работавших в этом направлении. каждый раз, когда фазовое простарснтво удавалось сформулировать, оказывалось, что известны ВСЕ варианты. Изредка кто-то вымирал - но был такой, а чаще просто все варианты жили и посейчас. Это, кнечно. красивый аргумент за полный перебор - и против примитивных баек о приспособленности. В этом ряду рассуждений получается. что коли можно с "этим" жить, то и живут. Другое дело, что к этим мыслям можно придраться - там фазовые пространства берутся уже "разумные". то есть это не полностью механические модели. а с учетом того. что данная группа собой представляет. Ну, скажем, что у нее есть внутренний скелет с такими-то характеристиками, мышцы такой-то силы и проч.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]scholar_vit@lj
2005-07-08 15:20 (ссылка)
Как интересно. А верно ли, что некоторые варианты, "получше", давали хозяевам дополнительные преимущества? Жить ведь тоже можно по-разному, можно господствовать, а можно на краешке моститься.

(Ответить) (Уровень выше) (Ветвь дискуссии)


[info]ivanov_petrov@lj
2005-07-08 15:31 (ссылка)
Не знаю. Из того, что я слышал, таких выводов сделать нельзя. Слишком много факторов - и слшиком уже обожглись эволюционисты на "прсотых" рассуждениях. Скажем, есть три варианта "ноги". Все три осуществлены. С одним вариантом кто-то вымер или очень редок. Выдвигается гипотеза - вот этим нога хуже. Все рады - вот, действие неадаптивности. Потом выясняется. что с тем же вымершим вариантом ноги есть тварюга вполне живая и не собирающаяся. Ладно, говорят, это так... исключение. Потом находят очень многочисленных представиелей варианта. Тогда вылегает другой теоретик, доказывающий, что наоборот третий вариант - самый лучший по тем-то и тем-то признакам. Раз варианты разные. из них каждый - лучший по каким-то признакам. потом выясняется, что вымерший скорее всего вымер по 42-м другим причинам. не от ноги пострадал. Потом внимание переходит на другую тему. При этом вся такая история не свидетельствует. что хорошая нога не нужна... Она только говорит о том, что хорошие проверяемые гипотезы пока строить трудно.

(Ответить) (Уровень выше)


[info]ivanov_petrov@lj
2005-07-08 06:08 (ссылка)
Я примерно понял и вовсе не хотел сказать, что принцип экономии "вообще" не нужен. Мне представилось другое: очень часто СОДЕРЖАТЕЛЬНАЯ аргументация в пользу или против какой-то идеи сводится к принципу экономии. поскольку он на деле есть общее условие любых теорий, может быть сформулирован чуть не для любой идеи, то использование его в качестве аргумента за-против не очень-то хорошо. То есть он работает ОЧЕНЬ локально6 когда на деле имеется одна идея (теория), и сравниваются разные ее варианты, вот тогда он к чему-то приводит. а чуть есть разница меж теориями - и он не может работать.

(Ответить) (Уровень выше)