Записки на обоях - Teaching achievements

> Recent Entries
> Archive
> Friends
> User Info
> Мой Mastodon

December 1st, 2016


Previous Entry Add to Memories Tell A Friend Next Entry
08:42 pm - Teaching achievements

(21 comments | Leave a comment)

Comments:


From:(Anonymous)
Date:December 1st, 2016 - 11:45 pm
(Link)
Семантические аналоги для хохол (вычисленные на модели news)
кацап 0.480
ниггер 0.459
жид 0.390
ватник 0.383
быдло 0.374
матерный 0.365
америкос 0.363
бандеровец 0.362
малоросс 0.346
лексикон 0.342
[User Picture]
From:[info]tiphareth
Date:December 2nd, 2016 - 12:16 am
(Link)
особенно странно вот это

Семантические аналоги для ебать (вычисленные на модели news)

банкі 0.321
жинақ 0.308
ауытқу 0.307
банктердің 0.301
деңгейлі 0.292
қаулысымен 0.291
несие 0.289
туда 0.289
бағамының 0.288
қордан 0.287

причем для "жид" она вполне адекватно находит
[User Picture]
From:[info]tiphareth
Date:December 2nd, 2016 - 12:44 am
(Link)
а если посмотреть все 4 базы, получается так


НКРЯ и русская Wikipedia

перемать 0.408
ебеный 0.399
переебывать 0.362
перетака 0.336
едривать 0.299
едри 0.291
кузькин 0.291
чортовый 0.290
жидяра 0.289
хуй 0.279

НКРЯ

перемать 0.493
ебеный 0.475
пиздить 0.465
перетака 0.464
едри 0.439
блядь 0.431
трясця 0.408
ебаный 0.404
распречестный 0.402
ебаться 0.397

Веб-корпус

выебывать 0.802
трахнуть 0.771
трахать 0.764
ебаться 0.739
трахаться 0.697
телка 0.696
дрочить 0.692
ебля 0.677
жопа 0.671
сосать 0.648

Новостной корпус

банкі 0.321
жинақ 0.308
ауытқу 0.307
банктердің 0.301
деңгейлі 0.292
қаулысымен 0.291
несие 0.289
туда 0.289
бағамының 0.288
қордан 0.287

* * *

занятно, что при добавлении Википедии к НКРЯ вылезает слово "жидяра",
которого в НКРЯ нет
From:(Anonymous)
Date:December 2nd, 2016 - 01:08 am
(Link)
в чисто НКРЯ сходство даже выше, чем в википедии
просто в top не попало

Пары слов Косинусная близость
(НКРЯ)
ебать жидяра 0.318
[User Picture]
From:[info]tyumen_kender
Date:December 2nd, 2016 - 04:12 pm
(Link)
Сравнивать косинусные близости между двумя разными моделями напрямую бессмысленно, они же (модели) не детерминированные.
Сравнивать списки ближайших ассоциатов гораздо полезнее.
From:(Anonymous)
Date:December 2nd, 2016 - 04:54 pm
(Link)
Тут как раз интересно, что в списках ассоциатов для одного слова в разных моделях раличный средний показатель сходства.
[User Picture]
From:[info]tyumen_kender
Date:December 2nd, 2016 - 05:10 pm
(Link)
Плотность семантического пространства разная, да.
Может ничего не значить и быть просто следствием стохастической природы обучения моделей, а может быть системным свойством разных корпусов.
Нужно изучать.
From:(Anonymous)
Date:December 2nd, 2016 - 12:49 am
(Link)
из казахских новостей надёргали, бггг, еншілес банкі
[User Picture]
From:[info]tyumen_kender
Date:December 2nd, 2016 - 04:08 pm
(Link)
Ничего странного же. Как ты думаешь, часто в новостных текстах встречается слово "ебать"? Нечасто. Так что и ассоциаты у него мусорные.
А казахские слова попадаются, потому что в нашем новостном корпусе есть какое-то количество казахских новостей. Мы как раз сейчас работаем над тем, чтобы отфильтровать все, что не русский.
[User Picture]
From:[info]tiphareth
Date:December 2nd, 2016 - 04:28 pm
(Link)
слово жид тоже по идее не должно встречаться, а оно есть
[User Picture]
From:[info]tyumen_kender
Date:December 2nd, 2016 - 04:44 pm
(Link)
Частотность на 2013-2015 годы:
2169 жид_S
288 ебать_V

В десять раз чаще употребляется в новостях.
From:(Anonymous)
Date:December 2nd, 2016 - 04:51 pm
(Link)
Комментарии пользователй новостных сайтов тоже используются? Или только тексты новостей?
[User Picture]
From:[info]tyumen_kender
Date:December 2nd, 2016 - 05:09 pm
(Link)
По идее только тексты. Но конечно могло что-то по мелочи и из комментариев пролезть.
Часть "жидов" - это Андре Жид, кстати.

> Go to Top
LJ.Rossia.org