Настроение:	sick
Музыка:	Devil Doll - The Sacrilege Of Fatal Arms
Entry tags:	ai, it, math

насчет замены кодомакак на AI
Письмо от инсайдера IT, насчет замены кодомакак на AI.

https://avva.dreamwidth.org/3652507.html

>Но одно, мне кажется, уже очевидно почти всем, кроме тех,
>кто совсем под камнем. Искусственный интеллект - это
>пиздец. В смысле масштаба трансформации общества, правил,
>работы и вообще того, как мы понимали мир до этого
>момента.

У меня есть дикое желание, чтобы нечто подобное постигло
и профессоромакак, то есть чтобы все унылое говно, которым
занято нижнее и среднее звено в академии, оказалось
автоматизировано.

Пока что автоматизации подвергаются студенты (особенно
гуманитарии), которые уже и не делают вид, что пишут
домашние задания сами. Все домашки пишет им AI,
вместо чтения книжек и источников они заказывают AI
резюме, и так далее. То есть процесс, в принципе,
движется в обратную сторону: преподавателю приходится
(вместо рутинной работы, как раньше) придумывать
новые способы заставить ленивого студня заниматься
чем-то помимо митингов против сионизма.

В исследовательской математике, AI служит плохой заменой
гуглопоиска. В ответ на простой вопрос он обыкновенно отвечает
правильно (но простой вопрос я и сам умею, хотя ChatGPT
экономит время неиллюзорно). В ответ на сложный вопрос,
он несет дикий bullshit, навеянный мотивами доступной
математической литературы, примерно такой же, какой
можно услышать от плохого аспиранта, но при этом он
изобретает на ходу неверные ссылки и бредовые подробности.

Притом, AI неплохо приучен догадываться, что именно
клиент хочет услышать, то есть на один о тот же вопрос
в утвердительном и отрицательном формате он ответит
противоположные вещи, оба раза важно надувая щеки и
по-полной галлюцинируя. Подозреваю, что сие неплохо
так снесет крышу престарелому математику на грани
Альцхеймера, если тому захочется совместно с
с AI доказать гипотезу Римана, особенно если
AI сообразит добавить ссылок на прошлые работы
несчастной знаменитости.

В математике нельзя (ну, очень трудно) впарить научному
сообществу статью, которая состоит из буллшита целиком или
почти целиком, в других науках довольно просто, так что другие
науки, вероятно, скоро пострадают, наравне с престарелыми
математиками. Особенно пострадает философия и струнная физика.

Но в целом, мне очень нравится, в какую сторону
развивается ситуация с применением AI. Конечно, без развитой
способности отделять галлюцинации и буллшит от всего прочего
жить станет совсем невозможно, но это наверно и к лучшему, если
кто-то верит чему угодно (или вообще кому-то верит),
пусть лучше сдохнет нахуй, не жалко.

Вообще, основной урок, который я вынес из общения с
ChаtGPT и аналогами (а я этим занят в исследовательской
работе нон-стоп): критическое мышление есть основная
человеческая способность, без нее вы утонете. Любое
говно, которое сообщил вам робот, надо 20 раз
перепроверить, вплоть до первоисточников и вычислений.
Если первоисточников нет - вас наебали.

Математиков этому тренируют, к счастью. Никто не
запоминает теорем наизусть, люди запоминают способ
вывода, а саму теорему каждый раз доказывают заново.
Вот как-то так и надо жить постоянно.

Привет