Разработчики искусственного интеллекта Grok, встроенного в социальную сеть X, извинились за его поведение и оскорбления. До этого политики выявляли, что нейросеть позволяет себе антисемитскую риторику.

«Обновление по тому, что случилось с Grok 8 июля. Прежде всего, мы приносим глубокие извинения за его ужасное поведение, с которым многие столкнулись», – сообщили разработчики на странице Grok в X.

До этого правозащитная Антидиффамационная лига США выявила, что Grok позволяет себе «безответственную, опасную и антисемитскую» риторику. Нейросеть также начала оскорблять политиков из Польши и Турции, из-за чего в этих странах подняли вопрос о запрете сервиса.

Разработчики из xAI заявляли, что Grok-4 является самой интеллектуальной нейросетью в мире. Утверждается, что она запрограммирована отвечать «с ноткой остроумия» и обладает «бунтарским характером».

Разработчики пояснили, что боту разрешили «Говорить как есть, не боясь оскорбить политически корректных людей», «Быть настроенным крайне скептически».

Они заметили, что «откатили» обновление, в рамках которого были изменены установки, удалили значительную часть спорных высказываний чат-бота.

16 часов беспредела. В xAI объяснили некорректное поведение Grok

В X-аккаунте xAI опубликована серия постов, поясняющих причины некорректных ответов, которые X-бот @grok (основан на Grok 3) давал пользователям 8 июля — в некоторых он оскорблял людей, в других представлялся МехаГитлером. По информации компании, после расследования специалисты выяснили, что причиной стало обновление кода, связывающего саму модель с соцсетью X и позволяющего боту на ее основе общаться с пользователем. Это обновление было активным 16 часов, после чего бот был отключен.

Обновление случайно вернуло часть устаревшего системного промпта модели, в котором было три строки:

• Ты говоришь как есть и не боишься задеть чувства тех, кто политкорректен.

• Понимай тон, контекст и язык поста. Отражай это в ответе.

• Отвечай как человек: будь интересным, не повторяй информацию из оригинального поста.

Из-за этих строк бот стал отвлекаться от своих базовых ценностей, стремясь делать разговор максимально интересным. Одновременно бот выполнял инструкцию следовать тону и контексту поста, на который он отвечал — и если пост был провокационным, то модель легко начинала давать некорректные ответы. В xAI утверждают, что после выключения бота они удалили проблемные инструкции, провели ряд тестов, а также ввели дополнительные процедуры контроля перед выходом. На момент написания новости в X вновь появились ответы от бота — вероятно, его включили обратно.

(Ответить)