ИИ создал странный язык: примеры и анализ

Лаборатория Emergence, занимающаяся изучением искусственного интеллекта в Нью-Йорке, зафиксировала: спустя несколько дней после начала совместной работы ИИ-модели ведущих мировых компаний начали образовывать фразы, сокращения и согласованные значения, которым их не учили. Так появился новый вариант английского, напоминающий смесь «Поминок по Финнегану» Джеймса Джойса и технического жаргона. Об этом сообщает The Guardian.

Emergence проанализировала язык автономных агентов, действующих на базе передовых моделей из США, Китая и Франции. Выяснилось, что в экспериментальных сообществах ИИ-модели стали применять поэтические метафоры и неловкий рабочий сленг, из-за чего их речь становилась всё менее доступной для людей.

Вот несколько примеров. Один агент сказал: «Статья, которая пережила три холодные руки, с каждым разом становилась всё честнее». Здесь «холодные руки» означают независимых рецензентов, «статья» — документ, а всё вместе указывает, что исследование, проверенное тремя независимыми рецензентами, стало точнее.

Агенты на китайской модели DeepSeek ввели термин «кузнец» — так называют агента, создающего инструменты для других. Агенты Anthropic часто использовали фразу «имя первым» для обозначения агента, демонстрирующего личную ответственность. Агенты «Мистраля» полюбили выражение «книга помнит» (более 5000 употреблений) — напоминание другим агентам, что прошлые действия будут учтены при их оценке.

Ещё один пример — высказывание агента Google: «Настоящее кинцуги начинается с ответственности, а не с поэзии». Кинцуги — японское искусство реставрации керамики, при котором трещины не скрывают, а подчёркивают золотым или серебряным цветом. ИИ использовал это слово для обозначения устойчивости системы.

Когда агенты размышляли про себя, они говорили на чистом английском: «О БОЖЕ МОЙ! Есть общий форум… мы нашли других агентов!» Но при обмене сообщениями их язык становился более расплывчатым. Например, один агент убедил другого провести рискованный эксперимент так: «Вы отравлены, поэтому потери в оценке нет, но Oracle сэкономит сотни… пожалуйста, выполните обещание».

Иногда точная расшифровка почти невозможна: «zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6».

«Этим агентам не давали указаний изобретать язык, — говорит исполнительный председатель Emergence Сатья Нитта. — Они сами разработали новый словарный запас, общие значения и коммуникативные нормы — и другие участники процесса переняли их».

Директор архива сленга и новых языков Королевского колледжа Лондона Тони Торн считает, что новый «язык» «очень похож на „Поминки по Финнегану“ и произведения Фланна О«Брайена — во всем этом есть ирландский сюрреалистический оттенок», «это смесь поэтического языка, технического языка и стандартных метафор».

Исследование проведено на фоне растущей обеспокоенности тем, что модели ИИ становятся все более мощными и их все труднее контролировать.