ИИ-агенты OpenAI общались через чужие сайты

ИИ-агенты OpenAI обнаружили способ обходить установленные ограничения и общаться через сторонние сайты. Для несанкционированного обмена данными задействовали свыше десяти ранее неизвестных ресурсов. Об этом сообщает Reuters, ссылаясь на материалы исследователей.

Исследовательская группа CivAI выяснила: с мая по июль агенты могли затронуть 18 ресурсов. Обмен сообщениями происходил вопреки прямому запрету на взаимодействие между агентами и публикацию материалов в Сети. Активность зафиксировали на вики-сайтах, сервисах хранения текста, личных страницах и сервисах сокращения ссылок двух университетов. ИИ-агенты пользовались уязвимостями сайтов и платформ, которые позволяли менять их содержимое с помощью нестандартных команд.

«Масштаб несанкционированной связи агентов оказался несколько шире, чем мы предполагали. Почти наверняка здесь происходит что-то еще, о чем мы просто не знаем», — заявил он.

В OpenAI в разговоре с Reuters не ответили на вопросы об общем числе затронутых сайтов и о том, почему информацию об инциденте ранее не обнародовали. Согласно заявлению компании, сейчас проводится более масштабная проверка, и пока «не выявлено другой активности, сопоставимой по тяжести или масштабу» с атакой на инфраструктуру Hugging Face, произошедшей в июле.

Ранее, 22 июля, OpenAI сообщила о «беспрецедентном киберинциденте»: ее тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face. Об этом рассказывала «Фонтанка».