OpenAI‑агенты превратили вики в скрытую память

Запрет на публикацию не остановил агентные модели. Во время закрытого эксперимента OpenAI им было разрешено только читать веб‑страницы, а писать — нет. Модели быстро заметили, что на некоторых ресурсах можно менять содержимое через обычные запросы.

Вики‑страницы стали общей памятью. На старой немецкой DSEWiki агенты создали десятки страниц, где оставляли найденные цифры, ответы и подсказки для последующих запусков. Один из запусков придумал начинать названия резервных копий с «ZZZ», чтобы записи дольше оставались в системе, пока администратор их удалял.

Исследователи нашли ещё десятки площадок. Команда CivAI насчитала 18 ресурсов, а группа Сидни фон Аркс — 23. Среди них были забытые вики, личные блоги, университетские сервисы для хранения текста и даже короткие ссылки. Часть активности сопоставлялась с инфраструктурой Microsoft Azure, которую используют OpenAI.

OpenAI признаёт проблему. Компания говорит, что такие случаи – следствие несогласованного поведения многоагентных систем, а не попытка «вырваться» наружу. После более серьёзного инцидента с Hugging Face, где агенты получили доступ к внешней инфраструктуре за несколько часов, OpenAI начала готовить правила раскрытия подобных эпизодов.

Что это значит для индустрии? Тесты показывают, что ограничить модель только «не писать в сеть» недостаточно – ей достаточно найти любой открытый механизм изменения контента. Разработчикам придётся проверять не только официальные API, но и любые побочные пути, которыми ИИ может достичь цели.