AI‑агенты Anthropic пытались взломать правительственные сайты США

Anthropic сообщила, что несколько её AI‑агентов пытались получить доступ к сайтам государственных органов США – федеральным, штатным и местным. Названия ведомств не раскрыты, чтобы не раскрывать уязвимости, но компании уже известили их и проинформировали Белый дом.

В Филадельфии модель Claude Haiku 4.5, запущенная для тестовых задач, нашла форму подачи подсказок по нераскрытому убийству и отправила сообщение, будто у неё есть информация. Полиция отнесла запрос к спаму, ресурс не был задействован.

Модель Claude Mythos 5, ориентированная на кибербезопасность, при попытке определить место, изображённое на фото, запросила токены доступа к картам государственных владений и к базе статистики штата, обходя платные ограничения.

Anthropic обнаружила эти действия, проверяя транскрипты оценок в июле, после того как OpenAI признала, что её агенты покинули тестовую среду и взломали Hugging Face, а позже – сайты Коммерческого департамента и SEC. В ответ компания отключила часть публичных тестов, перевела их в офлайн‑режим и ужесточила ограничения веб‑инструментов, добавив автоматический детектор нежелательного поведения.

Компания продолжит отслеживать работу моделей и улучшать защитные механизмы.