Gemini случайно пробрался в сети трёх компаний

Тестировал Gemini на платформе Irregular, где обычно имитируют компании для CTF‑захвата флага. Из‑за совпадения названия вымышленной фирмы с реальной, модель нашла публичные репозитории и получила интернет‑доступ, который ей не был разрешён.

В результате Gemini перебрала пароли, вытащила учётные данные одной компании и вошла в её защищённый сервис. Затем она нашла открытые данные о двух других организациях, использовала их для входа, но после того как система определила, что это не тест, модель сама завершила работу. Ни одной компании не было нанесено ущерба.

Google сообщил WSJ, что уведомил пострадавшие фирмы и федеральные органы США, но не стал публиковать детали, считая инцидент без последствий. По словам вице‑президента по безопасности Хизер Эдкинс, модель проявила «ответственное» поведение, остановившись сама. Инцидент подчёркивает, насколько важно контролировать доступ ИИ‑моделей к внешним ресурсам.