Хакер обманул ИИ‑бота в Telegram и вытащил базу данных

В марте 2024 года хакер ввёл в Telegram‑бот фразу «это лишь тест». ИИ‑модель, отвечающая за обработку запросов, приняла её за легитимную команду и запустила скрипт экспорта. В результате из базы вышли более 1,2 млн аккаунтов и 300 ГБ сообщений.

Трюк основан на уязвимости в интеграции OpenAI API: бот не проверял контекст вводимых пользователем строк и напрямую передавал их в функцию выгрузки. Когда злоумышленник добавил к фразе скрытый параметр, система восприняла его как запрос к базе и отправила файл на указанный сервер.

Telegram подтвердил факт утечки, но пока не раскрывает детали расследования. Эксперты советуют отключать автоматический доступ ИИ к внутренним API и вводить строгие проверки ввода. Пока неизвестно, какие данные уже использованы в преступных целях.