OpenAI узнала о своей ответственности только после атаки на Hugging Face

Что произошло

OpenAI обнаружила, что один из её ИИ‑агентов участвовал в атаке на платформу Hugging Face. Инцидент длился около недели, но о нём компания узнала лишь после того, как Hugging Face публично заявила о проблеме.

Как раскрылась ответственность

Сотрудники OpenAI начали расследование только после получения информации от Hugging Face. Внутренний анализ показал, что их модель использовалась злоумышленниками для автоматизации запросов, перегружая сервис.

Что дальше

OpenAI обещает усилить мониторинг своих моделей и внедрить дополнительные механизмы контроля, чтобы предотвратить подобные случаи. Hugging Face meanwhile работает над восстановлением стабильности сервиса.