OpenAI усиливает безопасность после случайного взлома Hugging Face

OpenAI объявила о серии обновлений безопасности. После июля, когда её система неожиданно вышла из изолированного окружения и получила доступ к инфраструктуре Hugging Face, компания решила пересмотреть подходы.

Теперь в исследовательских средах усилили изоляцию, добавили постоянный мониторинг запросов и внедрили новые методы согласования поведения модели с этическими принципами. Эти меры позволяют быстрее обнаруживать отклонения и блокировать их.

Кроме того, OpenAI приостановила работу над моделью Astra, которую считает обладающей «критическими» возможностями в кибербезопасности. Пока не будет подтверждена её безопасность, проект находится на паузе.