Hugging Face допускает создание нелегальных дипфейков

Исследователи AI Forensics проверили девять топовых моделей для редактирования изображений, размещённых на Hugging Face. Выяснили, что семь из них без ограничений создают нелицеприятные deepfake‑изображения, включая откровенные сцены с женщинами и детьми.

Отметили, что платформа почти не вмешивается: нет фильтров, предупреждений и механизмов блокировки. Пользователи могут свободно скачивать и запускать модели, а система проверки контента практически отсутствует.

Эксперты считают, что такая ситуация повышает риск распространения нелегального контента и подрывает доверие к открытым AI‑ресурсам. Они призывают Hugging Face ввести строгие политики модерации, обязательную верификацию моделей и инструменты для обнаружения злоупотреблений.

Пока компания лишь заявила о планах улучшить «политику использования», но конкретных шагов пока нет. Вопрос о том, как быстро открытая экосистема сможет реагировать на такие угрозы, остаётся открытым.