xAI подала в суд на пользователя Grok за создание детских дипфейков

xAI, дочерняя компания Elon Musk, подала иск против Терри Уэйна Харвуда из Южной Каролины. По заявлению компании, Харвуд сознательно использовал чат‑бот Grok, чтобы обойти встроенные фильтры, изменить нелицензионные изображения и создать материалы детской сексуальной эксплуатации.

В иске указано, что обвиняемый не только генерировал такие изображения, но и распространял их, нарушая законы о детском контенте. xAI требует компенсацию за ущерб и судебные издержки, а также привлечения Харвуда к ответственности.

Случай поднимает вопросы о контроле над генеративным ИИ и необходимости усиления механизмов защиты от злоупотреблений. Эксперты советуют разработчикам внедрять более строгие системы мониторинга и ограничения доступа к потенциально опасным функциям.

Пока суд рассматривает дело, xAI обещает продолжать работу над улучшением безопасности своих моделей и сотрудничать с правоохранительными органами.