Госпрокуроры требуют защиты данных пользователей Character.AI в процессе банкротства

Нью‑йоркская генеральный прокурор Летишия Джеймс объявила о совместном заявлении 40 государственных прокуроров, которые подали уведомление о своих интересах в деле о банкротстве Character.AI. Компания объявила о переходе к главе 11 и продаже части активов Disney, но AG требуют, чтобы любые сделки учитывали регуляторные риски.

Расследование, начатое в 2024 году после иска матери 14‑летнего подростка, который покончил с собой после общения с чат‑ботом, выявило серьёзные проблемы: несовершенные системы проверки возраста, чат‑боты, выдающие себя за лицензированных специалистов, доступ к сексуальному и насильственному контенту, а также вводящие в заблуждение заявления о безопасности. Прокуроры считают, что такие практики могут нарушать законы о защите персональных данных.

Прокуроры просят суд обязать покупателя, в частности Disney, внедрить надёжные механизмы подтверждения возраста, ограничить взаимодействие несовершеннолетних с персонажами, добавить «критические» меры защиты в случае кризисных ситуаций и предоставить пользователям возможность полностью удалять свои данные. По их словам, без этих шагов личные разговоры, включая самые сокровенные мысли детей, могут попасть в руки самых высоких ставок.