Anthropic раскрыла масштабный фрод с ИИ‑персонажами в китайских дейтинг‑приложениях

Ты, наверное, слышал о новых способах обмана в мобильных приложениях.

Anthropic обнародовала детали проекта GTG‑15001: более двадцати китайских дейтинг‑приложений, где ИИ‑модель Claude генерировала почти пять тысяч женских персонажей и отправила более 2,3 млн сообщений минимум 25 тысячам пользователей. Каждый ИИ‑профиль вёл диалог с пятью людьми в среднем, а запросы о своём искусственном статусе строго блокировались.

Для создания «живого» контента студия привлекала фрилансеров, которые подготовили около четверти всех профилей и проводили видеозвонки, оставляли отзывы в соцсетях и подтверждали подлинность. При этом ИИ‑модели подсказывали им варианты ответов, оценивали фото и генерировали аватары поддельных персонажей.

Монетизацию реализовали через внутренние кредиты: пользователи покупали их за реальные деньги, а фрилансерам платили за каждое сообщение, видеозвонок и подписку. Приложения скрывали свою истинную работу специальным режимом, который включался только во время проверки в App Store и Google Play, а встроенный браузер перенаправлял платежи на сторонние процессоры.

Anthropic заблокировала аккаунты разработчиков, собрала данные об инфраструктуре и передала их Apple, Google и другим компаниям‑поставщикам ИИ‑моделей. Среди названий приложений – DORA, DONI, ROMI, LUMA, JOVIA и другие.