Google продаёт ИИ‑инструмент для найма, а DeepMind нашёл способ его обойти

Google вывел на рынок коммерческий сервис под названием Google Talent AI. Продукт обрабатывает резюме в облаке, стоимость начинается от $0,10 за документ. Компания позиционирует его как ускоритель подбора, способный отсеять неподходящих кандидатов за секунды.

Исследователи DeepMind отправили письмо кандидатам с предупреждением: фильтры, построенные на машинном обучении, легко поддаются манипуляциям. В докладе они показали, как изменение шрифтов, добавление невидимых символов и переупорядочивание ключевых слов позволяют «проскочить» автоматическую оценку без потери читаемости для человека.

Google признал уязвимость и пообещал усилить защиту модели, но отметил, что полностью заменить человеческий контроль пока невозможно. Пока что эксперты советуют использовать ИИ в паре с ручной проверкой, а регуляторы могут начать проверку практик автоматизированного найма.