Anthropic привлекла Accenture для независимой проверки ИИ

Anthropic подписала соглашение с Accenture. Специалисты консалтинговой фирмы войдут в рабочие процессы лаборатории, проведут аудит безопасности и проверку соответствия моделей человеческим ценностям. По договорённости обе компании вложат в проект минимум $1 млрд в течение пяти лет, а Anthropic уже сейчас покрывает часть расходов.

Dario Amodei предложил трёхэтапный план замедления развития ИИ: привлечь независимых экспертов, проводить стресс‑тесты и оценивать соответствие этическим нормам. Инициативу поддержали Сэм Альтман и Илон Маск, в то время как Jensen Huang из Nvidia выразил скепсис, считая дополнительное регулирование излишним.

Партнёрство не эксклюзивно – Anthropic ведёт переговоры с некоммерческой исследовательской группой METR и другими потенциальными оценщиками. Компания обещает делиться результатами проверок, чтобы отрасль могла увидеть, как реализуется независимый контроль над ИИ.