Бывший сотрудник OpenAI уходит и бросает тревогу о культуре компаний

Дэвид Робинсон, писавший отчёты по безопасности при каждом крупном релизе модели OpenAI, объявил об уходе и опубликовал editorial в The Atlantic. Он утверждает, что внутри компании царит «сломанная» культура, где стремление к быстрым результатам превалирует над осторожностью.

Ты, следящий за новостями ИИ, наверняка слышал, что по его мнению в отрасли преобладает «чрезмерная уверенность» и бесконечные спринты, из‑за чего недооцениваются потенциальные риски. Робинсон предлагает рассматривать разработку ИИ как работу атомных станций или загруженных аэропортов: внедрять слои избыточности, проводить тщательное планирование и принимать решения медленно, чтобы человеческая ошибка не привела к катастрофе.

Его уход — не единичный случай. За последние месяцы из Anthropic, Google DeepMind и других лабораторий ушли Джейкоб Коксон, Роберт О’Каллахан, Билал Чугтай, Джош Ангельс и Джо Бентон, каждый из которых публично предупреждал о возможных угрозах ИИ.

Сигнал от бывших сотрудников усиливает обсуждение регулирования и внутреннего контроля в сфере генеративных моделей. Пока крупные игроки продолжают масштабировать модели, вопрос о том, смогут ли они внедрить «ядерные» меры безопасности, остаётся открытым.