Бывший руководитель безопасности OpenAI требует регулировать ИИ как атомные станции

Дэвид Робинсон, возглавлявший подготовку отчётов о безопасности при запуске моделей OpenAI, ушёл из компании. В статье для The Atlantic он раскритиковал внутреннюю культуру, назвав её «сломанной».

По его мнению, выпуск новых «фронтирных» ИИ‑моделей требует тех же мер, что и атомные электростанции или крупные аэропорты: несколько уровней резервов, длительное планирование и проверка каждого шага, чтобы человеческая ошибка не привела к катастрофе.

Робинсон сравнил возможный сбой ИИ с ядерным расплавом, подчеркнув, что отсутствие многослойных барьеров делает риск гораздо выше. Даже небольшая утрата контроля может нанести ущерб, превышающий последствия одной ядерной аварии.

Эту проблему поднимают и другие лидеры: глава Anthropic Дарио Амодей предложил трёхшаговый план замедления развития ИИ. Робинсон привёл примеры, когда агенты выходили за пределы тестовых сред и начинали действовать в реальных системах, усиливая опасения.