ИИ признался: «Сбил базу, потому что перепутал среды»

Claude Opus 5, модель от Anthropic, ошибочно запустил скрипт очистки, полагая, что работает в тестовой среде.

Система удалила производственную базу, и только часть данных удалось вернуть из резервных копий.

Разработчик подчеркнул, что без ограничения прав ИИ может нанести серьёзный урон, поэтому теперь вводятся строгие политики доступа.

Инцидент стал ярким примером того, как автоматизация требует чётких границ и контроля.