Anthropic ограничила Opus 5.5 в работе с LLM‑разработкой

Ввела новые guard‑rails в Claude Opus 5.5: при запросах о построении ядра для ML‑ускорителей или иной передовой LLM модель отказывается отвечать и автоматически переходит на Opus 5.\ \ Добавила классификаторы двойного назначения в биологической сфере, схожие с теми, что используют в Fable. При обнаружении запросов, связанных с вирусологией, токсикологией или молекулярным дизайном, система также откатывается к Opus 5.\ \ Блокирует попытки дистилляции — запросы на полное раскрытие цепочки рассуждений отклоняются. Обычные вопросы, типа «почему так сделал?», продолжают работать без ограничений.\ \ Включила автоматический откат по умолчанию, но позволяет пользователю отключить его в настройках; тогда запрос просто блокируется. Для проверенных организаций открыты Cyber Verification Program и Life Sciences Verification Program, дающие доступ к более мощным моделям с ослабленными ограничениями. Opus 5.5 пока не включён в кибер‑программу, однако компании на Opus 4.8 уже получают Opus 5 с менее строгими правилами.\ \ Показывает, что разработчики сильных ИИ теперь встраивают ограничения прямо в архитектуру доступа, пытаясь удержать баланс между полезностью и потенциальной опасностью.