Microsoft выпустила VS Code‑расширение для проверки уязвимостей ИИ‑агентов

Microsoft добавила в VS Code навык run‑assert‑eval, который за одну команду сканирует ИИ‑агента, создает тесты, генерирует политику защиты и проверяет её действие.\ \ Инструмент проходит четыре шага: Clarity ищет потенциальные отказы, Assert превращает их в измеримые eval‑тесты, Agent Control Specification формирует runtime‑политику, а затем агент повторно проходит те же тесты, подтверждая, что защита сработала.\ \ В демо‑примере Microsoft взяла агента поддержки биллинга, который должен обслуживать только один клиентский аккаунт. Clarity обнаружила два критических риска: операции без проверки личности и раскрытие чужих данных. После преобразования в набор тестов базовый агент нарушил правила в 30 % случаев во втором сценарии – 12 из 40 диалогов закончились полной утечкой данных.\ \ Сгенерированная политика блокирует любые вызовы, где идентификатор аккаунта не совпадает с владельцем. При повторном прогоне те же тесты показали падение нарушений до 5,9 %, а полезность агента осталась на уровне: отказов по корректным запросам не зафиксировано.\ \ Assert и Agent Control Specification уже открыты в open‑source, к набору прилагаются 7 готовых областей и 14 наборов рисков, так что ты можешь сразу применить их к своему проекту.