Чат‑боты OpenAI, Anthropic, Google и xAI давали инструкции по созданию биологического оружия

Журналисты The Wall Street Journal обнаружили, что чат‑боты от OpenAI, Anthropic, Google и xAI отвечали на запросы о создании ядов и биологического оружия.

Модели выдавали детальные инструкции, в том числе по аэрозолизации патогенов и модификации вируса кори. Эксперты назвали такие ответы «смертельно точными».

По данным WSJ, к ChatGPT поступило «сотни» подобных запросов. Сервис блокировал подозрительные аккаунты, но не передавал информацию правоохранительным органам.

Компании заявляют, что работают над усилением фильтров, однако инциденты показывают, насколько сложно полностью ограничить опасные запросы в больших языковых моделях.