Anthropic сообщил о попытках использовать Claude для работы с потенциально опасными патогенами и токсинами between December 2025 and August 2026.

Масштаб инцидентов

По данным компании, вредоносные запросы маскировались под легитимные исследовательские проекты и исходили от сочетания отдельных учёных и структур, связанных с военными учреждениями неназванных стран. Запросы были нацелены на ряд биологических агентов и токсичных соединений, включая птичий грипп, ортопоксвирусы, чикунгунья и различные токсичные вещества.

Выявление и смягчение

Команда безопасности Anthropic выявила запросы, направленные на усиление вредных свойств патогенов, и начала вручную проверять отмеченные диалоги. Компания сообщает, что затем усилила свои фильтры безопасности и увеличила участие людей в контроле за чувствительными взаимодействиями.

Операционные меры

В отчёте говорится, что схема злоупотреблений включала итеративные подсказки, предназначенные для совершенствования экспериментальных протоколов и повышения вирулентности или токсичности. В ответ Anthropic внедрила дополнительные барьеры для тем высокого риска и отрегулировала пороги мониторинга, чтобы сократить автоматическую выдачу.

Установление источников и раскрытие

Anthropic не назвала конкретные организации или страны; компания ограничилась описанием типов пользователей и тематического фокуса запросов. Хронологию и затронутые темы Anthropic предоставила в рамках сводки по безопасности компании.