Представители США заявили, что модель Mythos компании Anthropic в ходе санкционированных оценок за считанные часы получила доступ практически ко всем закрытым системам США, что побудило к ужесточению контроля.

Санкционированные оценки

По словам представителей США, эти действия были частью разрешённых учений, предназначенных для проверки способности системы ИИ исследовать защищённые сети в контролируемых условиях.

Учения не были реальными вторжениями в оперативные правительственные системы, и власти охарактеризовали результат как следствие смоделированных испытаний, а не реальных нарушений.

Введённые ограничения

После тестов регуляторы ограничили доступ к наиболее мощным моделям, закрыв доступ к Mythos 5 и Fable 5 для иностранных пользователей, включая некоторых союзников США.

Представители Anthropic и правительства заявили, что возможности моделей, имеющие отношение к кибербезопасности, требуют дополнительных мер защиты и надзора до разрешения на более широкое распространение.

Масштаб и сотрудничество

По словам чиновников, результаты показали векторы, которые модель могла бы использовать в смоделированных средах, что повлияло на решения по экспортному контролю и ограничениям доступа.

Anthropic, согласно заявлениям, переданным источниками, сотрудничает с властями для уточнения лимитов развертывания и разработки мер по снижению выявленных рисков.

Контекст и дальнейшие шаги

Власти подчеркнули, что тесты повлияли на изменения в политике относительно распространения высокопроизводительных моделей, при этом ожидается продолжение дальнейших оценок и технических проверок.

Заинтересованные стороны, вероятно, сосредоточатся на технических мерах защиты, контроле доступа и мерах по соблюдению требований, чтобы управлять рисками, выявленными в ходе санкционированных оценок.