Исследователи Dragonfly использовали GLM 5.2 для обнаружения уязвимости в прошивке Coldcard за 20 минут, затратив около $2 на весь запуск.

Тест и результаты

В контролируемом эксперименте языковая модель обнаружила ту же уязвимость прошивки без каких-либо подсказок человека или направляющих указаний в ходе сессии.

Команда сообщила, что короткая, недорогая проверка воспроизвела эксплойт, который ранее привёл к потерям у пользователей, демонстрируя способность к быстрой разведке.

Масштаб потерь и активность атак

По данным Galaxy, общие потери от связанных взломов превысили $130 million, и сообщается, что наступательная активность продолжается в рамках нескольких кампаний.

Управляющий партнёр Dragonfly, Hasib Qureshi, охарактеризовал современную безопасность как соревнование вычислительных мощностей, где бюджеты определяют глубину и упорство в поиске уязвимостей.

Экономика нападения и защиты

Обычные пользователи могут потратить пару долларов на поверхностные проверки, в то время как некоторые злоумышленники инвестируют от $500–$2000 за операцию и запускают несколько агентов ИИ на ночь, чтобы расширить покрытие.

Исследователи отметили, что только поставщик с полным доступом к прошивке и постоянными вычислительными ресурсами может провести исчерпывающие аудиты в масштабе, необходимом для обнаружения глубоко скрытых ошибок.

Dragonfly пояснила, что чтобы противостоять атакующему с бюджетом в $5,000, разработчику обычно нужно выделить около $10,000, чтобы найти те же проблемы и дополнительные уязвимости.

Последствия для отрасли

Qureshi ожидает так называемый "COVID-момент" в сфере безопасности, когда волна громких утечек заставит компании внедрять аудиты прошивок с использованием ИИ в качестве стандартной практики.

Эксперимент показывает, как недорогие, высокоскоростные проверки ИИ могут изменить ландшафт угроз и как защитникам, возможно, придётся масштабировать ресурсы, чтобы противостоять нападающим.