ИИ ПОМОГАЕТ НАХОДИТЬ УЯЗВИМОСТИ: ЧТО ЭТО ЗНАЧИТ ДЛЯ БИЗНЕСА?

В апреле Anthropic представила Claude Mythos Preview. Примерно тогда же начался резкий рост числа публично раскрытых уязвимостей — в июле показатель был примерно в 5 раз выше предыдущего рекорда.

Уязвимость — это слабое место в программе, через которое при определенных условиях можно, например, получить чужие данные или нарушить работу сервиса.

В испытаниях Anthropic модель показала, что может помогать искать такие ошибки — изучать код, проверять подозрительные места и выяснять, действительно ли ими могут воспользоваться злоумышленники. Иногда модель находила в давно существующем коде уязвимости, которые могли оставаться незамеченными десятилетиями.

Найденных уязвимостей стало больше, но это еще не значит, что программы внезапно стали хуже и взломов стало больше.

Представьте, что здание впервые обследовали более точным прибором: обнаруженных дефектов стало больше, хотя часть из них существовала давно. Здесь похожая ситуация.

Как отмечает Epoch AI, на статистику влияют и возможности поиска, и внимание исследователей, а оценки опасности ошибок могут пересматриваться. По одному графику нельзя определить, какую долю роста обеспечил именно ИИ.

Источники: Charts of the Week, Epoch AI

Но для бизнеса вывод уже вполне практический. ИИ ускоряет не только поиск уязвимостей, но и разработку способов их эксплуатации. Значит, важно понимать, из каких компонентов собраны ваши сервисы, кто следит за сообщениями об опасных уязвимостях и насколько быстро команда может проверить и установить исправления.