Epoch AI отмечает 3,5-кратный рост уязвимостей после внедрения LLM от Anthropic и OpenAI

За месяц зарегистрировано около 1500 CVE на фоне автоматизации поиска багов

Искусственный интеллект012 минут назад

Исследовательская организация Epoch AI зафиксировала значительное увеличение числа обнаруженных уязвимостей в программном обеспечении после внедрения больших языковых моделей (LLM) в процессы автоматизированного поиска ошибок. По их данным, количество выявленных критических и высокоопасных CVE возросло в 3,5 раза.

Согласно подсчётам, за один месяц 21 организация сообщила о примерно 1500 найденных уязвимостях. Аналитики связывают этот рост с активным использованием ИИ-моделей для анализа кода и выявления потенциально эксплуатируемых ошибок.

В отчёте выделяется значимость программ, связанных с моделями Anthropic и OpenAI. В частности, упоминаются инициативы, касающиеся модели Claude Mythos и программы Daybreak, в рамках которых доверенные партнёры получают доступ к моделям для поиска уязвимостей до их официального раскрытия. По оценкам Epoch AI, совокупный вклад этих программ уже измеряется тысячами выявленных инцидентов, часть из которых ещё не опубликована в открытых базах CVE.

Данные основаны на реестре CVE Program (cvelistV5), который регистрирует опубликованные уязвимости с 2020 года. При этом в анализе учитываются даты публикации CVE, а не момент их обнаружения, что может влиять на интерпретацию динамики роста.

Система CVE (Common Vulnerabilities and Exposures) классифицирует уязвимости по шкале CVSS от 0 до 10, где значения выше 9 считаются критическими. В исследование включаются записи от различных центров назначения уязвимостей (CNA), включая крупнейших разработчиков программного обеспечения и open-source проекты.

Аналитики также указывают, что часть роста может быть обусловлена не только ИИ-инструментами, но и изменением практик отчётности отдельных CNA. Например, после включения Linux в список CNA количество зарегистрированных CVE увеличилось благодаря массовому учёту исправлений и backport-обновлений.

По мнению Epoch AI, внедрение LLM уже меняет структуру кибербезопасности: автоматизированный поиск ошибок позволяет находить уязвимости быстрее и в больших масштабах по сравнению с традиционными методами аудита кода.

Darth SaharaИсточники:Epoch AIИскусственный интеллект0Искусственный интеллектКибербезопасностьOpenAIAnthropicGPTClaude MythosEpoch AI12 минут назад