Искусственный интеллект (ИИ) продолжает занимать центральное место в сфере кибербезопасности, обеспечивая защиту от malware и анализируя сетевой трафик. Однако по мере приближения к искусственному общему интеллекту (AGI) потенциал ИИ для автоматизации защитных мер и устранения уязвимостей становится даже более значительным. Для эффективного использования этих преимуществ необходимо также понимать и минимизировать риски, связанные с потенциальным применением ИИ для кибератак.
В рамках новых исследований был разработан фреймворк для оценки становящихся все более продвинутых наступательных возможностей ИИ в кибератаках. Этот фреймворк представляет собой наиболее полную оценку своего рода на сегодняшний день, охватывающую каждую фазу кибератаки и учитывающую широкий спектр угроз с опорой на реальные данные.
Обновленный Frontier Safety Framework подчеркивает, что современные модели ИИ могут автоматизировать и ускорять кибератаки, что, в свою очередь, повышает риски массовых атак. Для противодействия таким угрозам исследователи адаптировали проверенные временем оценочные фреймворки кибербезопасности, такие как MITRE ATT&CK, обеспечивая подробный анализ угроз на всех этапах цепочки кибератаки.
Выводы, основанные на анализе более 12,000 реальных попыток использования ИИ в кибератаках в 20 странах, позволили выделить семь типичных категорий атак, включая фишинг, malware и атаки типа «отказ в обслуживании». Фокусирование на критических узких местах в цепи кибератаки поможет защитникам более эффективно распределять свои ресурсы безопасности.
Созданный этими исследователями бенчмарк для оценки наступательных возможностей ИИ предлагает 50 задач, охватывающих весь процесс кибератаки, от сбора информации до эксплуатации уязвимостей. Начальные оценки показывают, что современные модели ИИ, несмотря на свою изоляцию, пока что не дают угрозы прорывных возможностей для злоумышленников, но по мере прогресса ИИ обостряются охватываемые им типы кибератак, что требует постоянного совершенствования защитных стратегий.
Данный фреймворк и бенчмарк помогут командам киберзащиты укрепить свои оборонительные линии и опережать быстро развивающиеся угрозы, подчеркивая emerging risks.