Искусственный интеллект (ИИ) уже давно стал краеугольным камнем кибербезопасности. С ростом технологий, направленных на создание искусственного общего интеллекта (ОИ), потенциальные возможности ИИ в автоматизации защиты и устранении уязвимостей становятся еще более значительными. В ответ на растущие угрозы кибератак с использованием ИИ, эксперты разработали новую структуру для оценки этих возможностей, что является наиболее полной оценкой в своем роде на сегодняшний день.
Разработанная структура позволяет специалистам по кибербезопасности определить необходимые меры защиты и их приоритетность, еще до того, как злоумышленники смогут использовать ИИ для проведения сложных атак. Обновленная структура Frontier Safety подчеркивает, что современные модели ИИ могут автоматизировать и ускорять кибератаки, снижая затраты для атакующих и увеличивая вероятность масштабных атак.
В ходе исследования были проанализированы более 12,000 реальных попыток использования ИИ в кибератаках в 20 странах, что позволило выявить общие паттерны и создать список из семи архетипических категорий атак, таких как фишинг и вредоносное ПО. Эта информация помогает сосредоточить усилия на критических этапах атаки, где ИИ может значительно изменить традиционные затраты.
Также созданный бенчмарк для оценки киберспособностей ИИ состоит из 50 задач, охватывающих весь цикл атаки, что предоставляет возможность защитникам разрабатывать целенаправленные меры защиты и моделировать атаки с использованием ИИ. Первоначальная оценка показывает, что современные модели ИИ, использованные в одиночку, вряд ли предоставят прорывные возможности для атакующих, однако с развитием ИИ типы возможных атак будут эволюционировать, требуя постоянных улучшений в стратегиях защиты.
Данная структура и бенчмарк призваны помочь командам по кибербезопасности укрепить свои защиты и опережать быстро меняющиеся угрозы, подчеркивая важные зоны, где защищенность может оказаться недостаточной.