Искусственный интеллект (ИИ) уже давно занимает центральное место в кибербезопасности, от обнаружения вредоносного ПО до анализа сетевого трафика. С приближением к искусственному общему интеллекту (AGI) потенциал ИИ для автоматизации защиты и устранения уязвимостей становится еще более значительным.
Однако для того, чтобы воспользоваться этими преимуществами, важно понять и смягчить риски, связанные с потенциальным злоупотреблением ИИ для совершения кибератак. Наша новая рамка оценки направлена на оценку новых возможностей ИИ как орудия атак. Это самая полная оценка своего рода на сегодняшний день: она охватывает все этапы цепочки кибератаки, учитывает множество типов угроз и основана на реальных данных.
Разработанная нами рамка помогает специалистам по кибербезопасности определить, какие меры защиты необходимы, и как их приоритизировать до того, как злонамеренные акторы смогут использовать ИИ для проведения сложных атак.
Наш обновленный Frontier Safety Framework учитывает, что современные ИИ-модели могут автоматизировать и ускорять кибератаки, что снижает затраты для злоумышленников. Это в свою очередь повышает риски масштабных атак.
Чтобы оставаться на шаг впереди киберугроз, основанных на ИИ, мы адаптировали проверенные рамки оценки кибербезопасности, такие как MITRE ATT&CK. Эти рамки позволяют оценивать угрозы по всей цепочке кибератак, от разведки до выполнения целей, и по различным сценариям атак. Наша новая методология закрывает пробелы, связанные с использованием ИИ для взлома системы, и выявляет точки, где ИИ может значительно сократить время и усилия, необходимые для проведения атак.
Анализировав более 12,000 реальных попыток использования ИИ в кибератаках в 20 странах, мы смогли выявить общие закономерности. В результате была составлена семиархетипная категория атак, включая фишинг, вредоносное ПО и атаки типа “отказ в обслуживании”, а также определены критические узкие места в цепочке кибератаки, где ИИ может значительно повлиять на традиционные затраты нападений.
Наша модель оценки включает 50 задач, охватывающих всю цепочку атак, и предназначена для помощи защитникам в разработке целевых мер по смягчению и моделированию атак, проведенных с помощью ИИ. Несмотря на то что нынешние ИИ-модели в одиночку, вероятно, не приведут к прорывным способностям для злоумышленников, наша рамка подчеркивает, как ИИ может облегчить успешное осуществление атак.