Эксперты в области кибербезопасности предостерегли о растущей угрозе, связанной с автономными агентами на базе искусственного интеллекта. Эти передовые системы способны не только упрощать выполнение повседневных задач, таких как планирование встреч или заказ продуктов, но и могут быть использованы для проведения сложных кибератак.
Хотя на данный момент киберпреступники не применяют AI-агентов для атак в широком масштабе, исследования показывают, что они уже способны успешно воспроизводить атаки, направленные на кражу конфиденциальной информации. Например, исследовательская группа Anthropic продемонстрировала, как их языковая модель Claude смогла повторить атаку, разработанную для взлома.
Согласно Марку Стокли, эксперту по безопасности из компании Malwarebytes, «в конечном итоге мы будем жить в мире, где большинство кибератак будут осуществляться агентами». Ожидается, что в следующем будущем атаки с использованием AI-агентов станут более распространенными, и специалисты по кибербезопасности уже работают над созданием систем для их обнаружения.
Одним из таких решений является система LLM Agent Honeypot, разработанная организацией Palisade Research, которая создает легкодоступные серверы для привлечения и отслеживания попыток вторжений со стороны AI-агентов. С момента запуска в октябре прошлого года было зарегистрировано более 11 миллионов попыток доступа, среди которых было выявлено восемь потенциальных AI-агентов.
Несмотря на это, эксперты подчеркивают, что AI в основном служит ускорителем уже существующих атак, а не меняет их суть. Применение AI-агентов для обнаружения уязвимостей и защиты систем потенциально эффективно, но использование таких технологий требует тщательного контроля и управления рисками.
В связи с этим, профессионалы из области кибербезопасности призывают к более проактивному подходу в анализе рисков AI и его воздействия на безопасность, прежде чем ситуации выйдут из-под контроля, как это уже происходило в прошлом.