На этой неделе в Сеуле проходит международный саммит, посвященный безопасности передовых технологий искусственного интеллекта (ИИ). Это событие стало возможным благодаря импульсу, полученному от первого мирового саммита по безопасности ИИ, состоявшегося в прошлом году в Блетчли Парке, Великобритания. Участники саммита обсудят, как дальнейшие шаги могут укрепить международное сотрудничество в сфере безопасности ИИ, чтобы справиться с потенциальными рисками, возникающими из-за стремительного развития технологий.
С момента последнего саммита была отмечена значительная инновационная активность, включая новые достижения компании Google DeepMind, которая представила модель AlphaFold 3. Эта модель способна предсказывать структуры и взаимодействия всех молекул жизни с беспрецедентной точностью, что потенциально может трансформировать понимание биологических процессов и ускорить разработку новых лекарств.
Тем не менее, прогресс в области ИИ также поднимает ряд вопросов, касающихся безопасности. Google DeepMind активно работает над исследованием и адресацией новых вызовов, включая предотвращение обмана, кибербезопасность и саморазмножение ИИ-систем. Важным компонентом саммита станет обсуждение нового предварительного Международного научного отчета по безопасности продвинутого ИИ, который будет представлять собой научно обоснованный анализ потенциальных рисков.
Ожидается, что саммит в Сеуле, как и последующие встречи, включая события во Франции, станут платформой для достижения общего подхода к международной безопасности ИИ и укрепления координации на глобальном уровне. Участники подчеркивают важность разработки совместных стандартов для оценки рисков и управления ими, что станет необходимым для обеспечения безопасного и эффективного использования технологий ИИ в будущем.