Мировое сообщество вновь сосредоточило внимание на проблемах безопасности в сфере фронтирного искусственного интеллекта (ИИ) на саммите, проходящем в Сеуле. Это мероприятие, которое является продолжением первого глобального саммита по безопасности ИИ, проведенного в Великобритании в прошлом году, направлено на развитие международного сотрудничества и формирование единого подхода к оценке рисков, связанных с новыми технологиями.
На саммите в Блетчли-парке было подписано Блетчлейское соглашение, созданные новые AI Safety Institutes и представлен международный научный отчет о безопасности передового ИИ. Эти инициативы обеспечивают основу для обсуждения и сотрудничества между ведущими технологическими компаниями, академическими кругами и государственными учреждениями.
С момента проведения первого саммита наблюдается значительный прогресс в области ИИ. Например, модель AlphaFold 3, разработанная Google DeepMind, достигла невиданной точности в прогнозировании структуры и взаимодействия молекул, что открывает новые горизонты для биомедицинских исследований. Однако с увеличением возможностей ИИ возникают и новые вызовы, требующие совместного решения.
На текущем саммите в Сеуле участники обсуждают необходимость создания международной научной отчетности и механизмов управления рисками. Важным шагом в этом направлении стало введение нового временного международного научного отчета о безопасности ИИ, который должен стать постоянным элементом саммитов и помочь в формировании основанных на фактах рекомендаций для политиков.
Среди предложений – создание глобального подхода к оценке и тестированию моделей ИИ, что позволит избежать фрагментации и конкуренции между национальными системами управления. Важнейшей задачей является разработка общих рамок для управления рисками, включая создание протоколов для выявления и смягчения потенциально опасных возможностей.
Финансовые и социальные выгоды от безопасного использования ИИ зависят от того, насколько быстро и эффективно мировое сообщество сможет достичь единства в подходах к его использованию и регулированию. В перспективе дальнейшие саммиты, включая планируемые мероприятия во Франции, могут стать важными шагами для достижения этой цели.