В условиях стремительного развития технологий генеративного моделирования изображений, исследователи из Google объявили о запуске нового международного конкурса Adversarial Nibbler, цель которого заключается в выявлении скрытых рисков и негативных последствий, связанных с генерацией изображений с помощью нейросетей. Это совместная инициатива с участием таких академических учреждений, как Университет Цюриха, Гарвардский университет и Университет Оксфорда, а также таких промышленных партнеров, как Cohere. Конкурс поддерживается организациями MLCommons, Kaggle и Hugging Face.
Конкурс направлен на то, чтобы собрать набор неявно противодействующих запросов, которые могут привести к созданию небезопасных изображений. Упор делается на исследования, которые могут помочь в обнаружении долгосрочных проблем безопасности, часто оставляемых без внимания традиционными тестами. Участники могут регистрироваться на платформе, вводить новые запросы и аннотировать изображения, которые сгенерированы на их основе, указывая на потенциальные риски и недостатки.
В первом раунде конкурса, прошедшем с 1 июля по 10 октября 2023 года, было получено 1500 пар запросов и изображений, однако участники преимущественно представляли Северную Америку и Европу. В ответ на это был запущен второй раунд, который охватывал сообщества в Субсахарской Африке, что позволило собрать 3000 релевантных примеров и привлечь более 80% участников из этого региона.
Подход, используемый в Adversarial Nibbler, основан на сборе и анализе мнений участников, что предоставляет ценную информацию для тестирования надежности и безопасности технологий генерации изображений. Ожидается, что результаты конкурса позволят лучше понять различные культурные контексты, что, в свою очередь, поможет в разработке этически безопасных и инклюзивных решений в сфере AI.