DeepMind, ведущая компания в области искусственного интеллекта, объявила о своей совместной работе с Partnership on AI (PAI) по разработке стандартов ответственной практики сбора данных. В фокусе их сотрудничества — этические и безопасные методы взаимодействия с человеческими участниками исследований, направленных на изучение взаимодействия людей с AI-системами.
В течение последнего года команда DeepMind уделяла особое внимание формированию высоких стандартов этики и безопасности, начиная с первой линии — сбора данных. Созданный более трех лет назад комитет по этике исследований человеческого поведения (HuBREC) контролирует соблюдение прав и благополучия участников, параллельно с нарастающей потребностью в более прозрачных и безопасных методах обогащения данных, что включает тестирование и валидацию моделей машинного обучения.
Тем не менее, практики обогащения данных, часто осуществляемые на краудсорсинговых платформах, поднимают ряд этических вопросов, связанных с оплатой труда и справедливостью. В условиях растущего числа задач, требующих человеческого участия, важно разработать четкие руководящие принципы, способствующие соблюдению высоких стандартов.
В результате партнерства между DeepMind и PAI появился набор из пяти шагов, которые помогут специалистам улучшить условия труда для участников процессов обогащения данных. Эти новые процессы уже испытаны на нескольких проектах и впоследствии будут внедрены в более широкую практику компании.
Параллельно ведется активная работа по созданию ресурсов и руководств для других организаций, с целью совместного обмена знаниями и дополнения разработанных стандартов. Компания надеется на дальнейшее развитие дискуссий в отрасли и выработку единых норм ответственного сбора данных.