В журнале Nature Medicine опубликовано новое исследование, в котором представлен совместный проект команды CoDoC и Google Research. Система под названием CoDoC (Complementarity-driven Deferral-to-Clinical Workflow) призвана определить, когда предсказательный искусственный интеллект (ИИ) более точен, чем человек, и когда следует обратиться к врачу для получения окончательного диагноза.
Искусственный интеллект обещает значительно улучшить качество работы в различных отраслях, однако для безопасной интеграции ИИ в здравоохранение необходимо разработать более надежные методы оценки его точности. Важность этого подхода особенно актуальна в области медицины, где предсказательные ИИ-технологии активно используются для помощи клиницистам в высоконагрузочных задачах.
Исследование показывает, что CoDoC может значительно снизить количество ложноположительных результатов. Например, в тестах с использованием большого набора данных о маммографии из Великобритании удалось добиться 25%-ного снижения ложных тревог, при этом не было упущено ни одного истинно положительного случая.
Работа выполнялась в сотрудничестве с несколькими медицинскими организациями, включая Партнёрство по борьбе с туберкулезом при ООН. Команда также открыла исходный код системы на GitHub, что позволит исследователям продолжать работу над улучшением прозрачности и безопасности моделей ИИ в реальном мире.
Уникальность CoDoC заключается в его способности улучшать точность работы предсказательных ИИ без необходимости кардинальной переработки уже существующих моделей. Система ориентируется на «знание о незнании» и на основе данных о доверительной оценке ИИ решает, когда пациенту нужно полагаться на выводы ИИ, а когда обращаться к врачу.
Хотя данное исследование является чисто теоретическим и основано на исторических данных, результаты показывают, что такая модель, как CoDoC, может значительно улучшить работу медицинского персонала в условиях разнообразных клинических сценариев и типов заболеваний.