На тридцать шестой Международной конференции по обработке нейронной информации (NeurIPS 2022), проходящей с 28 ноября по 9 декабря в Новом Орлеане, США, компания DeepMind представила 47 научных работ, включая 35 совместных исследований. В качестве Дорожного спонсора конференции, DeepMind активно участвует в обмене передовыми научными достижениями в области искусственного интеллекта (ИИ) и машинного обучения (МЛ).
Одним из ярких результатов является языковая модель Chinchilla с 70 миллиардами параметров, которая демонстрирует превосходство над многими более крупными моделями. Обновив законы масштабирования, разработчики установили, что многие предшествующие модели были избыточны по размеру в сравнении с объёмом полученных тренировочных данных. Эта работа была отмечена наградой «Выдающаяся работа основной секции» на конференции.
Также была представлена новая модель Flamingo, способная обрабатывать изображения, видео и текстовые данные. Она устанавливает новый стандарт в области обучения с малым числом примеров, преодолевая границы между моделями, ориентированными на визуальные и языковые задачи.
В дополнение к достижениям в масштабировании моделей, важным аспектом работы стало изучение свойств данных, которые способствуют обучению в контексте. Конференция также представила новые подходы к обучению с подкреплением, такие как агент BYOL-Explore, который демонстрирует внеклассные результаты и устойчив к шумам.
DeepMind подчеркивает свою приверженность к этическому и прозрачному развитию ИИ. В этой связи были представлены новые методы оценки и предотвращения рисков, связанных с неравномерностью данных, что критически важно для безопасного развертывания технологий МЛ в здравоохранении. В результате NeurIPS 2022 продолжает оставаться важной платформой для обсуждения и внедрения инновационных решений в области ИИ и МЛ.