Компания Nvidia вновь подтвердила свои лидерские позиций на рынке графических процессоров, получив отличные результаты в недавних тестах MLPerf, ориентированных на приложения генеративного искусственного интеллекта (ИИ). На этот раз Nvidia продемонстрировала свои достижения в тестах, которые включали оценку производительности на основе большого языкового модели (LLM) Llama.
В тестах, проведенных организацией MLCommons, компьютерные системы, собранные такими компаниями, как SuperMicro, Hewlett Packard Enterprise и Lenovo, с установленными до восьми графическими процессорами Nvidia, заняли большинство призовых мест. Новые тесты были дополнены двумя важными категориями, которые оценивали производительность в задачах генерации текста и обработки запросов в реальном времени, что актуально для чат-ботов и других взаимодействий с ИИ.
Дополнительно были добавлены тесты на быстродействие графовых нейронных сетей, используемых для решения сложных проблем, связанных с взаимодействиями между сущностями, а также тесты для оценки скорости обработки данных LiDAR для создания карт автомобилями. В почти всех тестах закрытой категории Nvidia заняла первое место, подчеркивая значительное преимущество своих графических процессоров перед конкурентами.
Тем не менее, компания AMD также проявила себя, забрав наибольшее количество токенов в двух тестах Llama 2 70b с использованием своего графического процессора MI300X. Несмотря на это, Nvidia продолжает доминировать в сегменте ИИ, продвигая разработки, которые освобождают работников от рутинных задач и открывают новые возможности для автоматизации процессов.
С каждым раундом тестов MLPerf становится все более очевидно, что Nvidia не оставляет шансов конкурентам, эмпирически подтверждая статус лидера в области технологии обработки ИИ.