Альтернатива NVIDIA
Специалисты МФТИ* нашли способ снизить зависимость российских компаний от решений NVIDIA при работе с искусственным интеллектом.
Институт искусственного интеллекта МФТИ оценил возможности альтернативных графических процессоров (GPU) и создал Центр компетенций для помощи российским компаниям в построении независимой вычислительной инфраструктуры.
В последние несколько лет в России ограничена доступность оборудования и программного обеспечения NVIDIA (мирового лидера в производстве графических процессоров): компании столкнулись с ростом сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной поддержки оборудования.
В этой связи бизнесу необходимо искать новые подходы к построению вычислительных контуров для задач машинного обучения.
Для решения этой проблемы Институт искусственного интеллекта МФТИ провёл комплексное исследование рынка альтернативных ускорителей, в том числе продукты китайских производителей, включая Moore Threads и MetaX, чтобы оценить их способность обеспечивать полный цикл работы современных ИИ-моделей.
Эксперты проанализировали архитектурные особенности оборудования, драйверы, совместимость с фреймворками и поведение под нагрузкой. Тестирование проводилось на задачах запуска больших языковых моделей (LLM), компьютерного зрения, инференса (работы нейросети после обучения) и распределенных вычислений.
“Мы оценивали скорость и воспроизводимость вычислений, устойчивость при росте нагрузки и стабильность поведения моделей на разных типах ускорителей. Эти параметры определяют пригодность систем для длительной эксплуатации. На основании исследований мы сформировали программно-аппаратные конфигурации, которые обеспечивают необходимую производительность языковых моделей на альтернативных вариантах оборудования. Такой подход создает предсказуемый цикл жизни ИИ-решений и дает компаниям возможность структурно планировать эксплуатацию систем в собственных контурах», – рассказал научный директор Института искусственного интеллекта МФТИ Юрий Визильтер.
Исследование подтвердило, что альтернативные карты s4000 от Moore Threads и C500 от MetaX могут применяться в широком спектре сценариев без потери функциональности.
Тесты продемонстрировали стабильный запуск популярных LLM, корректную работу современных фреймворков и предсказуемую производительность.
В отдельных типах вычислений показатели альтернативных карт достигли или превзошли результаты NVIDIA A100. Оборудование также продемонстрировало устойчивость при длительных нагрузках, что позволяет выстраивать воспроизводимые процессы (пайплайны) обучения и инференса.
Особое внимание уделялось работе альтернативных ускорителей в составе вычислительных узлов и кластеров.
Разработанный стек программного обеспечения позволяет эффективно распределять ресурсы, объединять мощности для работы с крупными моделями и создавать кластерные конфигурации.
На основе полученных данных в МФТИ создан Центр компетенций по решениям, не зависящим от NVIDIA. Он объединяет лучшие инженерные практики, методики тестирования, оптимизированные конфигурации и опыт взаимодействия с поставщиками.
Центр готов оказывать компаниям поддержку в подборе оборудования, проведении нагрузочного тестирования под конкретные задачи, настройке вычислительных цепочек и сопровождать платформы в процессе эксплуатации.
В дальнейшем команда планирует продолжить тестирование новых поколений ускорителей, расширить перечень поддерживаемых моделей и подготовить отраслевые рекомендации для создания автономной ИИ-инфраструктуры.
*МФТИ – Московский физико-технический институт.
Источник информации и фото – МФТИ – https://mipt.ru/news/v-mfti-nashli-alternativu-nvidia-
Публикация носит информационный характер и не является рекламой.
