Поделиться
В МФТИ нашли альтернативу Nvidia
Специалисты Московского физико-технического института нашли способ снизить зависимость российских компаний от решений Nvidia при работе с искусственным интеллектом. Институт искусственного интеллекта МФТИ оценил возможности альтернативных графических процессоров (GPU) и создал Центр компетенций для помощи российским компаниям в построении независимой вычислительной инфраструктуры. Об этом CNews сообщили представители МФТИ.
В последние несколько лет в России ограничена доступность оборудования и программного обеспечения Nvidia (мирового лидера в производстве графических процессоров): компании столкнулись с ростом сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной поддержки оборудования. В этой связи бизнесу необходимо искать новые подходы к построению вычислительных контуров для задач машинного обучения.
Для решения этой проблемы Институт искусственного интеллекта МФТИ провел комплексное исследование рынка альтернативных ускорителей, в том числе продукты китайских производителей, включая Moore Threads и MetaX, чтобы оценить их способность обеспечивать полный цикл работы современных ИИ-моделей.
Эксперты проанализировали архитектурные особенности оборудования, драйверы, совместимость с фреймворками и поведение под нагрузкой. Тестирование проводилось на задачах запуска больших языковых моделей (LLM), компьютерного зрения, инференса (работы нейросети после обучения) и распределенных вычислений.
«Мы оценивали скорость и воспроизводимость вычислений, устойчивость при росте нагрузки и стабильность поведения моделей на разных типах ускорителей. Эти параметры определяют пригодность систем для длительной эксплуатации. На основании исследований мы сформировали программно-аппаратные конфигурации, которые обеспечивают необходимую производительность языковых моделей на альтернативных вариантах оборудования. Такой подход создает предсказуемый цикл жизни ИИ-решений и дает компаниям возможность структурно планировать эксплуатацию систем в собственных контурах», – сказал научный директор Института искусственного интеллекта МФТИ Юрий Визильтер.
Исследование подтвердило, что альтернативные карты s4000 от Moore Threads и C500 от MetaX могут применяться в широком спектре сценариев без потери функциональности. Тесты продемонстрировали стабильный запуск популярных LLM, корректную работу современных фреймворков и предсказуемую производительность. В отдельных типах вычислений показатели альтернативных карт достигли или превзошли результаты Nvidia A100. Оборудование также продемонстрировало устойчивость при длительных нагрузках, что позволяет выстраивать воспроизводимые процессы (пайплайны) обучения и инференса.
Особое внимание уделялось работе альтернативных ускорителей в составе вычислительных узлов и кластеров. Разработанный стек программного обеспечения позволяет эффективно распределять ресурсы, объединять мощности для работы с крупными моделями и создавать кластерные конфигурации.
На основе полученных данных в МФТИ создан Центр компетенций по решениям, не зависящим от Nvidia. Он объединяет лучшие инженерные практики, методики тестирования, оптимизированные конфигурации и опыт взаимодействия с поставщиками. Центр готов оказывать компаниям поддержку в подборе оборудования, проведении нагрузочного тестирования под конкретные задачи, настройке вычислительных цепочек и сопровождать платформы в процессе эксплуатации.
В дальнейшем команда планирует продолжить тестирование новых поколений ускорителей, расширить перечень поддерживаемых моделей и подготовить отраслевые рекомендации для создания автономной ИИ-инфраструктуры.
Короткая ссылка
