Специалисты Института искусственного интеллекта Московского физико-технического института (МФТИ) нашли альтернативу графическим процессорам американской компании Nvidia для работы с искусственным интеллектом. Об этом сообщила пресс-служба института.
«Специалисты Московского физико-технического института нашли способ снизить зависимость российских компаний от решений Nvidia при работе с искусственным интеллектом. Институт искусственного интеллекта МФТИ оценил возможности альтернативных графических процессоров (GPU) и создал Центр компетенций для помощи российским компаниям в построении независимой вычислительной инфраструктуры», – говорится в сообщении.
В пресс-службе пояснили, что ввиду ограниченной доступности оборудования и программного обеспечения Nvidia российские компании столкнулись с ростом сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной поддержки оборудования.
«Для решения этой проблемы Институт искусственного интеллекта МФТИ провeл комплексное исследование рынка альтернативных ускорителей, в том числе продуктов китайских производителей, <...> чтобы оценить их способность обеспечивать полный цикл работы современных ИИ-моделей», – отметили в институте.
Также эксперты проанализировали архитектурные особенности оборудования, драйверы, совместимость с фреймворками и поведение под нагрузкой. Тестирование проводилось на задачах запуска больших языковых моделей (LLM), компьютерного зрения, инференса (работы нейросети после обучения) и распределенных вычислений.
«Мы оценивали скорость и воспроизводимость вычислений, устойчивость при росте нагрузки и стабильность поведения моделей на разных типах ускорителей. Эти параметры определяют пригодность систем для длительной эксплуатации. На основании исследований мы сформировали программно-аппаратные конфигурации, которые обеспечивают необходимую производительность языковых моделей на альтернативных вариантах оборудования. Такой подход создает предсказуемый цикл жизни ИИ-решений и дает компаниям возможность структурно планировать эксплуатацию систем в собственных контурах», – приводятся в сообщении слова научного руководителя Института искусственного интеллекта МФТИ Юрия Визильтера.
Исследование подтвердило, что альтернативные карты от других компаний могут применяться в широком спектре сценариев без потери функциональности. В отдельных типах вычислений показатели альтернативных карт достигли или превзошли результаты Nvidia A100.
«На основе полученных данных в МФТИ создан Центр компетенций по решениям, не зависящим от Nvidia. Он объединяет лучшие инженерные практики, методики тестирования, оптимизированные конфигурации и опыт взаимодействия с поставщиками. Центр готов оказывать компаниям поддержку в подборе оборудования, проведении нагрузочного тестирования под конкретные задачи, настройке вычислительных цепочек и сопровождать платформы в процессе эксплуатации», – уточнили в институте.