В МФТИ создан Центр экспертизы для внедрения ИИ на китайском вычислительном оборудовании
МФТИ — Московский физико-технический институт ·
Институт искусственного интеллекта МФТИ сформировал Центр экспертизы на базе лаборатории исследования аппаратного обеспечения для приложений ИИ. Центр помогает компаниям выбирать вычислительное оборудование, адаптировать нейросетевые модели и готовить программно-аппаратные комплексы под конкретные задачи бизнеса. Основной фокус – китайские GPU и специализированные ИИ-ускорители. Высокая стоимость американского GPU-оборудования и сложности с его приобретением затрудняют планирование ИИ-проектов. При выборе альтернатив важно проверить совместимость оборудования с моделями и программной средой, оценить производительность при реальной нагрузке. Центр объединяет эти задачи: заказчик может испытать выбранную модель на лабораторном оборудовании до принятия решения о покупке и внедрении. От выбора оборудования до работающего решения Центр совместно с технологическими партнёрами помогает реализовывать проекты от подбора оборудования до подготовки решения к эксплуатации: • Подбор оборудования и организация поставки через партнёров. Специалисты рассчитывают количество ускорителей, объём памяти и другие ресурсы с учётом моделей, числа пользователей, нагрузки и требований к производительности. • Подготовка программно-аппаратных комплексов. Центр подбирает совместимые компоненты – от серверов, драйверов и библиотек до программных движков и нейросетевых моделей – и объединяет их в конфигурацию под задачи заказчика. • Адаптация и оптимизация моделей. Центр помогает адаптировать используемые заказчиком CUDA-совместимые модели к китайским ускорителям. Специалисты настраивают DeepSeek, Qwen, GLM, Kimi и другие модели, оптимизируют использование памяти и параллельные вычисления. • Испытания и проверка производительности. Проводятся сравнительные испытания конфигураций с учётом реальной нагрузки заказчика. Оцениваются скорость и задержки ответов, работа при одновременных запросах пользователей, масштабирование, стабильность и качество после оптимизации. • Развёртывание и сопровождение. Центр готовит решения для локальной эксплуатации в инфраструктуре заказчика, помогает обновлять программную среду и устранять проблемы совместимости. Автономные дистрибутивы для закрытых контуров рассматриваются как перспективное направление. Компании и технологические партнёры могут обратиться за помощью на отдельном этапе или комплексным решением: получить вычислительную инфраструктуру либо готовую программно-аппаратную конфигурацию. Собственная инфраструктура и практические результаты Вычислительная инфраструктура ИИИ МФТИ включает GPU-серверы Alibaba T-Head и MetaX. Специалисты проводят тестирование платформ Moore Threads, Sugon, Iluvatar и Evas. Существующим и потенциальным заказчикам может предоставляться доступ к лабораторному оборудованию для испытаний. В рамках программы «ИИ ПАК-2026» специалисты провели 70 зачётных испытаний на платформе Alibaba T-Head PPU-ZW810E. Они охватили различные классы моделей, программные движки, инструменты оценки качества и сценарии обучения и дообучения. В результате определены работоспособные сочетания оборудования, программных компонентов и моделей, выявлены особенности программного стека производителя. В институте создан программный комплекс, автоматизирующий подготовку среды, запуск и испытания больших языковых моделей, фиксацию результатов. Он помогает сокращать время адаптации программных движков к аппаратным платформам. Для воспроизведения конфигураций предоставляются контейнерные образы, скрипты запуска и инструкции. Результаты испытаний могут оформляться в технический профиль с описанием оборудования, программной среды, модели, параметров запуска и измеренных характеристик. Прямое техническое взаимодействие с китайскими разработчиками и производителями позволяет получать консультации по архитектуре оборудования, драйверам и библиотекам, разбирать вопросы совместимости и дорабатывать программное обеспечение. Практический результат для бизнеса – возможность ещё до покупки оборудования оценить, оправданы ли затраты на внедрение ИИ. Подбор конфигурации под реальную нагрузку и испытания моделей помогают снизить риск покупки оборудования, которое окажется избыточным или не обеспечит нужной производительности. Заказчик получает проверенную техническую основу для оценки экономической эффективности проекта и поддержку при его реализации.