DeepSeek открыл код движка DeepInfer, на котором запускает свои модели
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях DeepSeek опубликовал исходный код DeepInfer — собственного фреймворка для инференса, который компания использует в своих производственных сервисах для запуска больших языковых моделей. Проект вышел под лицензией Apache 2.0. Сейчас DeepInfer поддерживает модель DeepSeek-V4.1-Flash и два типа ускорителей — NVIDIA SM100 и Huawei Ascend 950. Фреймворк рассчитан на крупные установки и умеет распределять вычисления между несколькими […] Полная версия статьи: DeepSeek открыл код движка DeepInfer, на котором запускает свои модели