MWS AI открыла доступ к новому инструменту сжатия больших языковых моделей
MWS AI ·
MWS AI (входит в МТС Web Services) выложила в открытый доступ код для сжатия больших языковых моделей. Он основан на методе CoSpaDi (Compressing LLMs via Calibration-Guided Sparse Dictionary Learning), разработанном командой исследователей Центра фундаментальных исследований MWS AI. CoSpaDi позволяет уменьшать размер уже обученных нейросетей без дообучения, сохраняя более высокую точность ответов по сравнению с другими […]
MWS AI (входит в МТС Web Services) выложила в открытый доступ код для сжатия больших языковых моделей. Он основан на методе CoSpaDi (Compressing LLMs via Calibration-Guided Sparse Dictionary Learning), разработанном командой исследователей Центра фундаментальных исследований MWS AI. CoSpaDi позволяет уменьшать размер уже обученных нейросетей без дообучения, сохраняя более высокую точность ответов…
Источник