MWS AI открыла доступ к новому инструменту сжатия больших языковых моделей

MWS AI ·

MWS AI (входит в МТС Web Services) выложила в открытый доступ код для сжатия больших языковых моделей. Он основан на методе CoSpaDi (Compressing LLMs via Calibration-Guided Sparse Dictionary Learning), разработанном командой исследователей Центра фундаментальных исследований MWS AI. CoSpaDi позволяет уменьшать размер уже обученных нейросетей без дообучения, сохраняя более высокую точность ответов по сравнению с другими […]

MWS AI (входит в МТС Web Services) выложила в открытый доступ код для сжатия больших языковых моделей. Он основан на методе CoSpaDi (Compressing LLMs via Calibration-Guided Sparse Dictionary Learning), разработанном командой исследователей Центра фундаментальных исследований MWS AI. CoSpaDi позволяет уменьшать размер уже обученных нейросетей без дообучения, сохраняя более высокую точность ответов…

Источник

Источник: MWS AI