SK hynix показала память для ИИ-серверов со скоростью до 80 ГБ/с
iXBT.com · · g5392171
Южнокорейский производитель памяти SK hynix сообщил 16 октября, что показал на конференции OCP Global Summit в Сан-Хосе технологии «память-центричных» серверов. Мероприятие Open Compute Project — сообщества по разработке открытого оборудования для дата-центров — проходило с 12 по 15 октября. В числе демонстраций были модули CMM-DDR5, стоечная система MARS и технология CMM-Ax, совмещающая вычисления с памятью.
Второе поколение модуля CMM-DDR5 имеет ёмкость 256 ГБ и работает на базе интерфейса CXL 3.2 [Compute Express Link — открытый стандарт для подключения памяти и ускорителей]. Пропускная способность, по заявлению компании, достигает 80 ГБ/с — более чем вдвое выше предыдущего поколения, — а энергоэффективность улучшилась примерно на 30%. Такие модули предназначены для объединённой памяти (pooled memory), когда несколько серверов используют общий пул ёмкости.
Компания представила и стоечную систему MARS (Memory Centric AI Rack System), в которой память становится центральным ресурсом стойки, объединяя технологии партнёров. Совместно с Naver Cloud SK hynix показала демонстрацию концепции: общий кэш ключей и значений (KV-cache) — промежуточные данные, ускоряющие генерацию текста в больших языковых моделях, — для среды с ИИ-агентами, а также общие векторные представления (эмбеддинги) для сервиса, работающего с разными типами данных. CMM-Ax, в свою очередь, приближает вычисления к памяти за счёт снижения перемещения данных: её продемонстрировали на задаче обслуживания больших языковых моделей (LLM) с длинным контекстом.
SK hynix подчёркивает, что речь идёт о системных демонстрациях, а не о широко доступной серверной платформе. В анонсе нет независимо проверенных тестов, цен или сроков появления на рынке.