Google представила TPU 8i Max и 8tx — системы для ИИ-агентов и конфиденциальных вычислений
Habr ·
Google расширила линейку TPU восьмого поколения до четырёх систем. Новинки рассчитаны на разные задачи: TPU 8i Max — на работу с большими контекстами и сложными ИИ-агентами, а TPU 8tx — на защищённые вычисления с чувствительными данными. TPU 8i Max построена на двух объединённых TPU 8i. По сравнению с базовой системой она предлагает вдвое больше вычислительной мощности, SRAM и пропускной способности HBM. Это должно помочь при обработке больших контекстов и работе нескольких агентов с крупными проектами. TPU 8tx предназначена для конфиденциальных вычислений. Система сочетает TPU 8t с процессорами AMD EPYC пятого поколения и аппаратной защитой данных и весов моделей даже во время обработки. Она ориентирована на государственные организации и компании с повышенными требованиями к безопасности. Google также заявляет о снижении задержки до двух раз относительно TPU 8t. Читать далее