Google выпустила TPU 8tx и TPU 8i Max, доведя восьмое поколение ИИ-чипов до четырёх моделей

Google выпустила два новых варианта собственных ИИ-чипов: TPU 8tx и TPU 8i Max. С ними линейка восьмого поколения достигла четырёх систем. По словам компании, это первый случай в её истории, когда все новые модели вышли в рамках одного года. TPU (tensor processing unit) — чипы, созданные для обучения и запуска нейросетей. Они напрямую конкурируют с решениями Nvidia на рынке ИИ-инфраструктуры.

TPU 8tx рассчитан на госструктуры и регулируемые отрасли, где обрабатываются приватные данные. Чип построен на том же кремнии, что и тренировочный TPU 8t, но в архитектуру добавлен аппаратный уровень конфиденциальных вычислений. Данные и веса моделей физически отделены от внешних процессов во время работы. Благодаря этому можно дообучать нейросети и запускать ИИ-агентов без передачи информации между кластерами. Сетевая подсистема, по заявлению Google, снижает задержки до 50% относительно стандартной версии.

TPU 8i Max объединяет два чипа в один модуль. Это удваивает вычислительную мощность, объём встроенной памяти и пропускную способность. Конфигурация ориентирована на ИИ-агентов, которые анализируют целые кодовые базы, и на системы обработки видеопотоков длительностью в несколько часов. В корпус стандартной стойки помещается в два раза больше кремния, поэтому растёт плотность вычислений на квадратный метр и эффективность использования энергии.

Амин Вадаат, главный технолог Google по ИИ и инфраструктуре, сообщил, что у экосистемы TPU уже почти 100 клиентов: лаборатории, разрабатывающие передовые модели, финансовые организации, ритейлеры и университеты. Компания также работает с партнёрской сетью из четырёх дизайнеров, которые совместно улучшают архитектуру. Сроки поставок и стоимость новых решений пока не раскрыты, а само расширение линейки закрепляет за Google роль одного из ключевых альтернативных поставщиков ИИ-оборудования.