Google расширила линейку ИИ-процессоров восьмого поколения: к TPU 8t и 8i добавились 8tx для защищенных вычислений и 8i Max для огромных контекстных окон. Это уже четыре новые системы за год.
Google представила два новых ИИ-процессора восьмого поколения — TPU 8tx и TPU 8i Max. Вместе с анонсированными весной TPU 8t и TPU 8i это уже четыре новые системы за один год — впервые в истории компании.
TPU (Tensor Processing Unit, тензорный процессор) — фирменные чипы Google для обучения и запуска нейросетей, включая модель Gemini. Первые такие процессоры компания создала больше десяти лет назад для распознавания голоса и машинного перевода, а сегодня у TPU почти сто клиентов — от лабораторий ИИ до университетов и торговых фирм.
В апреле Google показала TPU 8t для обучения моделей и TPU 8i для быстрых рассуждений. Они дают до 2,7 раза более высокую скорость обучения и на 80% лучшее соотношение цены и производительности, чем прошлое поколение — чип Ironwood, который мы разбирали отдельно. Новые системы создаются с расчетом на «эпоху ИИ-агентов» — автономных программ, которые самостоятельно решают задачи.
TPU 8tx создан для защищенных и конфиденциальных вычислений. Он рассчитан на госструктуры и регулируемые отрасли, которые работают с чувствительными данными. Шифрование здесь встроено прямо в «железо», а задержки — до двух раз ниже, чем у TPU 8t, почти без потери производительности.
Источник: hi-tech.mail.ru