По данным The Information, компания OpenAI начала использовать тензорные процессоры Google (TPU) для запуска ChatGPT и других продуктов на основе ИИ. Это первый случай, когда OpenAI в больших масштабах использует чипы, отличные от графических процессоров Nvidia.
TPUs арендуются через Google Cloud и предназначены для снижения затрат на вывод — процесс запуска обученных моделей для генерации ответов на новые запросы. До сих пор OpenAI была одним из крупнейших клиентов Nvidia, использующим её графические процессоры как для обучения, так и для развёртывания больших языковых моделей.
У партнёрства с Google есть свои ограничения. Согласно The Information, Google не предоставляет OpenAI доступ к своим самым мощным моделям TPU. Сотрудник Google Cloud подтвердил это ограничение.
Сообщение в Microsoft
Этот шаг является чётким сигналом для Microsoft, крупнейшего инвестора OpenAI и компании, которая обеспечивала большую часть инфраструктуры для продуктов OpenAI. Перенося часть рабочих нагрузок на инфраструктуру Google, OpenAI использует свои отношения с ключевым конкурентом Microsoft в качестве стратегического рычага.
Сообщается, что генеральный директор OpenAI Сэм Альтман и генеральный директор Microsoft Сатья Наделла ведут переговоры о партнёрстве компаний. OpenAI также расширила свои вычислительные мощности благодаря сделке с Oracle.
Google Cloud напрямую конкурирует с Microsoft Azure и является основным фактором роста Google. Решение OpenAI использовать инфраструктуру Google влияет не только на рынок ИИ, но и на облачный сектор, который в последние годы играл ключевую роль в динамике акций Microsoft.
Изначально Google использовала свои TPU для внутреннего применения, но теперь открывает доступ к ним для большего числа внешних партнёров. Помимо OpenAI, среди клиентов — Apple и стартапы Anthropic и Safe Superintelligence, основанные бывшими руководителями OpenAI.
По данным исследовательской компании Epoch AI, инфраструктура Google обеспечивает крупнейшие в мире вычислительные мощности для ИИ. Облако TPU является ключевой частью стратегии Google в области ИИ и конкурирует с графическими процессорами Nvidia, особенно при работе с большими моделями.
Источник
Источник: habr.com