Расследование, проведённое The Guardian, показало, что заявления Microsoft об ИИ-мощностях компании расходятся с данными о количестве чипов, находящихся в эксплуатации. Ранее, как сообщается, Microsoft рассчитывала установить в ЦОД по всему миру 1,8 млн ИИ-ускорителей к концу 2024 года, но сейчас, в разгар реализации программы по расширению ИИ-мощностей стоимостью $280 млрд, она развернула «всего» 2,2 млн ускорителей, согласно внутренним документам. Это вдвое меньше, чем прогнозировали эксперты.
Такое расхождение в данных может означать, что новейшие дата-центры иди ещё не ввели в эксплуатацию, или для них нет достаточного количества чипов. Оценить реальный прогресс компании непросто, в том числе потому, что данные в цепочке поставок NVIDIA хранятся в большом секрете. Как и её клиенты, сама NVIDIA крайне редко раскрывает, сколько чипов и кому она продаёт, а без этого сложно определить, действительно ли отрасль ИИ развивается так, как заявлено.
В последние два года Microsoft заявляет о стремительном строительстве ИИ-инфраструктуры. В прошлом году сообщалось, что к середине 2027 года компания удвоит масштабы своей сети ЦОД. С 2022 года она направила на покупку земли, зданий вычислительную ИИ-инфраструктуру около $280 млрд. Только за последний квартал вложено более $41 млрд. Впрочем, сложно определить, сколько именно ЦОД построено на эти деньги.
Источник изображений: Microsoft
Оценить прогресс можно по косвенным данным. Собственная отчётность Microsoft свидетельствует, что мощность ЦОД компании выросла на 5 ГВт в рамках строительства ИИ-инфраструктуры. Сейчас в компании говорят о наличии сотен ЦОД на пяти континентах. Фактически мощность должна быть ещё выше, поскольку ИИ-инфраструктуру компания строит с 2022 года.
Внутренняя презентация Microsoft за 2024 год свидетельствует, что уже тогда компания якобы располагала 5 ГВт установленной мощности ЦОД. Совокупная мощность на сегодня соответственно может составлять порядка 10 ГВт, но нет данных, все ли эти ЦОД поддерживают ИИ-сервисы или некоторые обслуживают другие облачные сервисы. Впрочем, сама Microsoft утверждает, что в последние годы подавляющая часть капитальных затрат идёт именно на ИИ-инфрастурктуру.
Если предположить, что у Microsoft есть 10 ГВт ИИ ЦОД, у неё должно быть около 6,4 млн ИИ-ускорителей, но некоторые эксперты уверены, что картина несколько иная. По некоторым свидетельствам, мощность ИИ ЦОД Microsoft в 2024 году была на уровне 1,23 ГВт, но если та добавила 5 ГВт ещё, ей потребовалось бы около 4 млн ИИ-ускорителей. Эксперты уверены, что верить стоит прежде всего сторонним данным об устойчивом развитии, поскольку те проверяются независимыми структурами.
В самой Microsoft выкладки The Guardian называют неверными, хотя в чём именно ошибка, не рассказали. Некоторые эксперты считают, что строительство ИИ-мощностей идёт медленнее, чем ожидалось, судя по годовым отчётам компании. Журналисты сообщают, что источники в самой компании подтвердили, что за последний год общее количество ИИ-чипов «почти не изменилось». Отчасти «недостача» может объясняться партнёрством с OpenAI, поскольку некоторые ЦОД Microsoft, связанные с этой компанией, могут не фигурировать во внутренних документах.
Кроме того, некоторые крупные проекты ЦОД, вероятно, ещё не запущены полностью. Например, крупнейший ИИ-проект Microsoft в США — Fairwater в Висконсине и Джорджии. В апреле компания заявила, что ЦОД в Висконсине «вводится в эксплуатацию», но спутниковые снимки свидетельствуют, что работает лишь часть объекта. В мае Microsoft признавала, что Fairwater ещё не запущен.
Также внутренний документ свидетельствует, что у компании меньше чипов NVIDIA Blackwell, чем можно было бы ожидать, исходя из публичных заявлений NVIDIA. По косвенным данным, у Microsoft должно быть около 1 млн таких чипов, но в действительности установлено меньше половины от этого количества. По словам главы Microsoft Сатьи Наделлы (Satya Nadella), главной проблемой является дефицит электроэнергии и проблемы со строительством ЦОД. Т.е. у компании может быть огромное количество чипов на складе, но нет готовых объектов, чтобы разместить их.
Как заявил один из представителей Microsoft, компания использует самые разные чипы, от собственных до разработанных NVIDIA, AMD и Intel, а также другое оборудование, поэтому оценки The Guardian неточны и «основаны на неправильных предположениях, из которых сделаны ошибочные выводы». В The Guardian использовала предложенную учёными методику, согласно которой общую мощность можно разделить на энергопотребление одного ускорителя. Самым распространённым у Microsoft является NVIDIA H100, потребляющий около 700 Вт. Если мощность ЦОД Microsoft составляет 10 ГВт, при простом делении речь моджет идти о 12 млн чипов. Впрочем, у Micrsooft есть немало менее мощных A100 и более энергоёмких Blackwell.
Конечно, такие оценки не учитывают использования систем охлаждения и энергопотребления другого оборудования. По некоторым оценкам, в ИИ ЦОД непосредственно на чипы тратится лишь около 80 % от общего энергопотребления. Другими словами, при мощности 10 ГВт на вычисления может приходиться 8 ГВт. Так, в одном из отчётов Microsoft речь идёт об использовании 89 % ИИ-чипами.
Кроме того, далеко не все чипы относятся к ИИ-ускорителям. Энергии требуют модули памяти, накопители, процессоры и др. Сервер с восемью H100 потребляет до 10 кВт. Если разделить 8 ГВт на 10 кВт, выйдет 800 тыс. серверов или около 6,4 млн чипов. Эксперты считают, что это «консервативная» оценка, поскольку на практике компании вроде Microsoft «перегружают» свои ЦОД, устанавливая больше чипов, чем способна поддержать площадка.
Источник: servernews.ru