Автор YouTube-канала ServeTheHome решил попробовать побывать внутри самого мощного ИИ — суперкомпьютера современности xAI Colossus принадлежащему Илону Маску, для чего «на удачу» отправил в его компанию xAI письмо с просьбой о посещении. И неожиданно получил неожиданный ответ с утверждением просьбы и приглашением!
Техноблоггер смог побывать в самом важном месте мощнейшей it — структуры — помещениях со шкафами, вмещающих в себя сразу 100 000(!!!) мощнейших ИИ — ускорителей Nvidia H100! Как рассказали ему специалисты xAI, каждый из лежачих U — серверов расположенных в стойке вмещает в себя сразу 8 таких GPU, притом, к каждой карте для скоростного обмена данными подключен сетевой контроллер пропускной способностью до 400Гбит/с, что обеспечивает общую пропускную способность каждого такого сервера на уровне 3,6Тбит/с! В каждой стойке находится восемь таких U — шасси, что в сумме даёт на шкаф 64 Nvidia H100, а шкафы объединены в кластеры по восемь штук и 512 GPU в сумме. Между такими мощнейшими кластерами и распределяются задачи, где то отдавая по одному заданию на каждый, а где — то объедения усилия для решения сверхсложных задач.
Помимо графических ускорителей, есть в инфраструктуре xAI Colossus и некоторое количество стандартных процессорных серверов, обеспечивающих управление ядрами H100 и то самое, описанное выше распределение вычислительных задач. Представители компании не вдавались в подробности об изготовителе CPU промышленных ЭВМ, уточнив лишь, что речь идёт о 1U системах производства Supermicro с жидкостным охлаждением.
Вся же эта сложнейшая инфраструктура поддерживается от внезапных отключений нереально мощными ИБП Tesla Megapack. Они способны обеспечить на несколько часов работоспособность всего, без преувеличения колоссального xAI Colossus, что гарантирует системе бесперебойного питания xAI, звание самой мощной в мире!
Но и это ещё не все рекорды! По задумке авторов проекта, среди которых числится лично Илон Маск и который создан для обучения мощнейшего чат — бота Grok3(возможно, самый серьёзный конкурент ChatGPT), до конца года Colossus получит ещё 100 000 графических ускорителей H100! И всего 300 000 таких ускорителей к лету будущего года!!!
Вам может быть интересно: Исследования: компьютерные игры омолаживают и тренируют мозг
The post Техноблоггер показал видео из самого мощного ИИ — суперкомпьютера в мире xAI Colossus, включающего 100 000 мощнейших GPU appeared first on AMD news.
Источник: amd.news
