Изображение: Nvidia
Nvidia заявляет, что новый графический процессор B200 обеспечивает до 20 петафлопс мощности FP4 за счет 208 миллиардов транзисторов. Кроме того, в нем говорится, что GB200, сочетающий в себе два таких графических процессора с одним процессором Grace, может обеспечить в 30 раз большую производительность для рабочих нагрузок вывода LLM, а также потенциально быть существенно более эффективным. По словам Nvidia, это «снижает стоимость и энергопотребление до 25 раз» по сравнению с H100.
По словам Nvidia, для обучения модели с 1,8 триллионами параметров ранее требовалось 8000 графических процессоров Hopper и 15 мегаватт мощности. Сегодня генеральный директор Nvidia заявляет, что 2000 графических процессоров Blackwell могут сделать это, потребляя всего четыре мегаватта.
Источник: www.it-world.ru