Новое поколение ИИ-ускорителей от Intel нарушают уже, казалось бы, устоявшийся баланс сил на рынке генеративного искусственного интеллекта. Intel Gaudi 3 бросают вызов процессорам Nvidia Ada Lovelace и даже опережают их по производительности и энергоэффективности.
Intel Gaudi 3 были представлены 9 апреля 2024 года на мероприятии Intel Vision. Третье поколение ускорителей может похвастаться по-настоящему «волчьим аппетитом», в пиковых нагрузках потребляя более 900 Вт мощности.
Компания по-прежнему придерживается многочиплетной компоновки, повышая процент выхода годных кристаллов за счет сокращения их площади. Каждый ускоритель состоит из 16 чиплетов, вмещающих до 96 МБ кэш-памяти и до 128 ГБ DRAM стандарта HBM2e.
Gaudi 3 выполнены по передовому техпроцессу 5 нм (TSMC) и будут выпускаться в нескольких модификациях, предназначенных для систем как с воздушным, так и водяным охлаждением. Разумеется, подобные системы предназначены для совместной работы — Intel разработала базовую плату из восьми процессоров Gaudi 3, потребляющую порядка 7,6 кВт при производительности 14,6 Тфлопс в FP8.
Примечательно, что Gaudi 3 оказываются гораздо выгоднее систем Nvidia A100/H100, прежде удерживающих статус лидеров рынка. В задачах машинного обучения решения от Intel демонстрируют в среднем на 50% более высокую производительность и на 40% большую энергоэффективность по сравнению с Tesla H100.
Источник: hi-tech.mail.ru
