NVIDIA объяснила, почему процессоры Vera делают ставку на высокую производительность отдельных ядер, а не только на их количество. По словам команды разработчиков, эпоха облачных вычислений подтолкнула индустрию к увеличению числа ядер, но распространение ИИ-агентов вновь сделало скорость последовательных операций критически важной.
ИИ-агенты постоянно переключаются между процессором и графическим ускорителем: CPU выполняет промежуточные задачи, например запускает Python-скрипты и обращается к инструментам, после чего GPU продолжает вычисления. Если процессор задерживается, дорогостоящий ускоритель простаивает. Поэтому NVIDIA разработала Vera с расчётом на высокую однопоточную производительность, пропускную способность памяти и низкие задержки. По заявлению компании, новинка до 1,5 раза быстрее Grace и до двух раз опережает ведущие x86-процессоры в задачах для ИИ-агентов.
В отличие от конкурентов, использующих чиплетную компоновку, Vera получила монолитный вычислительный кристалл: все ядра могут обмениваться данными без пересечения границ отдельных чиплетов. NVIDIA заявляет о пропускной способности межъядерного обмена 3,4 ТБ/с — втрое выше показателя ведущих x86-решений. Также компания развивает Spatial Multithreading, разделяющую ресурсы между рабочими потоками и операциями ввода-вывода. По словам разработчиков, тестирование Phoronix показало прирост производительности около 20%.
NVIDIA не прогнозирует конкретное соотношение CPU и GPU в будущих ИИ-системах, однако ожидает роста спроса на процессоры для автономных серверных стоек. Они смогут обслуживать многочисленные окружения для ИИ-агентов и задач обучения с подкреплением, не занимая вычислительные ресурсы графических ускорителей.
Источник: www.goha.ru