Независимые исследователи и разработчики представили программные модификации, позволяющие снять искусственные ограничения производительности на потребительских видеокартах NVIDIA поколений Turing, Ampere и Ada Lovelace.
Поскольку бытовые чипы создаются на базе тех же кристаллов, что и профессиональное серверное оборудование, разработчики смогли разблокировать скорость выдачи инструкций и работу тензорных ядер до показателей профессиональных решений.
Для видеокарт серий GeForce RTX 30 и RTX 40 модификации обеспечивают до двух раз более быстрое выполнение матричного умножения и операций FP/BF16 с накоплением FP32, что критически важно для запуска больших языковых моделей и локальных систем искусственного интеллекта. Например, у флагманской GeForce RTX 4090 показатель производительности тензорных ядер вырос со 165 до 331 терафлопс.
Новый метод работает в среде Linux, успешно проходит драйверные проверки NVIDIA и позволяет использовать штатный софт через CUDA без изменения лимитов энергопотребления, однако подобное вмешательство аннулирует заводскую гарантию на оборудование.
Павлик Александр
Источник: ru.gecid.com