Видеокарты NVIDIA, созданные для майнинга криптовалют, неожиданно превратились в интересный вариант для задач искусственного интеллекта. Моддеры нашли способ вернуть часть видеопамяти, которую производитель отключил программно.
Программное решение CMP Unlocker позволяет разблокировать ранее недоступную память на CMP 170HX, увеличивая её объём с 8 до 64 ГБ, а в некоторых конфигурациях — с 10 до 40 ГБ. Физически дополнительная память уже находится на ускорителе, поскольку CMP 170HX использует кремний GA100 (Ampere) — тот же кристалл, что применяется в корпоративном ускорителе A100.
GA100 оснащён шестью стеками памяти HBM2e, однако NVIDIA отключила часть из них через прошивку. CMP 170HX производилась из кристаллов, которые не соответствовали строгим требованиям A100. Помимо памяти, NVIDIA ограничила вычислительную производительность и интерфейс PCIe.
Эксплойт основан на обходе системы безопасности Falcon и полностью программный — физически модифицировать видеокарту не требуется. В результате буквально получается «скачать» дополнительную видеопамять. При этом стабильность разблокированной памяти зависит от конкретного экземпляра.
Мод также позволяет восстановить часть вычислительной мощности и увеличить скорость PCIe с первоначальных PCIe 1.0 x4 до PCIe 2.0 x4. Теоретически можно вернуть полноценный PCIe x16, припаяв обратно 12 отсутствующих конденсаторов, однако практических примеров такого вмешательства пока нет.
Изначально CMP 170HX стоила $4 300, но после криптовалютного бума её можно было найти на eBay примерно за $250. После появления информации об эксплойте цена некоторых карт подскочила выше $1 000. Для сравнения, NVIDIA A100 на 40 и 80 ГБ стоит примерно от $3 500 и $11 500 соответственно.
Однако Ampere уже на два поколения старше современных архитектур Hopper и Blackwell, поэтому даже после разблокировки памяти CMP 170HX уступает им по вычислительной производительности и эффективности. Кроме того, остаётся вопрос качества скрытой памяти: невозможно точно определить, была ли она отключена исключительно для сегментации продуктов или из-за физических дефектов кристалла.
Источник: www.playground.ru