Новый Project Digits от Nvidia предлагает суперкомпьютерную мощность для AI прямо с вашего рабочего стола, обеспечивая возможность запуска моделей искусственного интеллекта с параметрами до 200 миллиардов прямо из домашней офисной установки. Возможно, он сможет запустить Crysis.
На выставке CES 2025 в Лас-Вегасе Nvidia представила то, что компания называет персональным суперкомпьютером для AI. Project Digits нацелен на предоставление серьезной вычислительной мощности для исследования в руках исследователей, дата-сайентистов и студентов через платформу Grace Blackwell от Nvidia.
В основе Project Digits лежит суперчип GB10 Grace Blackwell, разработанный в сотрудничестве с тайваньской компанией MediaTek. Система позволяет пользователям разрабатывать и тестировать модели AI на своем рабочем столе, прежде чем переносить их в облачные или дата-центровые системы.
В основе Project Digits находится суперчип GB10 Grace Blackwell, разработанный совместно с компанией MediaTek из Тайваня. Это, по сути, сочетание новейшей GPU-технологии Blackwell от Nvidia и их процессора Grace, объединенных через собственную систему соединения NVLink-C2C.
Числа впечатляют: GB10 может обеспечивать до 1 петафлопа мощности для обработки AI с точностью FP4. В комплект входят 20 ARM-основанных CPU-ядер, разработанных с учетом энергоэффективности, 128 ГБ ОЗУ и до 4 ТБ NVMe-хранилища.
Архитектура компьютера Digits AI
И если этого недостаточно, вы можете соединить две системы Digits с помощью сетей Nvidia ConnectX, увеличивая общую емкость до обработки моделей с 405 миллиардами параметров. Такая установка способна справиться с более крупными открытыми моделями, такими как Llama-3.1-405B, но не подойдет для самых больших моделей, например, Deepseek-V3, требующей более 600 миллиардов параметров.
Презентация Nvidia здесь довольно хитрая: начать разработку моделей AI на системе Digits, а затем масштабироваться до облачной или дата-центровой инфраструктуры DGX, когда потребуется больше мощности. Все построено на одной архитектуре и программной платформе, что хорошо сочетается с недавними шагами Nvidia в области инфраструктуры AI.
Дженсен Хуанг, генеральный директор Nvidia, рассматривает Digits как часть более широкой картины, в которой AI будет внедрен во все приложения во всех отраслях. По его мнению, Project Digits предоставит технологию Grace Blackwell миллионам разработчиков.
Если вы заинтересованы в приобретении такой системы, Nvidia планирует выпустить Project Digits через свои каналы и партнеров в мае по цене 3 000 долларов.
Источник
Источник: habr.com