Project Digits способен обрабатывать модели ИИ с объемом до 200 миллиардов параметров. Для пользователей с более высокими требованиями доступна возможность объединить две системы, что позволяет работать с моделями до 405 миллиардов параметров — эквивалентно размерам лучших современных моделей, таких как Llama 3.1. Устройство включает 128 ГБ унифицированной памяти, что значительно превосходит возможности стандартных ноутбуков, и хранилище объемом до 4 ТБ NVMe.
«ИИ станет мейнстримом в каждом приложении для каждой отрасли. С Project Digits суперчип Grace Blackwell станет доступен миллионам разработчиков», — сказал гендиректор Nvidia Дженсен Хуанг.
В основе устройства лежит суперчип GB10 Grace Blackwell, он предлагает производительность до 1 петафлопа с точностью FP4, что позволяет ускорять сложные вычисления благодаря использованию приближенных расчетов. Он оснащен ядрами CUDA последнего поколения и тензорными ядрами пятого поколения, которые подключены через NVLink-C2C к процессору Grace с 20 энергоэффективными ядрами на архитектуре Arm. MediaTek также участвовала в разработке чипа, обеспечивая его энергоэффективность и оптимальную производительность.
Пользователям Project Digits предоставляется доступ к обширной библиотеке программного обеспечения Nvidia для ИИ: комплекты разработки, инструменты управления и предварительно обученные модели, доступные через каталог Nvidia NGC.
Система работает на основе ОС Nvidia DGX, построенной на Linux, и поддерживает популярные инструменты для работы с ИИ, такие как PyTorch, Python и Jupyter. Разработчики могут настраивать свои модели с использованием фреймворка Nvidia NeMo, а также ускорять задачи анализа данных с помощью библиотек RAPIDS.
Project Digits предоставляет возможность разрабатывать и тестировать модели ИИ локально, используя высокопроизводительную архитектуру Grace Blackwell и ПО Nvidia AI Enterprise. После завершения разработки модели можно развертывать в облаке или на серверной инфраструктуре с использованием тех же программных инструментов, что делает систему универсальной и подходящей для задач любой сложности.
Стоимость Project Digits — от $3000. Читайте также Что позволяют сделать RFID-метки сегодня? Достижения в области технологий произвели революцию во всех отраслях экономики, и индустрия моды не исключение. IT-World расскажет, как создать «умный» магазин и автоматизировать склад с помощью RFID.
Источник: www.it-world.ru