Компания Nvidia запускает продажи DGX Spark — мини-ПК весом всего 1,2 килограмма, который, по словам разработчиков, сочетает в себе компактность ноутбука и вычислительную мощность дата-центра. Устройство ориентировано на инженеров, исследователей и разработчиков, которым нужно работать с современными моделями искусственного интеллекта без подключения к облаку.
В основу DGX Spark лег новый чип GB10, объединяющий 20-ядерный процессор Grace на архитектуре Arm и графику Blackwell, которая уже используется в топовых серверах Nvidia DGX для дата-центров. В конфигурации предусмотрено 128 гигабайт памяти LPDDR5x и 4 терабайта NVMe-накопителя, что позволяет запускать крупные языковые и визуальные модели локально, а также проводить тестирование и обучение прямо на устройстве.
Система работает под управлением DGX OS — специализированной версии Ubuntu, включающей готовый пакет AI-инструментов, таких как CUDA, TensorRT, PyTorch и NGC-репозиторий моделей. Nvidia заявляет, что Spark поддерживает локальную оптимизацию и fine-tuning, а также может выполнять inference для моделей уровня GPT-4-mini без внешнего GPU-сервера.
Стоимость новинки составляет 3999 долларов, и это делает DGX Spark самым доступным устройством линейки DGX. Помимо Nvidia, свои версии мини-суперкомпьютера выпустят Asus, Dell, Gigabyte, HP, Lenovo и MSI, каждая со своей системой охлаждения и компоновкой портов.
Позже в этом году компания представит более мощную станцию DGX Station GB300, рассчитанную на профессиональные студии и исследовательские центры. Она будет использовать обновлённую архитектуру Blackwell и обеспечит вычислительную мощность до 1,8 петфлопс.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник
Источник: habr.com