ASUS анонсировала UGen300 — первый USB‑ акселератор ИИ от компании, который позволяет запускать модели ИИ прямо на компьютере или смартфоне, без обращения к облаку.
Устройство оснащено процессором Hailo‑ 10H AI с мощностью 40 TOPS, имеет 8 ГБ выделенной памяти LPDDR4 и подключается через USB‑ C. Размеры корпуса составляют 105 x 50 x 18 мм, а энергопотребление при типичной нагрузке — всего 2,5 Вт. Также доступна версия в формате M.2.
UGen300 поддерживает основные фреймворки ИИ, включая TensorFlow, PyTorch и ONNX, и совместим с Windows, Linux и Android. Конструкция plug‑ and‑ play позволяет использовать ускоритель без дополнительных настроек, а выделенная память обеспечивает стабильную пропускную способность для больших моделей, включая LLM и VLM.
В отличие от облачных решений, пользователи не платят за подписку, не сталкиваются с задержками и получают большую конфиденциальность. UGen300 способен выполнять генерацию текста, суммирование видео, преобразование голоса в действия и другие задачи ИИ в режиме реального времени.
1’>
ASUS планирует дополнить устройство утилитой UGen Utility с более чем 100 предварительно обученными моделями для быстрого старта, а также интеграцией с сообществом разработчиков Hailo для учебных материалов и аналитики.
videocardz.com
Павлик Александр
Источник: ru.gecid.com