Новый чип NVIDIA RTX Spark может стать прорывом, однако на практике его эффективность может оказаться противоречивой. Об этом пишет 360.ru со ссылкой на Романа Душкина, генерального директора компании-разработчика ИИ «А-Я эксперт».
Эксперт отметил, что большие языковые модели, которые лежат в основе ИИ, традиционно используют облачные сервисы и дата-центры, где основные операции происходят удаленно. Это позволяет не нагружать устройства пользователей и получать быстрые ответы.
«Если Nvidia сделала аналогичный компактный чип, который потом можно впихнуть в ноутбук, — это прорыв. Но у меня есть сомнения, что это возможно», — заявил Душкин.
По его словам, мощности ноутбука для быстрого ответа от нейросети не хватит. Также он заявил, для качественной работы ИИ потребуется эффективное охлаждение, чтобы компьютер не перегревался из-за нагрузки. Поэтому, как считает эксперт, скорость ответа нейросети на задачу пользователя может оказаться более низкой по сравнению с использованию облачными ИИ.
Душкин привел пример: студенты уже пытались установить локальную языковую модель на несколько серверов, но результат оказался разочаровывающим. На любой вопрос нейросеть выдавала несколько букв раз в три секунды. «Поэтому сложно ожидать, что на ноутбуке она будет летать», — добавил он.
Эксперт подчеркнул, что ноутбуки с чипом Nvidia найдут своего пользователя, особенно в среде, где приоритетом является конфиденциальность. В таком случае полученные нейросетью данные не покинут устройство пользователя.
NVIDIA представила ARM-чипы RTX Spark 1 июня. Подробнее о новинке можно узнать в материале Hi-Tech Mail.
Источник: hi-tech.mail.ru