Стартап Extropic представил первую рабочую плату с собственным «термодинамическим» чипом, который должен ускорять и удешевлять вероятностные вычисления — класс задач, на котором сейчас тратится большой объем энергии при запуске генеративных моделей, симуляций и погодных расчетов.
Extropic был основан «Беффом Джезосом» (Based Beff Jezos, он же Гийом Вердон), бывшим квантовым исследователем Google, который продвигает тезис: чтобы ИИ рос дальше, надо радикально снизить энергозатраты.
Представленная новинка — это плата, где обычный программируемый контроллер (FPGA) управляет собственными чипами компании, а те уже отвечают за ускорение вычислений. ��дея в том, что в современной электронике шум есть всегда — электроны чуть «дергаются», температура вносит флуктуации. Обычно его подавляют, но в расчетах, где нужно много раз сделать выборку из случайностей, этот шум можно использовать как «топливо» для вычислений — и это выходит дешевле, чем эмулировать то же самое на GPU.
В компании утверждают, что такой подход дает выигрыш «на порядки» и в перспективе может удешевить целые классы ИИ-задач в тысячи раз — прежде всего диффузионные модели, байесовские методы и научные симуляторы. Фактически Extropic предлагает вынести самый прожорливый участок пайплайна на отдельный специализированный чип, а все остальное оставить в привычном цифровом стеке.
Показанная сейчас плата — это ранний демонстратор, а не готовый конкурент GPU: ей нужна обвязка софтом и интеграция с ML-фреймворками, а реальные выигрыши пока показаны на синтетических задачах. Поэтому заявления про «в тысячи раз» пока скорее описывают потенциал архитектуры, чем текущий продукт.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com