NVIDIA представила важное обновление своей платформы CUDA 13.1 — запуск NVIDIA CUDA Tile. Это нововведение считается крупнейшим прогрессом с момента изобретения CUDA в 2006 году и имеет целью значительно упростить параллельное программирование на графических процессорах, особенно для задач, связанных с искусственным интеллектом.
Традиционно программирование на CUDA (модель SIMT) требовало от разработчиков детального контроля над каждым элементом, что усложняло написание эффективного кода. CUDA Tile предлагает программирование на более высоком уровне, абстрагируя сложное специализированное оборудование, такое как тензорные ядра.
Как это работает:
Вместо того чтобы указывать компьютеру, как обрабатывать данные поэлементно, разработчик теперь может работать с крупными блоками данных, или «тайлами» (плитками). Разработчик указывает, какие вычисления необходимо выполнить над этими блоками, а компилятор и программное обеспечение CUDA Tile автоматически определяют, как это лучше всего сделать на аппаратном уровне, включая тензорные ядра.
Это похоже на работу с библиотеками типа NumPy в Python, где вы оперируете матрицами, не беспокоясь о внутренних деталях.
NVIDIA отмечает, что CUDA Tile не заменяет традиционный подход SIMT, а дополняет его: разработчики могут выбирать между ними в зависимости от задачи. Для большинства программистов взаимодействие с этой функцией будет происходить через высокоуровневые инструменты, такие как NVIDIA cuTile Python.
Павлик Александр
Источник: ru.gecid.com