Корпорация Microsoft, по сообщениям, создала инструментарий, который позволяет исполнять программный код, изначально написанный для платформы Nvidia CUDA, на графических ускорителях от AMD. Эта разработка направлена на ослабление зависимости от доминирующей на рынке ИИ-вычислений экосистемы Nvidia.
Инициатива Microsoft заключается в трансляции кода CUDA в формат, совместимый с программной платформой AMD ROCm. Это позволит компании более эффективно использовать закупленные ею в большом количестве ускорители AMD для задач, связанных с искусственным интеллектом, в частности для инференса, то есть выполнения уже обученных моделей. Такой подход потенциально может снизить затраты, так как решения AMD зачастую являются более доступной альтернативой.
Как сообщается, информация о новом ПО поступила от высокопоставленного сотрудника Microsoft, который упомянул, что компания построила несколько наборов инструментов для помощи в конвертации моделей CUDA в ROCm, что дает возможность запускать их на ускорителях AMD, например, на Instinct MI300X.
Технически, решение Microsoft, вероятно, использует подход, схожий с уже существующими на рынке. Одним из таких примеров является проект ZLUDA — слой совместимости, который «на лету» перехватывает и транслирует вызовы API CUDA в ROCm, не требуя от разработчиков полного переписывания исходного кода.
Несмотря на потенциал этой технологии, отмечается, что платформа ROCm от AMD все еще считается менее зрелой по сравнению с CUDA. Некоторые элементы и вызовы API в экосистеме Nvidia могут не иметь прямых аналогов в ROCm, что в отдельных случаях может приводить к снижению производительности. На данный момент, судя по всему, разработанный Microsoft инструментарий находится в ограниченном внутреннем использовании.
Источник: www.playground.ru