Некоторое время назад в сети наделал много шума ретранслятор ZLUDA, который позволяет запускать код CUDA на видеокартах не от NVIDIA. В частности тогда речь шла о видеокартах AMD Radeon, но совсем недавно «красные» попросили автора снести код, который был разработан на их средства. Теперь же ZLUDA получил третью жизнь, но уже с фокусом на работе с ИИ и машинным обучением, а делается это на средства неназванного спонсора.
Заявляется, что ZLUDA в будущем позволит запускать разработанный с CUDA ИИ-софт на видеокартах AMD и Intel, а еще возможна доступность данного ретранслятора и для других ГПУ. Правда в данный момент разработчик все же фокусируется именно на видеокартах AMD с поддержкой ROCm 6.1+.
Andrzej Janik, разработчик ZLUDA, прямо сейчас трудится над запуском PyTorch, TensorFlow и Llama.cpp через CUDA на видеокартах не от NVIDIA. Автор считает, что эта работа займет у него около года. Это время понадобится ему для доработки кода ZLUDA до состояния стабильной работы с упомянутыми задачами.
При этом ZLUDA продолжит быть софтом с открытым исходным кодом, а потому к разработке могут присоединиться все желающие с необходимыми для данного действа навыками.
Источник: www.goha.ru
Похожие новости:
Разработчик опубликовал код инструментария ZLUDA для запуска CUDA-приложений на GPU AMD
По требованию AMD проведено удаление части кода ZLUDA, открытой реализации CUDA
AMD ведёт проект ZLUDA, чтобы обеспечить поддержку CUDA для графических процессоров AMD
AMD ведёт проект ZLUDA, чтобы обеспечить поддержку CUDA для графических процессоров AMD