CUDA от Nvidia быстро теряет свою главенствующую роль — по крайней мере, так следует из весьма интересного слайда в материалах Anthropic, где GPU представлены как взаимозаменяемые вычислительные ресурсы, особенно теперь, когда мощные модели способны относительно легко портировать другие модели на новые платформы.
Согласно слайду, модели Claude Mythos Preview потребовалось всего около трёх дней, чтобы разобраться, как запустить другую модель на GPU AMD MI355X, — против 6–12 месяцев, которые обычно уходят на подготовку новой вычислительной платформы для инференса. По сути, Anthropic теперь рассматривает GPU как взаимозаменяемые единицы вычислений со значительно снижённым барьером перехода с одной платформы на другую. Это предсказуемо заставило некоторых заявить, что CUDA от Nvidia, возможно, практически мёртв.
Тем не менее объявлять о кончине CUDA, вероятно, преждевременно: за ней по-прежнему стоит огромная экосистема библиотек, инструментов и годы постепенной оптимизации, не говоря уже о множестве разработчиков, которые продолжают на ней строить. Nvidia за последние годы сделала всё возможное, чтобы «ров» оставался прочным, — от бесплатных GPU и обучения для университетских исследователей до привязки NVIDIA Collective Communications Library (NCCL), удобного инструмента для соединения нескольких GPU, к проприетарному железу вроде NVLink и InfiniBand.
Тем временем Anthropic, по всей видимости, покушалась и на наработки Microsoft в области офисных приложений, выпустив Claude Whiteboards для организации идей всей командой, Claude Sheets для лёгкого создания таблиц и Claude Data, позволяющий создавать истории и видео на основе персонализированных данных. Кто знает, на что Anthropic покусится завтра.
Источник: www.playground.ru