Изображение: Shutterstock / Ken stocker
UltraCluster будет использоваться для обучения и внедрения ИИ-моделей, применимых в таких сферах, как интернет-торговля, клиентское обслуживание и управление облачной платформой AWS.
Также компания представила новые серверы Trn2 UltraServer, которые обеспечивают высокую производительность и экономическую эффективность при обучении и развертывании современных моделей ИИ. Эти серверы используют чипы Trainium2, способные достигать пиковой вычислительной мощности в 83,2 петафлопс. Для крупнейших моделей серверы поддерживают масштабирование и улучшение производительности, что особенно важно для генеративного ИИ с триллионами параметров.Изображение: press.aboutamazon.com
Совместно с Anthropic AWS строит крупнейший в мире кластер ИИ под названием Project Rainier, который будет использовать сотни тысяч чипов Trainium2. Производительность этого кластера в пять раз превысит текущие показатели ведущих моделей ИИ.
Amazon также анонсировала следующий шаг в развитии — чипы Trainium3, разработанные для еще более сложных задач ИИ. Они обещают повысить производительность в 4 раза по сравнению с Trainium2 и станут доступны в 2025 году.
Для удобства разработчиков AWS предложила инструменты Neuron SDK, которые облегчают интеграцию чипов Trainium с популярными фреймворками, такими как JAX и PyTorch. Это дает возможность оптимизировать обучение и развертывание моделей с минимальными изменениями кода.
По сведениям IT-World, еще в августе, в России планировали начать сборку экспериментального фотонного процессора, который должен изменить правила игры в сфере обработки данных. Новая технология способна работать в сотни раз быстрее современных цифровых нейросетей. Читайте также Меньше цифры, больше безопасности? Давайте проверим Круглый стол «Цифровая деградация», организованный в рамках форума «ИТ Диалог 2024» стал местом честного разговора о том, как выживать в мире, где взломы — это вопрос времени. Участники обсуждали, что важнее: безопасность или удобство, когда стоит заменять иностранные решения на российские, а когда лучше подождать, и кто в итоге отвечает, если что-то пошло не так. Были примеры из реальной жизни, споры о том, кто должен делить ответственность, и даже немного философии. Вопросов оказалось больше, чем ответов, но одно ясно точно: безопасникам приходится лавировать между сложными решениями и высокой ответственностью каждый день.
Источник: Amazon
Источник: www.it-world.ru