Компания AMD анонсировала запуск своей первой языковой модели ИИ — AMD-135M, в рамках расширения присутствия на рынке искусственного интеллекта. Новый продукт ориентирован на использование в частном бизнесе и принадлежит к семейству Llama.
Модель AMD-135M создана с применением уникальной технологии спекулятивного декодирования, которая позволяет быстрее генерировать текстовые данные за счёт параллельной работы двух моделей. Этот подход увеличивает производительность, но требует большего объёма данных для обработки, что отражается на энергопотреблении.
Модель представлена в двух версиях: AMD-Llama-135M и AMD-Llama-135M-code. Базовая модель обучалась на 670 млрд токенов и прошла шести-дневное обучение с использованием оборудования AMD Instinct MI250. Вторая версия, AMD-Llama-135M-code, ориентирована на задачи программирования и была дообучена на дополнительных 20 млрд токенов.
AMD продолжает совершенствовать свои решения, стремясь повысить эффективность и производительность своих языковых моделей в будущем.
Источник: vgtimes.ru
