Неожиданный субботний релиз новых моделей искусственного интеллекта вместо восторгов вызвал волну критики в профессиональном сообществе.
Meta* (признана в России экстремистской организацией и запрещена на территории РФ) представила две новые модели искусственного интеллекта, Llama 4 Scout и Llama 4 Maverick, в минувшие выходные. Компания заявила о прорывных возможностях своих разработок, но первые тесты и отзывы экспертов говорят об обратном, сообщает Ars Technica.
Главное обещание, контекстное окно в 10 миллионов токенов для модели Scout, оказалось практически недостижимым. Контекстное окно определяет объем информации, который ИИ может обработать за один раз. Чем оно больше, тем с более длинными текстами и сложными задачами справится система.
На практике сторонние сервисы, предоставляющие доступ к Llama 4, вынуждены существенно ограничивать этот параметр. Groq и Fireworks позволяют использовать лишь 128 тысяч токенов, а Together AI — 328 тысяч. Это значительно меньше заявленных 10 миллионов. «Чтобы запустить модель с контекстом всего в 1,4 миллиона токенов, нужно восемь высокопроизводительных GPU Nvidia H100», — отмечает независимый исследователь ИИ Саймон Уиллисон. Такие требования к оборудованию делают использование полного потенциала модели недоступным для большинства пользователей.
Источник: hi-tech.mail.ru