Nous Research, нью-йоркский коллектив, известный своими «персонализированными, неограниченными» языковыми моделями, запустил новый API для вывода данных, что делает их модели более доступными для разработчиков и исследователей через программный интерфейс.
Запуск API представляет собой значительное расширение возможностей Nous Research, которые привлекли внимание за счет того, что они бросают вызов более ограниченным подходам таких крупных компаний, как OpenAI и Anthropic.
«Мы услышали ваши отзывы и создали простую систему, чтобы сделать наши языковые модели более доступными для разработчиков и исследователей по всему миру», — объявила компания в социальных сетях.
Первая версия API включает две флагманские модели компании: Hermes 3 Llama 70B, мощную универсальную модель, основанную на архитектуре Meta Llama 3.1, и DeepHermes-3 8B Preview, недавно выпущенную модель для рассуждений, которая позволяет пользователям переключаться между стандартными ответами и подробными цепочками рассуждений (CoT).
Чтобы управлять спросом, Nous внедрила систему списка ожидания через новый портал, предоставляя доступ в порядке очереди. Компания предоставляет всем новым пользователям $5 бесплатных кредитов. Разработчики могут получить доступ к документации API для изучения вариантов интеграции.
Подход со списком ожидания дает важное представление о стратегическом позиционировании Nous Research. В отличие от крупных игроков с огромными запасами GPU, Nous сталкивается с инфраструктурными ограничениями, характерными для небольших организаций в сфере AI. Список ожидания служит как технической необходимостью, так и маркетинговой тактикой, создавая эксклюзивность, которая порождает ажиотаж, управляя при этом вычислительной нагрузкой.
Что делает этот подход особенно примечательным, так это его отражение «корневой» этики Nous. Хотя компания позиционирует себя как альтернативу большим технологическим компаниям, она также использует прагматичные бизнес-стратегии, признавая реалии масштабирования сервисов вывода данных. Это напряжение между идеализмом и практичностью, вероятно, будет определять путь Nous, по мере того как компания переходит от чисто open-source решений к коммерческим предложениям.
API повторяет шаблон дизайна OpenAI для завершений и завершений чатов, что делает его потенциально более простым для разработчиков, уже знакомых с этим интерфейсом, для интеграции моделей Nous в свои приложения.
Запуск API происходит всего через четыре месяца после того, как Nous представила Nous Chat, первый пользовательский интерфейс чат-бота компании. Хотя компания выпустила множество моделей с открытым исходным кодом для локального развертывания, новый API позволяет разработчикам получить доступ к высокопроизводительным версиям этих моделей без необходимости управления собственной инфраструктурой.
«Ранее, если исследователи и пользователи хотели развернуть эти модели, им нужно было загружать и запускать код на своих машинах — это трудоемкое, капризное и потенциально дорогое занятие», — написал исполнительный редактор VentureBeat Карл Францен в своем обзоре запуска Nous Chat.
DeepHermes-3, выпущенная всего месяц назад, представляет собой вход компании в растущую конкурентную сферу моделей AI, ориентированных на рассуждения. Модель позволяет пользователям переключаться между краткими ответами и подробными процессами рассуждений через системный запрос, который активирует её «мыслительные» способности.
С момента своего основания в 2023 году Nous Research позиционирует себя как альтернативу более жестко контролируемым AI-системам. Компания подчеркивает индивидуальную агентность и соответствие потребностям пользователя, что отражено в блоге с такими заголовками, как «Свобода на границе» и «От черного ящика к стеклянному дому: Императив прозрачной разработки AI».
«Сверхразум должен решать задачу максимальной личной свободы и свободы духа. Его разработка не может быть оставлена исключительно в руках нескольких корпораций и олигархов», — написала компания в недавнем блоге, анонсируя проект Psyche на платформе Solana.
Эта философская позиция нашла отклик у разработчиков, стремящихся к более гибким AI-системам, хотя такой подход также вызвал вопросы о ответственном развертывании. Несмотря на то что компания рекламирует свои модели как «неограниченные», в них всё же присутствуют определенные ограничения, предотвращающие вредоносные выходные данные.
Запуск API сигнализирует о переходе Nous Research к более устойчивой бизнес-модели, сохраняя приверженность принципам open source. Согласно хронологии выпусков компании, Nous выпустила 29 AI-артефактов с июля 2023 года, включая модели, статьи, код и наборы данных.
API представляет собой деликатную, но важную эволюцию бизнес-модели Nous Research. Коммерциализируя развертывание, продолжая при этом выпуск весов моделей, Nous пытается решить сложную задачу: генерировать доход, не отчуждая сообщество с открытым исходным кодом, которое составляет её основу.
Этот гибридный подход, по-видимому, предназначен для захвата различных сегментов рынка. Индивидуальные разработчики и исследователи по-прежнему могут загружать и запускать модели локально, в то время как предприятия, стремящиеся к надежности, удобству и оптимизации производительности, могут платить за доступ к API. По сути, Nous монетизирует инфраструктурный и оптимизационный слой, а не сами модели, — стратегия, которая решает фундаментальную экономическую проблему open source AI без компромиссов в отношении её основных принципов.
Успех этого подхода может определить, смогут ли независимые AI-лаборатории создать устойчивые бизнес-модели, сохраняющие их независимость от крупных технологических компаний или венчурных капиталистов, которые могут требовать более агрессивной коммерциализации. Для разработчиков, обеспокоенных централизацией AI, эксперимент Nous представляет собой потенциальную середину, которая может сохранить разнообразие в экосистеме AI.
Nous Research указывает, что её предложения по выводу данных будут со временем расширяться, возможно, включив в себя больше моделей, таких как Hermes 2 Pro, которая специализируется на вызове функций, или проект Psyche.
Для растущей экосистемы стартапов AI, строящихся на открытых моделях, новый API предлагает еще одну опцию, помимо таких признанных игроков, как Together AI, Anthropic и OpenAI, что потенциально увеличивает конкуренцию и стимулирует дальнейшие инновации в сфере вывода данных AI.
«Мы приветствуем ваши идеи для формирования будущего», — отметила компания в своём анонсе, ещё раз подчеркивая своё ориентированное на сообщество отношение к разработке AI.
Источник
Источник: habr.com
