Команда разработчиков под названием JanAI выпустила обновление клиента Jan Desktop, позволяющего локально запускать большие языковые модели. Приложения доступны для macOS, Windows и Linux, а в будущем планируется релиз мобильной версии.
Разработчики проекта отмечают, что Jan можно считать полноценной альтернативой ChatGPT. С помощью приложения можно локально запускать большие языковые модели с открытым исходным кодом. В приложение встроен магазин моделей, в котором можно выбрать необходимые и установить их. При необходимости модели можно добавить вручную или подключиться к удалённому серверу, на котором запущена нейросеть.
Приложение сохраняет истории чатов и позволяет управлять ими. К примеру, каждому чату можно задать название или объединить несколько чатов в одну папку. Модели можно использовать в сторонних приложениях. Разработчики описывают процесс подключения Jan к редактору кода Visual Studio Code.
Код приложения Jan Desktop также открыт, поэтому сторонние разработчики могут вносить в него правки или участвовать в развитии проекта. К примеру, на базе Jan можно спроектировать корпоративное приложение для работы с большими языковыми моделями, изменив базовый интерфейс под дизайн-код компании.
Код проекта опубликовали на GitHub в октябре 2023 года и регулярно обновляют его. В середине января состоялся релиз версии 0.4.4, в которой исправили множество известных ошибок. Приложение написано на TypeScript с помощью фреймворка Electron и доступно для Windows, macOS и Linux.
Источник: habr.com