Модель Gemma 3 мультимодальная, то есть может обрабатывать текст и изображения, и имеет окно контекста размером 128 тысяч токенов с поддержкой более 140 языков.
В Ollama она доступна в четырех вариантах с 1, 4, 12 и 27 миллиардами параметров и превосходно справляется с такими задачами, как ответы на вопросы, резюмирование и логическое мышление, в то время как их компактный дизайн позволяет развертывание на устройствах с ограниченными ресурсами.
Чтобы использовать эту модель даже в конфигурации с 27 миллиардов параметров, вам нужна всего одна видеокарта с 24 гигабайтами видеопамяти. Это позволяет достичь производительности, сравнимой с моделями с сотнями миллиардов параметров.
P.S. Для работы Gemma 3 требуются Ollama версии 0.6 или более поздней, поэтому не забудьте обновить вашу систему или сервер.
Источник: habr.com
Похожие новости:
Google выпускает новое семейство открытых моделей Gemma 3
Гиперперсонализация: как сделать предложение пользователю релевантным
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»