Microsoft работает над новой большой языковой моделью (LLM), которая сможет составить конкуренцию ChatGPT. LLM под названием MAI-1 разрабатывается с 500 млрд параметров. Для сравнения, GPT-4 от OpenAI может похвастаться 1,76 трлн параметров.
По данным The Information, разработку MAI-1 возглавляет новый руководитель Microsoft по искусственному интеллекту Мустафа Сулейман, соучредитель Google DeepMind и экс-глава собственного стартапа Inflection. Он перешёл в Microsoft в марте. Сообщается, что данные, которые использовались для обучения моделей Inflection, Microsoft может использовать для обучения MAI-1. Также в датасет для обучения MAI-1 войдут тексты из ChatGPT и внешних открытых источников.
Microsoft пока не раскрывает, для каких задач будет использовать LLM MAI-1. The Information предполагает, что Microsoft расскажет больше о проекте на своей ежегодной конференции разработчиков Build, которая пройдёт в Сиэтле 21 мая.
Издание также отмечает, что Microsoft, по всей видимости, хочет меньше зависеть от OpenAI в создании сервисов искусственного интеллекта. Ранее компания уже выпустила несколько небольших моделей. например, на прошлой неделе состоялся релиз LLM с открытым исходным кодом Phi-3 с 3,8 млрд параметров.
Источник: habr.com
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
OpenAI предложила до $5 млн в год за лицензии от CNN, Time и Fox на использование их материалов для обучения ChatGPT
Учёные ORNL сумели обучить LLM с 1 трлн параметров, задействовав всего 3072 ускорителя AMD Instinct MI250X
Исследователь обнаружил в коде OpenAI наработки по возможной замене Google Assistant на ChatGPT на Android-смартфонах