Opera начала внедрение в свои браузеры поддержку WebAI для локальной работы с моделями искусственного интеллекта на ПК. Первые возможности уже доступны в Opera One, а в дальнейшем они появятся в Opera GX и Opera Neon.
Локальный ИИ позволяет любому создавать приложения на основе бесплатных открытых языковых моделей. У разработчиков есть возможность добавлять функции ИИ, не запуская нейросетевую инфраструктуру и не оплачивая каждый запрос.
Пользователям не нужны подписки на ИИ. Обрабатываемая локальным ИИ информация остаётся на устройстве, что позволяет сохранять контроль над нейросетью на ПК. Расширение может сортировать вкладки, отмечать кликбейт или находить релевантные объявления о вакансиях, используя модель на ПК без учётной записи, платы и отправки данных в ИИ‑сервис.
Весной 2024 года Opera стал первым крупным браузером, предложившим доступ к локальным ИИ‑моделям в экспериментальной сборке для разработчиков. Теперь компания переносит эту возможность в обычные браузеры.
WebAI — это веб‑стандарт, поддерживаемый такими компаниями, как Google и Microsoft, который позволяет сайтам и расширениям использовать ИИ, размещённый в браузере. Реализация стандарта в Opera не привязана к конкретным моделям и основана на открытых моделях, предоставляя пользователям выбор среди поставщиков ИИ. На момент запуска доступны модели от Google и Apple.
С помощью WebAI любой может генерировать текст, классифицировать контент и понимать взаимосвязь между отдельными фрагментами информации. Всё это доступно в браузере.
Opera уточняет, что WebAI — это добровольная функция. Браузер не будет ничего загружать, пока пользователь не включит функцию, а разрешения для конкретных сайтов позволяют пользователям выбирать, какие сайты могут получить доступ к локальному ИИ.
Последний анонс начинает более масштабную стратегию, отмечают в компании. Opera планирует внедрить больше открытых моделей, оптимизированных для различных устройств, а также расширить число инструментов, упрощающих создание браузерных приложений на основе локального ИИ.
WebAI доступен в качестве предварительной версии для 64-битных ПК под управлением Windows (с процессорами Intel и AMD) и компьютеров Mac с чипами Apple Silicon. Поскольку ИИ работает на устройстве пользователя, производительность зависит от аппаратного обеспечения.
Источник: habr.com