Компания Nvidia представляет три новых микросервиса NIM, которые являются частью более крупных приложений и помогают предприятиям повысить уровень контроля и безопасности своих агентов искусственного интеллекта.
Один из этих новых сервисов нацелен на защиту контента и не допускает создания вредоносных или предвзятых результатов со стороны вредоносных или предвзятых агентов искусственного интеллекта. Другой сервис помогает поддерживать беседу только на разрешённые темы, а третий — предотвращает попытки AI-агентов обойти ограничения программного обеспечения.
Эти три новых микросервиса NIM являются частью Nvidia NeMo Guardrails, существующей коллекции программных инструментов и микросервисов Nvidia с открытым исходным кодом, которая помогает компаниям улучшать свои приложения на основе AI.
«Применяя несколько облегчённых специализированных моделей в качестве защитных механизмов, разработчики могут устранять пробелы, которые могут возникать при использовании только общих глобальных политик и средств защиты, поскольку универсальный подход не обеспечивает надлежащую безопасность и контроль сложных рабочих процессов с использованием AI», — говорится в пресс-релизе.
Похоже, что компании, занимающиеся искусственным интеллектом, начинают понимать, что внедрить технологию AI-агентов на предприятиях будет не так просто, как они изначально думали.
Хотя такие люди, как генеральный директор Salesforce Марк Бениофф, недавно предсказали, что в ближайшие 12 месяцев только на Salesforce будет работать более миллиарда агентов, но реальность, вероятно, будет немного отличаться.
Недавнее исследование, проведённое компанией Deloitte, предсказало, что около 25% предприятий либо уже используют AI-агентов, либо планируют начать их использовать в 2025 году.
В отчете также предполагается, что к 2027 году примерно половина компаний будет применять интеллектуальных агентов. Это свидетельствует о том, что, хотя компании явно заинтересованы в использовании AI-агентов, они не спешат внедрять технологии искусственного интеллекта так быстро, как происходят инновации в этой области.
Nvidia, вероятно, рассчитывает, что такие меры позволят сделать внедрение агентов на основе искусственного интеллекта более надёжным и менее рискованным. Однако только время покажет, насколько это предположение соответствует действительности.
Источник
Источник: habr.com
Похожие новости:
NVIDIA объявила о доступности NIM для разработчиков ИИ
ASUS объявляет о стратегии внедрения искусственного интеллекта, ноутбуки Copilot+ и решения для создателей контента на выставке Computex 2024
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
Технологии в агрокомплексе: мастера, подмастерье и искусственный интеллект