Microsoft выпустила свой первый отчет о прозрачности ответственного ИИ, в котором показаны ее успехи в продвижении «этичных и безопасных» методов ИИ. Отчет стал результатом соглашения с Белым домом.
Среди ключевых достижений, описанных в отчете, — разработка 30 инструментов ответственного ИИ, расширение команды ответственного ИИ и внедрение мер по оценке рисков для генеративных приложений ИИ. В частности, Microsoft внедрила Content Credentials в свои платформы для создания изображений, что позволяет помечать созданный ИИ контент водяными знаками.
Кроме того, Microsoft предоставила клиентам Azure AI инструменты для обнаружения и смягчения проблемного контента, такого как разжигание ненависти и членовредительство, а также расширила возможности оценки безопасности. Усилия также распространяются на инициативы red-teaming, включающие тестирование собственными силами и сторонними организациями для обеспечения безопасности моделей ИИ.
Несмотря на достигнутый прогресс, проблемы сохраняются, о чем свидетельствуют прошлые противоречия, связанные с ИИ, такие как распространение ошибочной информации и создание неадекватного контента.
Источник: www.ferra.ru
Похожие новости:
Оригинал письма от Microsoft по блокировке в РФ ПО для управления или проектирования (+ облачные решения) с 20 марта
Microsoft готовит выпуск Office 2024 без подписки
Илон Маск объявляет войну OpenAI: что это значит для будущего искусственного интеллекта?
ТОП-10 интересных фактов о Филе Спенсере — человеке, который придумал Game Pass