Ученые из Массачусетского технологического института (MIT) и других учреждений разработали новый инструмент — Data Provenance Explorer, который улучшает прозрачность данных для искусственного интеллекта (ИИ). Этот инструмент автоматически генерирует легко читаемые сводки о создателях наборов данных, их источниках, лицензиях и допустимых способах использования.
Аудит более 1800 текстовых наборов данных, проведенный командой, показал, что более 70% из них не имели информации о лицензиях, а около 50% содержали ошибки. Это создает правовые и этические риски, а также может негативно повлиять на качество ИИ-моделей, если данные используются не по назначению.
Data Provenance Explorer предназначен для упрощения выбора данных, соответствующих целям модели. Это поможет избежать использования некорректных или предвзятых данных и улучшит точность ИИ в реальных приложениях, таких как оценка кредитных заявок или ответ на запросы клиентов. В будущем планируется расширение анализа для мульти-модальных данных, включая видео и речь.
Источник: www.ferra.ru
Похожие новости:
ИИ показал, как Джилл Валентайн, Лара Крофт, Цири, 2B, Тифа и другие девушки из игр могли бы выглядеть в настоящей жизни
ИИ показал, как бы выглядели Цири, Джилл Валентайн, Лара Крофт, Цири, 2B, A2, Тифа и другие девушки из игр в настоящей жизни
ИИ показал киберпанк-версии Саб-Зиро, Скорпиона, Рейдена, Китаны и Рептилии из Mortal Kombat
ИИ показал киберпанк-версии персонажей Mortal Kombat