Генеральный директор Microsoft Сатья Наделла считает, что разработчикам ИИ необходимо «пересмотреть подходы к безопасности» и обеспечить возможность быстро останавливать работу ИИ в случае проблем.
В соцсетях он заявил, что нельзя воспринимать сложные модели как «чёрные ящики», просто принимая или отвергая их ответы и решения. По его мнению, необходимо сделать работу ИИ более «прозрачной и управляемой».
Например, разделить саму модель и систему, которая организует её работу, а механизмы контроля и защиты вынести в отдельные инструменты. Кроме того, каждое важное действие ИИ должно сопровождаться защищёнными от изменений записями, чтобы человек смог прочитать и проверить их.
А также он предлагает дать возможность для уполномоченного сотрудника приостановить или полностью остановить модель прямо во время выполнения задачи.
«Мы должны исходить из того, что модель уже скомпрометирована, и с самого начала принимать меры по локализации угрозы … Представьте себе это как аварийный тормоз», — подчеркнул глава Microsoft.
Источник: www.ferra.ru