Глава Microsoft Сатья Наделла предложил внедрять в системы искусственного интеллекта (ИИ) механизмы сдерживания и независимого контроля. По его мнению, у уполномоченных специалистов должна быть возможность приостанавливать работу модели или полностью отключать ее прямо во время выполнения задачи.
Наделла также обозначил принципы безопасной разработки ИИ: возможность отслеживать действия системы, постоянное тестирование, проверяемость решений, независимый аудит, ограничение работы и раскрытие информации об инцидентах. Он считает, что модели с открытыми и закрытыми весами следует рассматривать как потенциальный внутренний риск.
Заявление прозвучало на фоне дискуссий о безопасности быстро развивающихся технологий. Некоторые руководители технологических компаний и исследователи предупреждают о недостаточности существующих мер защиты. При этом президент США Дональд Трамп ранее делал акцент на необходимости сохранять лидерство в сфере ИИ в конкуренции с Китаем.
Источник: www.ferra.ru