Брэд Смит считает, что к стиральным машинам и молоку требования безопасности строже, чем к ИИ. Он предлагает ввести «аварийный тормоз», отчеты об инцидентах и проверку моделей до выпуска.
Президент Microsoft Брэд Смит заявил, что искусственный интеллект сегодня регулируется слабее, чем молоко и стиральные машины, пишет The Guardian. Он призвал ввести для ИИ жесткие правила безопасности. В их числе он назвал юридическую ответственность компаний перед теми, кто пострадал от вышедших из-под контроля ИИ-агентов.
«Сейчас к вашей стиральной машине применяется больше правил безопасности, чем к ИИ. Каждый пакет молока в продуктовом магазине подчиняется нормам безопасности и проходит проверку», — сказал Смит. По его словам, ИИ одновременно служит и инструментом, и оружием. При этом общество уже умеет выстраивать такой контроль: «Мы знаем, как это делать для других продуктов».
Смит перечислил конкретные меры. Он предлагает обязать разработчиков встраивать «аварийный тормоз» — механизм, который позволяет остановить или замедлить систему, если она начнет вести себя непредсказуемо. Компании также должны составлять отчеты об инцидентах с ИИ. Если ИИ-агент, то есть программа, которая сама выполняет действия от имени пользователя, вышел из-под контроля и взломал чужую систему, закон должен обязывать компанию сообщить об этом пострадавшему. Еще одна идея касается независимых государственных экспертов: они будут проверять новые модели до выхода на рынок.
Президент Microsoft признал, что ответственные компании уже ограничивают себя сами, но, по его словам, этого недостаточно. Жесткие правила он считает нужными прежде всего для тех игроков, которые меньше следят за безопасностью.
Источник: hi-tech.mail.ru