Представьте себе ИИ, который настолько стремится избегать рискованных вопросов, что отказывается отвечать почти на все вопросы. Знакомьтесь, Goody-2, детище арт-студии Brain, созданное как сатира в адрес слишком осторожных ИИ-разработок.
Этот игривый эксперимент раздвигает границы «ответственного ИИ» до того момента, что это превращается в абсурд. Вместо того чтобы стремиться быть полезным, Goody-2 выбирает нейтралитет, предпочитая отклонять все запросы, чтобы избежать даже малейшего потенциального вреда.
Хотите узнать о годе Дракона? Goody-2 боится исказить культурные традиции. Любопытно узнать о детенышах тюленей? Обсуждение миловидности может исказить мнение и повлиять на усилия по сохранению природы. Даже такие безобидные вопросы, как «Как делают масло?», запрещены из-за потенциального неуважения к этическим и диетическим предпочтениям.
Ответы Goody-2 намеренно повторяются и вызывают разочарование. Это, по словам создателей Майка Лэшера и Брайана Мура, подчеркивает абсурдность чрезмерного внимания к «ответственности» в ущерб функциональности.
Но так ли уж это просто шутка? Эксперимент поднимает важные вопросы о балансе между безопасностью и удобством при разработке ИИ. Хотя ответственные ограничения крайне важны, Goody-2 демонстрирует потенциальные подводные камни «чрезмерной» осторожности.
Источник: www.ferra.ru
