Учёные из Корнеллского и Карнеги-Меллонского университетов опубликовали исследование, в котором утверждают, что недостаточно жёсткие правила для ИИ могут принести больше вреда, чем пользы.
Исследователи построили теоретическую модель, используя экономику и теорию игр. Они выяснили, мол, если государство будет проверять только те компании, которые применяют ИИ в «готовых продуктах», но не трогать разработчиков самих моделей (таких как OpenAI), то разработчики начнут экономить на безопасности. Они «будут надеяться, что все риски исправят те, кто внедряет их технологии на практике».
Модель показывает, что выигрывают все, если требования к безопасности предъявляются ко всем участникам цепочки. И к создателям моделей, и к тем, кто их внедряет.
Источник: www.ferra.ru