Бывший генеральный директор Google Эрик Шмидт и основатель Scale AI Александр Ванг высказались по поводу гонки в развитии ИИ, включая использование этих технологий в военной сфере.
Шмидт и Ванг предостерегли власти США от создания Манхэттенского проекта (AGI) по разработке ИИ, так как это может выйти из-под контроля по всему миру и стать геополитической угрозой эпохального масштаба. Эксперты считают, что подобные действия США могут вызвать ответ со стороны других стран. В связи с этим они предлагают сосредоточиться на разработке различных методов, например, специальных кибератак, чтобы противодействовать угрозам ИИ, а при необходимости «ломать» опасные для общества ИИ-проекты.
Они высоко оценили потенциал ИИ для развития общества, но опасаются, что страны, по мере втягивания в гонку по созданию опасного вооружения на основе ИИ, могут пройти «точку невозврата». Поэтому Шмидт и Ванг призвали государства не спешить с разработкой ИИ и не участвовать в гонке «по созданию смертоносных машин, обладающих ИИ».
Они предложили общую для всех концепцию «Соглашения о взаимной гарантии сбоев в работе ИИ» (MAIM). По словам авторов документа, подобно тому, как международные соглашения сдерживают развитие ядерного оружия, государствам следует также контролировать пусковые механизмы в опасном развитии ИИ.
Источник: www.ferra.ru
