За ошибку искусственного интеллекта отвечать будет не тот, кто его создал, а тот, кто им пользовался. И это уже не догадка, а прямое предупреждение крупнейшей аналитической фирмы, как сообщает The Register.
14 сентября на своём ежегодном симпозиуме компания Gartner, которая изучает рынок технологий и даёт прогнозы бизнесу, сделала жёсткое заявление. Её вице-президенты Дэрил Пламмер и Кристин Мойер сказали: ведущие ИИ-лаборатории пока не доросли до серьёзной работы с компаниями. Им, по словам аналитиков, рано доверять.
Симпозиум Gartner
Казалось бы, ИИ повсюду, все его внедряют. Но вот в чём подвох. Пламмер прямо сказал: разработчики ИИ не понимают корпоративных правил, не осознают вопросов ответственности и не знают, что такое стабильность бизнес-процессов. Модели меняют каждые полгода и бросают старые версии.
И когда ИИ что-то сломает, встанет вопрос: кто отвечает. Дэрил Пламмер заявил, что оправдание «это сделал ИИ» приведёт к серьёзным неприятностям, а отвечать за сбои систем ИИ будут именно IT-директора компаний. То есть риск перекладывают с того, кто продал технологию, на того, кто её купил и запустил у себя.
По сути, право давно исходит из того, что за инструмент отвечает его владелец. Похожую логику показал спор вокруг Air Canada: в 2024 году её чат-бот выдал клиенту неверную информацию о скидке, а суд в Канаде решил, что отвечает за это авиакомпания, а не «самостоятельный» бот. Отговорка про умную программу не сработала.
Gartner, по сути, просто назвал вещи своими именами раньше, чем это сделает первый громкий иск. Владельцу инструмента всегда прилетало за инструмент — новизна лишь в том, что инструмент теперь принимает решения быстрее, чем раньше. И что с этим делать — пока непонятно. Оказалось, «это сделал ИИ» — это не защита, а признание, за которое отвечать придётся человеку.
Источник: habr.com