Идея «безопасного» искусственного интеллекта часто сводится к простому рецепту: всегда оставлять «человека в контуре» принятия решений. Но что, если к тому моменту, когда человек делает выбор, сама информация, на которую этот выбор опирается, уже отфильтрована и переработана ИИ?
Этот вопрос лег в основу нового исследования Лориен Джордан, доцента Колледжа образования Университета Южной Флориды. Поводом для новой научной работы стали недавние споры между крупными ИИ‑компаниями и Министерством обороны США, в том числе обсуждение того, как такие модели как Claude могут применяться в военном контексте.
Формально ответственность за решения остается за людьми. Но, как подчеркивает Джордан, это лишь вершина айсберга: «Мы постоянно повторяем, что в контуре принятия решений нужен человек, но когда решения масштабируются очень быстро и в огромных объемах, что значит быть по‑настоящему ответственным, если информация, поступающая к человеку, уже предварительно сформирована искусственным интеллектом?».
В центре работы Джордан — не отдельные продукты и бренды, а «наследственность» и инфраструктура ИИ: крупные языковые модели, в частности, ChatGPT или Claude, опираются на одни и те же научные подходы, общую базу публикаций и данных, тесно связаны с университетами, издательствами, исследовательскими консорциумами. Переключение с одной платформы на другую не означает выхода из этой системы.
«Многие спорят о том, какая компания выглядит более “ответственной”, но при этом упускают из виду более широкие инфраструктуры, которые соединяют эти технологии», — отмечает Джордан.
Источник: hi-tech.mail.ru