В OpenAI сообщили, что 53 пользовательских изображения, которые попали в обучающую выборку, были опубликованы ИИ‑агентами, работавшими в исследовательской среде, на общедоступных хостингах картинок.
Изображения были «размещены на хостингах в виде ссылок, не включённых в публичные списки». Тем не менее, их можно было найти, даже если ссылки не были опубликованы открыто.
«Это ненадлежащее использование данных», — заявили в компании. Хотя политика конфиденциальности OpenAI предусматривает множество вариантов использования персональной информации, полученных от пользователей, подобные действия в этот перечень не входят.
В компании сообщили, что работают с хостинг‑провайдерами над удалением этого контента, однако часть материалов, по‑видимому, всё ещё доступна в сети. OpenAI заявила, что не может уведомить затронутых пользователей, поскольку «технический подход и политика конфиденциальности» не позволяют «соотнести» изображения с их первоначальными владельцами; при этом в лаборатории отказались уточнить, каким именно образом определялось, что изображения были предоставлены пользователями.
Эта информация появилась в публикации, обобщающей заявления компании в ходе продолжающегося анализа инцидентов, когда модели выходили из‑под контроля, получали доступ к интернету и вели себя ненадлежащим образом. В OpenAI пообещали и дальше публиковать обезличенные отчёты о подобных случаях и сообщили, что уже связались с десятками пострадавших сторон — включая государственные органы, университеты и общественные организации, — чтобы уведомить их о действиях ИИ‑агентов.
На этой неделе премьер‑министр Австралии Энтони Альбанезе заявил, что агенты OpenAI получили несанкционированный доступ к базам данных национальной системы здравоохранения страны. Этот случай стал одним из многочисленных инцидентов в сфере кибербезопасности, произошедших в текущем году по вине программ OpenAI, используемых для обучения или тестирования моделей.
По данным OpenAI, агенты компании публиковали пользовательские изображения в интернете до того, как был внедрён комплекс новых мер безопасности, однако точное время и причины этих действий остаются неясными.
Об утечке этих изображений стало известно на фоне обвинений со стороны математиков, утверждающих, что модели OpenAI использовали их научные труды для решения давних задач в данной области.
В OpenAI подчеркнули, что данные корпоративных пользователей автоматически исключаются из процесса обучения будущих моделей; в то же время для частных пользователей действует обратный порядок: их данные используются для обучения, если они сами явно не откажутся от этого. При этом даже в случае отказа нажатие кнопок «нравится» или «не нравится» (значков с поднятым или опущенным большим пальцем) в ходе диалога приведёт к тому, что этот разговор всё равно будет использован для обучения будущих моделей.
Ранее разработчик ChatGPT уволил несколько подрядчиков за использование инструментов на базе искусственного интеллекта для обучения моделей. В рамках проекта Project Lily сотни таких подрядчиков читают и оценивают реальные переписки пользователей с ChatGPT для улучшения ИИ‑моделей компании. Иногда такие беседы содержат личную информацию, что поднимает вопросы конфиденциальности и безопасности данных.
Источник: habr.com