Суд постановил, что OpenAI должна «бессрочно» хранить все журналы ChatGPT, включая удалённые чаты миллионов пользователей. Постановление было направлено на сохранение потенциальных доказательств в иске о нарушении авторских прав, поданном новостными организациями.
Это решение пытались оспорить два пользователя чат-бота, но судья Она Ван отклонила их запрос.
Так, пользователь по имени Эйдан Хант заявлял, что он использует ChatGPT «время от времени», отправляя чат-боту «крайне конфиденциальную личную и коммерческую информацию». Он утверждал, что постановление о хранении данных создало «общенациональную программу массового наблюдения», которая затронула и потенциально навредила «всем пользователям ChatGPT», которые не получили предупреждения о том, что их удалённые и анонимные чаты всё же будут хранить. Хант предупредил, что постановление с хранением выходных данных ИИ несёт те же риски, что и включение входных данных пользователя, поскольку сгенерированная информация «по сути раскрывают и часто явно пересказывают вопросы или темы ввода». Он призвал судью пересмотреть приказ, добавив в него исключения для любых чатов, «обсуждающих медицинские, финансовые, юридические и личные темы, которые содержат глубоко личную информацию пользователей и не имеют никакого отношения» к интересам новостных организаций-истцов.
По словам Ханта, он узнал о том, что ChatGPT сохраняет информацию — несмотря на политику компании, — только наткнувшись на новости на онлайн-форуме. Пользователь предположил, что данные чатов могут раскрывать истцам из новостных агентств, если те найдут доказательства того, что удалённые чаты могли включать попытки пользователей создавать новостные статьи.
Однако судья ответила, что на данный момент риска нет, поскольку данные чатов никому не раскрывали. Однако Хант и другие юзеры беспокоятся, что сам факт хранения данных может нанести серьёзный и непоправимый вред. Хант, в частности, обеспокоен тем, что OpenAI может не отдать приоритет защите конфиденциальности пользователей, если победят другие соображения, такие как «финансовые издержки дела, желание быстрого разрешения и избежание ущерба репутации».
Опасения Ханта не беспочвенны, отмечает юридический директор группы по цифровым правам Electronic Frontier Foundation Коринн Макшерри: «Приказ о раскрытии информации сам по себе представляет реальный риск для конфиденциальности пользователей и является прецедентом при рассмотрении многих других судебных исков по всей стране. И это символизирует более широкую проблему: чат-боты на основе искусственного интеллекта открывают ещё один вектор для корпоративного наблюдения, особенно если у пользователей нет значимого контроля над тем, что происходит с историями чатов и записями».
Макшерри предупредила, что «это лишь вопрос времени, когда правоохранительные органы и частные истцы начнут обращаться к OpenAI, чтобы попытаться получить истории чатов/записи о пользователях для самых разных целей, так же, как они уже делают для историй поиска, сообщений в социальных сетях и т. д.».
У OpenAI будет шанс оспорить приказ 26 июня, когда Ван выслушает устные доводы создателя ChatGPT.
Макшерри считает, что законодательство нужно уточнять, поскольку суды допускают путаницу в делах, затрагивающих пользователей чат-ботов: «Все чат-приложения с искусственным интеллектом должны предпринимать шаги не только для того, чтобы пользователи могли удалять свои записи и быть уверенными, что они действительно стёрты, но и для того, чтобы они своевременно получали уведомления о требованиях к раскрытию информации».
В 2023 году газета The New York Times подала в суд на OpenAI и Microsoft, обвинив компании в нарушении авторских прав при обучении ИИ на её контенте. В феврале 2024 года отдельный иск к компаниям с аналогичными обвинениями предъявили Intercept, Raw Story и AlterNet.
В ответ OpenAI назвала иск необоснованным. Тогда же сообщалось, что компания ведёт переговоры с CNN, Fox и Time об использовании материалов изданий для обучения чат-бота ChatGPT. При этом OpenAI уже заключила лицензионные соглашения с Associated Press, Axel Springer, Financial Times, People Dotdash Meredith и News Corp.
Позднее юристы The New York Times и Daily News заявили, что инженеры OpenAI случайно удалили данные, потенциально имеющие отношение к делу.
Источник: habr.com