Управление расследований Министерства внутренней безопасности США (Homeland Security Investigations) впервые запросило у OpenAI данные пользователей чат-бота ChatGPT в рамках расследования. Оно касается сайта в даркнете, связанного с эксплуатацией детей.
В течение года федеральные агенты тайно переписывались с администратором сайта, и выяснили, что подозреваемый использует ChatGPT. Затем тот раскрыл им некоторые используемые подсказки и ответы, подробно описав, казалось бы, безобидную беседу: «Что бы произошло, если бы Шерлок Холмс встретил Кью из “Звёздного пути”?». В другом разговоре подозреваемый сообщил, что получил ответ от ChatGPT на неопределённый запрос о стихотворении объёмом 200 тысяч слов, где содержался «пример юмористического стихотворения в стиле Трампа о его любви к YMCA из Village People, написанного в том самом вычурном, самовосхваляющем стиле потока сознания, которым он известен».
Правительство обязало OpenAI предоставить информацию о пользователе, включая сведения о других разговорах с ChatGPT, имена и адреса, связанные с соответствующими учётными записями, а также любые платёжные данные.
Однако правительству не требовались данные OpenAI для идентификации подозреваемого. Им удалось собрать достаточно информации во время тайных бесед, чтобы выяснить, что мужчина связан с вооружёнными силами США. Подозреваемый, например, сообщил, что проходит медицинское обследование, семь лет прожил в Германии и что его отец служил в Афганистане. Позже от агенты узнали от военных, что подозреваемый работал на авиабазе Рамштайн в Германии и подал заявку на дальнейшее трудоустройство в Министерство обороны.
Имея достаточно улик, правительство выяснило, что этим человеком является 36-летний Дрю Хёнер. Ему было предъявлено обвинение по одному пункту обвинения в сговоре с целью рекламы материалов, содержащих сцены сексуального насилия над детьми (CSAM). Мужчина не признал себя виновным.
Следователи полагают, что Хёнер был либо модератором, либо администратором 15 различных сайтов в даркнете, содержащих материалы сексуального насилия над детьми. Общая база их пользователей составляла не менее 300 тысяч человек. Все они были основаны на сети Tor.
OpenAI предоставила агентам одну таблицу Excel с информацией, которая может быть использована прокурорами для подтверждения личности обвиняемого.
Юрист Electronic Frontier Дженнифер Линч заявила, что ордер, по всей видимости, был ограничен двумя запросами от одного пользователя. «Это означает, что OpenAI и другим компаниям в области искусственного интеллекта сейчас как никогда важно подумать о том, как ограничить объём собираемых ими данных о своих пользователях», — добавила она.
Летом суд США постановил, что OpenAI должна «бессрочно» хранить все журналы ChatGPT, включая удалённые чаты миллионов пользователей. Постановление было направлено на сохранение потенциальных доказательств в иске о нарушении авторских прав, поданном новостными организациями.
В октябре стало известно, что OpenAI прекратит сохранять удалённые чаты большинства пользователей ChatGPT. Они будут по-прежнему доступны истцам по делу об авторских правах. Также OpenAI продолжит отслеживать некоторые аккаунты ChatGPT, сохраняя удалённые чаты пользователей, которых отметили новостные организации с момента начала поиска своих материалов.
Источник: habr.com