За несколько лет системы ИИ получили широкое распространение, и многие люди используют их как доверенных помощников, делясь чувствительной информацией о здоровье, личных делах или профессиональных вопросах в предположении, что эти взаимодействия остаются приватными. Однако специалисты Института IMDEA Networks предупреждают: такое восприятие может быть обманчивым. Хотя интерфейс ИИ может напоминать обычную соцсеть, в которой мы привыкли говорить о чем угодно, под ним скрывается техническая инфраструктура, аналогичная традиционной веб-экосистеме, то есть основанная на сборе и обработке данных через аналитические и рекламные сервисы.
Авторы исследования выявили в работе ИИ три основные проблемы: передачу постоянных ссылок на разговоры сторонним трекерам, возможность связать эти взаимодействия с реальными пользователями через механизмы отслеживания, а также наличие политик конфиденциальности, которые могут неточно отражать фактические потоки данных.
Одна из главных находок — потенциальная передача информации о беседах пользователей, включая заголовки чатов, URL-адреса или связанные метаданные, сторонним трекерам, например, Meta* или Google вместе с cookies и другими идентификаторами. «Особенно тревожит то, что в некоторых случаях слабый или отсутствующий контроль доступа означает, что простое наличие ссылки на разговор может предоставить доступ к его содержимому, делая чаты публично доступными для всех, включая трекеры, у которых есть URL», — подчеркивает научный сотрудник Института IMDEA Networks Нарсео Вальина Родригес.
«Grok и Perplexity отправляют URL разговоров со слабым контролем доступа сторонним трекерам, в том числе, Meta* Pixel. Grok даже раскрывает дословный текст сообщений через метаданные Open Graph, которые собирает TikTok», — добавляет соавтор исследования Гильермо Суарес-Тангиль.
Ученые также выявили механизмы, позволяющие связать активность в ИИ-системах с реальными личностями пользователей. Комбинация идентификаторов — cookies, хешированные адреса электронной почты и методы серверного отслеживания — может способствовать созданию постоянных профилей и повторной идентификации пользователей.
С юридической точки зрения проблема носит двоякий характер: с одной стороны, имеет место отсутствие четкой правовой основы для такого обмена данными, с другой — недостаточная информированность пользователей. «Политики конфиденциальности признают использование рекламных трекеров и обмен данными с «бизнес-партнерами», но никогда четко не указывают, что частью информации, которая передается, являются фактические разговоры пользователей», — отмечает Суарес-Тангиль. Авторы работы подчеркивают необходимость усиления прозрачности и защиты данных в системах генеративного ИИ.
Ранее стало известно, что россияне жалеют, что доверили свою личную жизнь ИИ.
*Деятельность компании Meta и ее продуктов признана в России экстремистской и запрещена.
Источник: hi-tech.mail.ru