Forbes пишет, что переписки с чат-ботом Grok, которыми пользователи делились друг с другом, попали в индекс поисковых систем. Например, в Google можно найти более 370 тысяч диалогов на разные темы: от простых задач написания твитов до попыток взлома криптокошелька. Журналисты Frobes сообщают, что в некоторых переписках можно найти персональную информацию: имена и фамилии, а в одном изученном случае — даже пароль от аккаунта. Также доступны файлы, которые пользователь загружал в ходе диалога — фото, документы и таблицы.
Доступны только беседы, которыми пользователи делились друг с другом, сгенерировав ссылку с помощью функции «поделиться». Ранее похожий случай произошел с пользователями ChatGPT, однако там нужно было включать специальную опцию, разрешавшую поисковым системам проиндексировать чат — и даже при таком подходе некоторые пользователи не обращали внимание на то, что их данные попадут в сеть. В случае Grok подобной функции нет — похоже, автоматически индексируются все чаты, которыми пользователи делятся друг с другом.
Напомню, что OpenAI в итоге отключили функцию индексирования чатов даже с согласия пользователей, признав эксперимент неудачным. В компании xAI пока никак не комментировали ситуацию и то, планируют ли они предпринимать какие-то действия.
В Forbes отмечают, что некоторые из изученных ими переписок нарушают правила использования Grok. Например, чат-бот использовался для написания вредоносного программного обеспечения, а в одном из диалогов даже подготовил детальный план покушения на Илона Маска, которому принадлежит компания-разработчик Grok.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com