Gemini AI от Google сканировал PDF-файлы пользователя, размещённые на Google Диске, без его разрешения.
О проблеме сообщил пользователь Кевин Бэнкстер в соцсети Х. Он отметил полное отсутствие контроля над конфиденциальной информацией при развёртывании подобных ИИ-инструментов.
«Только что открыл свою налоговую декларацию в @Google Docs, и Gemini без приглашения резюмировал её. Итак… Gemini автоматически обрабатывает даже личные документы, которые я открываю в Google Docs? Что за фигня, ребята. Я не просил об этом. Теперь мне нужно найти новые настройки, о которых мне никогда не говорили, чтобы отключить эту хрень», — написал Бэнкстер.
В службе поддержки Google пользователю не смогли объяснить, почему так произошло. У Бэнкстона есть теория, что технически Gemini может анализировать любые файлы Диска, а не только Google Docs. При этом настройки конфиденциальности, используемые для работы Gemini, либо недоработаны, либо сам ИИ «галлюцинирует».
В конце концов Бэнкстон обнаружил соответствующий переключатель настроек и выяснил, что сводки Gemini в Gmail, Drive и Docs уже были отключены.
Проблема пользователя, похоже, ограничивается только Google Диском и возникает после нажатия кнопки Gemini хотя бы внутри одного документа. Другие документы аналогичного формата затем автоматически считываются ИИ.
Бэнкстон предполагает, что ошибка могла быть вызвана включением Google Workspace Labs в 2023 году, которое могло привести к сбросу настроек Gemini AI.
Ранее другой пользователь пожаловался, что Gemini на его просьбу «как улучшить оливковую заправку чесноком без нагрева» (Can I infuse garlic into olive oil without heating it up) предоставила развёрнутый рабочий совет, который в итоге привёл к созданию биотоксина. Мужчина действовал по инструкции нейросети и вырастил культуру, предположительно, с бактериями Clostridium botulinum.
Источник: habr.com
