Разработчик инди-игры Operation Octo заявил, что нейросеть Google Gemini раскрыла игроку закрытое имя персонажа, которое существовало только в его личном Google Doc. Ситуация вызвала волну обсуждений о границах конфиденциальности в эпоху искусственного интеллекта.
Студия Klub Kofta опубликовала на Reddit скриншоты переписки в Discord. Один из игроков ради любопытства расспрашивал чат-бота Gemini о будущем обновлении и получил «удивительно точную информацию, которой у маленькой инди-игры просто не должно быть в открытом доступе». Само по себе это насторожило автора, но настоящий шок вызвал другой ответ ИИ. В переписке фигурировало точное название существа — Vantage Tripod. По словам соло-разработчика, это имя он не называл никому и никогда. Единственное место, где оно было зафиксировано в цифровом виде — его собственный закрытый документ в Google Docs. Ни в одном публичном чате, ни на сервере Discord, ни в игровых файлах название не появлялось.
Скриншот переписки с Gemini
В сообществе сразу появилась версия, что Google по умолчанию сканирует файлы Google Диска для обучения своих моделей. Прямых доказательств этому пока нет, да и сама история опирается на свидетельство одного человека. Однако если факты подтвердятся, случай вскрывает крайне неприятный аспект работы облачных ИИ-сервисов: личные черновики, геймдизайн-документы и конфиденциальные заметки могут без ведома авторов становиться частью обучающей выборки и всплывать в ответах чат-ботов.
Разработчик подчеркнул, что имя Vantage Tripod ещё даже не было добавлено в игровые данные — существовал лишь текстовый файл с описанием будущих персонажей. Это исключает утечку через клиент игры или публичные базы. Остаётся только догадываться, как именно Gemini получил доступ к частному документу: прямая индексация, уязвимость в настройках приватности или работа алгоритма, который научился извлекать информацию из, казалось бы, закрытых источников.
Имеет ли Gemini доступ к информации с Google Диска?
Для инди-студий, которые часто ведут всю документацию в облачных сервисах Google, случившееся — тревожный звонок. Одно дело, когда ИИ анализирует общедоступные страницы, и совсем другое — когда он выдаёт секретные детали ещё не анонсированных проектов. Эксперты по кибербезопасности уже не раз предупреждали, что граница между удобством облачных технологий и риском утечки данных становится всё тоньше, и история Klub Kofta — наглядная тому иллюстрация. Представители Google ситуацию пока не комментировали. Журналисты GamesRadar, первыми рассказавшие эту историю, также не смогли подтвердить или опровергнуть автоматическое сканирование Google Диска со стороны Gemini.
А что думаете вы: случайность это или системная проблема доступа ИИ к нашим облачным хранилищам? Готовы ли вы теперь доверять конфиденциальные заметки сервисам вроде Google Docs? Делитесь мнением в комментариях.
НовостиЖелезо и технологииискусственный интеллектGoogle
Источник: vgtimes.ru