Руководитель Duckbill Group Кори Куинн написал в Х, что корпоративный мессенджер Slack использует пользовательские данные для обучения моделей ИИ, не спрашивая на это разрешения.
Куинн сослался на выдержку из Принципов конфиденциальности мессенджера, которая гласит: «Для разработки моделей AI/ML наши системы анализируют данные клиентов (например, сообщения, контент и файлы), отправленные в Slack, а также другую информацию (включая информацию об использовании), как определено в нашей Политике конфиденциальности и в вашем клиентском соглашении».
В мессенджере отреагировали на это сообщение, подтвердив, что действительно используют контент клиентов для обучения определённых инструментов искусственного интеллекта в приложении. Однако там отметили, что эти данные не применяются в премиальном предложении.
Некоторые пользователи возмутились тем, что Slack не показывает заметного уведомления, позволяющего отказаться от участия до начала сбора данных.
Кроме того, отдельные сотрудники не могут сделать этого самостоятельно; им требуется направить запрос администратору систем организации.
В числе тех, кто отреагировал на критику Slack, была и Мередит Уиттакер, президент Signal. Она написала, что конфиденциальный мессенджер «вообще не собирает данные, поэтому ему нечего “майнить” для «ИИ»».
Проблема возникла из-за непоследовательности в политике Slack. В одном разделе говорится, что компания не может получить доступ к основному контенту пользователей при разработке моделей ИИ. На другой странице, посвященной премиальным инструментам генеративного искусственного интеллекта Slack, написано: «Ваши данные — это ваши данные. Мы не используем их для обучения искусственного интеллекта Slack. Все работает на безопасной инфраструктуре, отвечая тем же стандартам соответствия, что и сам Slack». Однако допуск сбора пользовательских данных в рамках «принципов конфиденциальности», похоже, противоречит этим утверждениям.
В Threads инженер Slack попытался прояснить ситуацию, заявив, что правила конфиденциальности «изначально были написаны о работе по поиску/рекомендациям, которую мы выполняли в течение многих лет до появления Slack AI», признав, что они действительно нуждаются в обновлении.
В феврале Slack запустил инструмент Slack AI, который может суммировать обсуждения и выдавать персонализированные результаты поиска. Он работает на английском языке и приобретается как дополнение. Пока доступ к опции получили только пользователи плана Enterprise.
Источник: habr.com
