Slack заверила, что не обучает свои модели искусственного интеллекта на сообщениях и файлах пользователей. В середине мая компанию обвинили в использовании клиентской информации при работе над ИИ.
Машинное обучение и искусственный интеллект — это инструменты, которые Slack использует ограниченными способами для улучшения своих продуктов, сообщила компания. Там подчеркнули, что не разрабатывают большие языковые модели и другие генеративные модели с использованием данных клиентов.
Для создания негеративных моделей для таких функций, как эмодзи и рекомендации каналов, системы Slack анализирует данные клиентов, отправленные компании, а также другую информацию, разрешённую политикой конфиденциальности и пользовательским соглашением.
Из формулировки следует, что Slack действительно просматривает содержимое отправленных сообщений и вложений, используя этот контент для улучшения функций приложения.
В ответе на запрос Neowin в Slack заявили, что не сканируют содержимое сообщений для обучения ИИ-моделей. С 2017 года компания использует машинное обучение для других умных функций, таких как улучшение релевантности результатов поиска, рейтинги и другие. Опции основаны на обезличенных совокупных данных о поведении пользователей.
Slack называет эти методы отраслевым стандартом, поскольку модели машинного обучения не имеют доступа к исходному содержанию личных сообщений, частных и общедоступных каналов. Такие данные могут быть использованы для обучения глобальных моделей, отметили в компании.
В Slack указали, что используют стандартные методы машинного обучения, которые обеспечивают защиту конфиденциальности. Компания не создаёт и не обучает модели машинного обучения таким образом, чтобы они могли обучаться, запоминать и воспроизводить данные клиента.
Помимо прочего, недовольство ряда пользователей вызвало то, что Slack использует вышеупомянутые данные на условиях отказа. Хотя в настройках сервиса отсутствует удобный переключатель, позволяющий запретить компании применять клиентские данные. Для запрета пользователям нужно написать электронное письмо на Feedback@slack.com.
Источник: habr.com
