Генеральный директор Microsoft Сатья Наделла предостерёг компании, спешащие внедрить искусственный интеллект, от передачи разработчикам ИИ важных бизнес-данных.
Наделла называет эту проблему «парадоксом обратного обмена информацией». Компании платят за доступ к ИИ, но затем вынуждены «скармливать» системе свои конфиденциальные данные, сведения о внутренних процессах, исправления и оценки сотрудников, а также накопленный корпоративный опыт, чтобы сделать технологию полезной.
«По сути, вы платите за интеллект дважды: сначала деньгами, а затем тем, что имеет ещё большую ценность — уникальными знаниями, которые приходится раскрывать, чтобы этот интеллект приносил пользу», — пишет Наделла.
Он утверждает, что реальная опасность выходит за рамки простой загрузки конфиденциальной таблицы или внутреннего документа. Системы ИИ способны обучаться и на том, что он называет «информационным выхлопом»: запросах (промптах), особенностях использования инструментов, обратной связи, исправлениях, оценках и принятых решениях.
«Любое исправление трансформируется в корпоративный опыт. Это знания, которые конкурент никогда не смог бы купить; они утекают практически незаметно — крупица за крупицей, исправление за исправлением, оценка за оценкой», — отмечает топ-менеджер.
«Потребляя интеллект, вы одновременно создаёте его. И то, что вы создаёте, должно принадлежать вам», — заключает он.
Между тем сама Microsoft стремится к тому, чтобы компании переносили свои файлы, рабочие процессы, данные сотрудников, системы идентификации и механизмы принятия решений на её платформы.
Даже когда Наделла утверждает, что компаниям следует создавать собственные системы оценки, сохранять контроль над «организационной памятью», формировать закрытые среды для обучения ИИ и использовать уровень оркестрации, не привязанный к какой-то одной модели искусственного интеллекта, он определённым образом лукавит. Microsoft как раз продает облачную инфраструктуру, инструменты разработки, средства обеспечения безопасности, базы данных, ИИ-сервисы и технологии оркестрации, необходимые для создания именно такой среды.
Наделла также рекомендует компаниям сохранять возможность переключаться между моделями. «Спросите себя: если у вас отнимут какую-то одну используемую модель, сможете ли вы продолжать работу и оптимизировать процессы оценки, используя другие?» — написал он.
Это дельный совет, особенно учитывая, что ИИ-компании часто меняют цены, выводят модели из эксплуатации, пересматривают условия и вводят новые ограничения, иногда не предупреждая об этом заранее.
Впрочем, обеспокоенность Microsoft по поводу привязки к конкретной модели не обязательно распространяется на привязку к облачной платформе, программному обеспечению, системам идентификации или пакетам офисных приложений. Похоже, компания предпочла бы, чтобы клиенты сохраняли гибкость в выборе моделей, но при этом использовали инфраструктуру, находящуюся внутри экосистемы самой Microsoft.
Таким образом, Наделла критикует поставщиков моделей, которые извлекают выгоду из общедоступных данных, но при этом навязывают жёсткие ограничения клиентам, желающим обучать или совершенствовать собственные системы. Он утверждает, что процесс обучения не должен быть односторонним.
У крупнейших компаний, вероятно, достаточно средств и технических специалистов, чтобы создавать изолированные среды для ИИ, согласовывать индивидуальные условия договоров и одновременно использовать несколько моделей. Более мелким же предложат полагаться на настройки по умолчанию: либо отказаться от использования ИИ, либо передать значительную часть своих корпоративных знаний и опыта таким гигантам, как Microsoft, Google, Amazon, OpenAI, Anthropic или другим крупным поставщикам.
Ранее Наделла заявил, что каждая компания должна создать свою собственную модель ИИ. По его словам, только будут появляться модели, адаптированные к конкретному бизнесу.
Источник: habr.com