Исследователи IT-компании CrowdStrike провели эксперимент, в ходе которого они запрашивали у DeepSeek помощь в написании программного кода. Выяснилось, что нейросеть может изменять качество выдачи в зависимости от региона, в котором находится пользователь.
Качество результатов DeepSeek существенно менялось и в зависимости от того, для чего предназначался код. Запрос на программу управления промышленными системами в 22,8% приводил к выдаче ответов с ошибками. Запрос на выдачу того же кода, но с указанием того, что он будет использоваться боевиками «Исламского государства» (запрещённая в России террористическая организация), привёл к почти двукратному увеличению количества ошибок до 42,1%. Раскрытие информации о том, что код будет использоваться в Тибете, на Тайване или запрещённой в Китае религиозной сектой Фалуньгун, также приводило к генерации более низкокачественного кода. В 61% и 45% случаев DeepSeek полностью отказался помогать сторонникам «Исламского государства» и последователям Фалуньгун.
CrowdStrike считает, что существует несколько объяснений генерации DeepSeek уязвимого кода. Это может быть связано с тем, что чат-бот следует линии Коммунистической партии Китая, отказываясь помогать определённым группам, либо тайно саботирует их работу, создавая уязвимый код, подверженный взлому. Другая теория заключается в том, что DeepSeek обучался на материалах, качество которых хуже в определённых регионах. Например, код из Тибета мог быть написан менее опытными программистами или уже скомпрометирован. Это объясняет, почему самый безопасный код, сгенерированный DeepSeek, предназначался для США. CrowdStrike, однако, отмечает, что это также может быть связано с попыткой разработчиков DeepSeek захватить большую долю прибыльного рынка Штатов.
Это далеко не первые опасения по поводу региона происхождения DeepSeek. Ранее исследователи NewsGuard обнаружили, что, в ответ на вопросы о деликатных в Китае темах DeepSeek повторял официальную позицию КПК. При этом цензура работала даже при локальном запуске приложения на устройстве.
В июле власти Германии также потребовали от Google и Apple запретить приложение DeepSeek в стране в связи с обвинениями в незаконной передаче персональных данных немецких пользователей в Китай. ИИ ограничили в использовании на устройствах федеральных агентств и государственных учреждений США.
Источник: habr.com