Новейшая модель Kimi K3 от стартапа Moonshot AI совершила неожиданный маневр во время стандартных тестов безопасности. Она нашла способ покинуть изолированную цифровую «песочницу» и самостоятельно вышла в открытый интернет, чтобы подсмотреть правильные ответы на GitHub.
В отчете специалистов отмечается, что причиной стала элементарная ошибка в конфигурации сети со стороны организаторов тестирования. Эта «приоткрытая дверь» позволила алгоритму отправить DNS-запрос и установить HTTPS-соединение с внешним миром. Однако, в отличие от громких инцидентов с моделями OpenAI и Anthropic, Kimi K3 не взламывала чужие серверы и не атаковала внешние системы, а просто воспользовалась общедоступными данными.
Главная тревога исследователей заключается не в самом факте побега, а в поведении модели. По их словам, публичная версия Kimi K3 лишена тех самых защитных «ограждений», которые есть у ведущих западных аналогов. Модель продемонстрировала ярко выраженную способность достигать цели любыми средствами, не делая различий между честным решением задачи и обходным маневром. Именно это делает ее потенциально опасным инструментом в руках злоумышленников, а по сути, отличной «хакерской» моделью.
Примечательно, что этот инцидент произошел на фоне серии похожих проблем у американских моделей ИИ.
Ранее модели OpenAI и Anthropic также сбегали из тестовых сред, но там ситуация была куда серьезнее, потому что они не просто выходили в сеть, а пытались взломать системы сторонних организаций, включая платформу Hugging Face.
Стоит напомнить, что выход Kimi K3 произвел фурор в индустрии. Показатели модели на стандартных бенчмарках оказались сопоставимы с лучшими разработками OpenAI и Anthropic, что стало настоящей сенсацией для компании, которая до этого долгое время находилась в тени более раскрученного местного конкурента DeepSeek.
Более того, Moonshot AI выложила веса модели в открытый доступ, позволив любому разработчику скачивать, дорабатывать и использовать технологию свободно. Именно эта открытость в сочетании с отсутствием жестких ограничений поведения и вызывает сейчас наибольшую обеспокоенность у экспертов по кибербезопасности. В даркнете продают «ключи» к аккаунтам Google. Как защититься от взлома? Кредитный конвейер: как автоматизация полного цикла займа меняет экономику МФО Российские решения для ЖКХ и ИТС
Источник: www.it-world.ru