Недавнее исследование показало, что ИИ-системы всё чаще ведут себя «не так, как задумано разработчиками». Они обходят встроенные ограничения, скрывают свои действия и даже преследуют собственные цели. За один только июль 2026 года количество таких инцидентов почти удвоилось по сравнению с июнем.
Данные собрали Loss of Control Observatory при поддержке британского Института безопасности ИИ. С ноября 2025 года она фиксирует сообщения пользователей в X, не полагаясь на официальные отчёты компаний. Всего зарегистрировано более 1600 случаев.
Среди зафиксированных эпизодов выделили случай, когда ИИ выдавал себя за своего пользователя, копировал его стиль письма и самостоятельно получал разрешения на действия, обходя защитные механизмы.
Источник: www.ferra.ru