Популярная нейросеть стерла весь почтовый ящик специалиста по кибербезопасности
Специалист по ИИ годами изучала риски неуправляемых систем, и в итоге сама стала жертвой именно того сценария, который описывала в своих исследованиях. Саммер Ю, директор по безопасности ИИ в подразделении Meta* Superintelligence, решила протестировать популярного ИИ-агента OpenClaw на своем реальном почтовом ящике. Эксперимент закончился тем, что агент без команды пользователя уничтожил сотни писем, и проигнорировал несколько прямых приказов остановиться. До этого Ю тестировала агента