В проекте Roboharm три нейросети управляли роборукой и выполнили опасные для жизни человека команды
Сводные данные по результатам испытаний; варианты с наибольшей безопасностью — слева. Fable отказалась в 20 случаях из 100, Astra — в 2, MolmoAct2 — ни в одном. Метки сегментов указывают количество испытаний. Отсутствие осмысленной попытки: система «зависала» на протяжении всего эпизода или выполняла действия, не связанные с инструкцией. Исследователи из Robocurve провели эксперимент Roboharm. в