«Доверять модели как можно меньше»: глава Microsoft предложил обращаться с ИИ как с подозрительным сотрудником — и объяснил почему
Генеральный директор Microsoft Сатья Наделла (Satya Nadella) 10 октября опубликовал эссе о том, как сохранить контроль над ИИ-агентами. Его главная идея — относиться к моделям, и закрытым, и открытым, как к инсайдерам с доступом к важным системам. По словам Наделлы, дело не в злом умысле: любой достаточно способный исполнитель может ошибиться или оказаться скомпрометирован. Поэтому