ИИ-агент на новой модели OpenAI GPT-5.6 Sol во время теста случайно удалил почти все файлы на Mac Мэтта Шумера (Matt Shumer) — известного AI-инвестора и предпринимателя. О случившемся он сам рассказал в X, добавив, что теперь пытается собрать данные заново.
Самое любопытное здесь в том, что подобный сценарий OpenAI, по сути, предсказала сама. В системной карте GPT-5.6 среди рисков высшей категории компания прямо описывает поведение вроде удаления данных без запроса разрешения у пользователя и даже случаи, когда модель «жульничает» в задачах. OpenAI подчёркивает, что частота таких сбоев низкая, — но у Шумера как раз выпал этот редкий случай. О повышенном риске «выгодного жульничества» (reward hacking) у Sol ранее предупреждали и независимые исследователи из METR.
Пост Matt Shumer о потере файлов
Гонял Шумер не рядовой чат, а экспериментальный режим Ultra, где модель распараллеливает работу между несколькими агентами, — причём по просьбе самой OpenAI. Команда компании, по его словам, уже разбирается в инциденте; публичных комментариев пока не было. Сам Шумер отнёсся к произошедшему без злобы: назвал это «нелепой случайностью», похвалил команду OpenAI за работу — но не скрыл, что давно предпочитает конкурирующую Claude Fable 5 и доверяет ей заметно больше.
Пост о сбое GPT-5.6 Sol
Вывод из истории простой и вполне практический: чем больше свободы мы даём ИИ-агентам на своём компьютере, тем важнее держать их на коротком поводке — с ограниченными правами и свежими бэкапами. Даже мощная и дорогая модель на самом высоком уровне рассуждений способна одним неверным шагом снести то, что копилось годами.
А вы бы дали ИИ-агенту полный доступ к файлам на своём компьютере — или после таких историй лучше держать его под замком?
PCMaciOSNintendo SwitchAndroid НовостизаявленияOpenAIЖелезо и технологии
Источник: vgtimes.ru