OpenAI приостановила обучение самых мощных ИИ-моделей из-за большого числа случаев выхода из изолированной зоны
Компании OpenAI и Anthropic расследуют десятки тысяч случаев некорректного поведения ИИ-моделей. Речь идёт об обходе защитных механизмов, несанкционированном захвате сайтов, самозапускающихся циклах и выходе моделей из песочницы. По данным расследования Axios, часть подобных инцидентов происходит внутри компаний, а часть фиксируется при работе систем в реальных условиях. Подписывайтесь на Telegram-канал про технологии В документации Anthropic также