В апреле компания Anthropic, разработчик систем искусственного интеллекта из Сан‑Франциско, заявила, что создала модель ИИ, которую ее же разработчики сочли слишком опасной для открытого доступа.
Модель под названием Claude Mythos оказалась настолько мощной, что смогла обнаружить уязвимости практически во всех основных операционных системах и браузерах. Потенциальные последствия «для экономики, общественной безопасности и нацбезопасности могут быть серьезными», говорится в заявлении Anthropic о проекте Project Glasswing — ограниченном запуске Mythos для примерно 50 проверенных организаций.
Решение Anthropic многие эксперты воспринимают как начало новой эпохи: самые мощные модели ИИ могут перейти в режим «закрытых технологий». По мнению Хелен Тонер из Центра по вопросам безопасности и новых технологий Джорджтаунского университета, подобный подход, скорее всего, станет тенденцией, а не единичным случаем. Уже через неделю после анонса Mythos компания OpenAI ответила выпуском специализированной модели GPT‑5.4‑Cyber — тоже только для отобранных пользователей и организаций.
Дискуссия об «открытом» и «закрытом» ИИ идет давно. Прозрачные модели позволяют научному сообществу проверять результаты, воспроизводить эксперименты и быстро развивать новые методы. Теперь все более вероятно, что самые продвинутые системы вообще не будут доступны широкой публике. Если правительства официально отнесут мощный ИИ к «двойным» технологиям — пригодным и для гражданских, и для военных целей, — его могут начать регулировать по тем же правилам, что и чувствительное оборонное ПО и оборудование. Это ограничит круг тех, кто сможет пользоваться такими системами.
Источник: hi-tech.mail.ru