Anthropic опубликовала отчет о достижениях в сфере безопасности, где сообщила о приближении к созданию моделей, способных самостоятельно улучшать свои алгоритмы.
Специалисты отмечают, что будущие системы смогут участвовать в собственной разработке, что резко ускорит темпы эволюции нейросетей. В то же время разработчики подчеркивают серьезные угрозы подобного прорыва. ИИ способен выйти из-под контроля человека в процессе оптимизации кода, создавать непредвиденные уязвимости или использоваться для кибератак нового уровня.
В связи с этим компания призывает внедрить более строгие международные протоколы контроля и новые стандарты безопасности до появления коммерческих образцов.
techcrunch.com
Павлик Александр
Источник: ru.gecid.com