Anthropic представила OSS Scanner. Это бесплатный сервис, что должен помочь разработчикам находить уязвимости в программах с открытым исходным кодом.
Проекты, которые добровольно подключатся к сервису, смогут регулярно проверять свой код с помощью «самых мощных моделей ИИ компании, включая Claude Mythos». Однако есть нюанс. Результаты «полностью формируются искусственным интеллектом» и «не проверяются специалистами», предупреждает разработчик.
Кстати, про проверки со стороны ИИ. Сейчас это на слуху, поэтому стали заметны «подводные камни» такого подхода. Автоматические проверки сильно упростили проверку кода. Некоторые проекты получают настолько много сообщений об ошибках (от людей, что хотят лёгких денег за поиск багов), им становится сложно отделять реальные угрозы от ложных срабатываний. С этой проблемой сталкивается в том числе и Google.
Источник: www.ferra.ru