Вчера, 7 апреля, компания Anthropic официально запустила новый проект под названием Project Glasswing, который, по словам представителей стартапа, должен помочь обеспечить безопасность наиболее важного программного обеспечения в мире. Идея данного проекта в том, что технологии на базе искусственного интеллекта в последнее время развиваются очень активно и могут применяться в том числе для поиска уязвимостей в ПО, операционных системах, различных сервисах и не только. Соответственно, в Anthropic решили сыграть на опережение, предоставив лидерам рынка инструмент для защиты от возможных уязвимостей.
Этим инструментом выступает универсальная большая языковая модель Claude Mythos Preview, которую компания ещё не выпустила в «релиз» (на самом деле полноценного публичного запуска модели не предполагается — в компании заявили, что LLM будет закрытой и её будут предоставлять крупным компаниям по запросу). В Anthropic заявили, что эта модель демонстрирует поразительные вещи:«Модели ИИ достигли такого уровня мастерства в области программирования, что вполне способны превзойти всех, кроме самых опытных специалистов, в поиске и использовании уязвимостей программного обеспечения», — говорится в публикации компании Anthropic.
Более того, руководство американского стартапа сообщает, что в рамках тестирования Claude Mythos Preview специалистам Anthropic удалось выявить тысячи серьёзных уязвимостей, в том числе во всех основных операционных системах и веб-браузерах. Например, модель обнаружила критическую уязвимость в операционной системе OpenBSD, которая считается одной из самых защищённых ва мире и используется для работы в составе критически важной инфраструктуры. Также модель нашла «дыры» в FFmpeg (крайне популярном программном обеспечении для кодирования и декодирования видео) и ядре Linux. Изображения: Anthropic
На текущий момент к проекту Project Glasswing уже присоединились ведущие компании со всего мира — Amazon Web Services, Apple, Broadcom, Cisco, Google, Linux Foundation, Microsoft, NVIDIA и многие другие. Изображение: Anthropic
Впрочем, доступ к Claude Mythos Preview они получают не совсем бесплатно — на первом этапе тестирования модели компания Anthropic выделит 100 миллионов долларов в виде кредитов для участников проекта, но затем этим участникам придётся платить 25/125 долларов за миллион входных/выходных токенов, что довольно дорого по современным меркам.
Источник: trashbox.ru