В начале месяца Anthropic анонсировала программу Project Glasswing, которая должна была показать, как искусственный интеллект помогает укреплять кибербезопасность. Многие отнеслись к этому скептически. Но теперь Mozilla опубликовала данные, которые подтверждают пользу такого подхода.
Разработчики Firefox использовали специальную модель Claude Mythos Preview и нашли с её помощью 271 уязвимость в последней версии браузера. В Mozilla заявили, что пока не встретили ни одной категории или сложности ошибок, которые человек может найти, а модель нет. Это сильное заявление, и оно исходит не от самой Anthropic, а от независимого крупного игрока.
Впрочем, тут есть важный нюанс. Mozilla признаёт, что Claude Mythos не смог обнаружить ни одной проблемы, которую при достаточном времени и ресурсах не нашёл бы и человек. То есть ИИ пока не умеет взламывать системы лучше специалиста.
Сам по себе факт, что крупная организация использует генеративный ИИ для защиты продуктов, а не для сомнительных экспериментов, выглядит обнадёживающе. Кстати, для тех пользователей Firefox, кто не хочет иметь дело с ИИ в браузере, Mozilla уже несколько месяцев оставляет возможность отключить все эти функции.
Почти одновременно с этим стало известно о новых инвестициях Amazon в Anthropic. Компании объявили, что Amazon инвестирует 5 миллиардов долларов сразу и ещё до 20 миллиардов в виде дополнительных выплат при достижении определённых показателей. Это уже третье крупное вливание со стороны Amazon. Ранее были инвестиции на 4 миллиарда в 2023 году и ещё на 4 миллиарда в 2024 году.
Со своей стороны, Anthropic обязалась продолжать использовать специализированные чипы Trainium от Amazon. Согласно новому соглашению, Anthropic потратит более 100 миллиардов долларов на технологии AWS в ближайшие десять лет. Это даст компании доступ к мощностям до 5 гигаватт для обучения и работы её моделей.
Кроме того, платформа Claude станет доступна клиентам Amazon Web Services прямо внутри AWS портала. Им больше не понадобятся дополнительные учётные данные. По сути, Anthropic не просто получает огромное финансирование, но при этом использует сама и помогает привлечь как можно больше компаний в облачную инфраструктуру Amazon, а Amazon, в свою очередь, получает эксклюзивного крупного заказчика на свои чипы и сервисы.
Эти две новости связаны не только общей компанией Anthropic. Успех Mozilla с Claude Mythos показывает, что у Amazon есть веские причины делать на компанию столь крупные ставки. Если модели Anthropic действительно помогают находить сотни критических уязвимостей в таком сложном продукте, как Firefox, причём делать это за часы вместо месяцев, то инвестиции в 25 миллиардов вполне прагматично. Евгения Шенкао: «Купить технологию — не проблема. Проблема — начать с ней жить» Администрацию Трампа обязали вернуть 166 миллиардов долларов ИИ находит баги быстрее, чем их успевают исправить
Источник: www.it-world.ru