Anthropic оказалась в центре неприятного инцидента, так группа сторонних энтузиастов получила несанкционированный доступ к экспериментальной версии ИИ-модели Mythos — той самой, которую компания намеренно не выпускает в открытый доступ из-за её потенциальной опасности в чужих руках. Инструмент, заточенный под поиск киберуязвимостей, утёк не в результате прямой хакерской атаки на серверы Anthropic, а через цепочку доверия с участием стороннего подрядчика.
О факте утечки сообщило агентство Bloomberg. В первых числах апреля Anthropic анонсировала Claude Mythos Preview в рамках инициативы Project Glasswing и доступ к модели получили лишь избранные корпоративные партнёры, включая Google, Apple, Microsoft, NVIDIA и Amazon. Канал утечки — один из порталов, который использует подрядчик Anthropic. Участники закрытого сообщества в Discord, специализирующегося на поиске информации о ещё не анонсированных нейросетях, не стали взламывать защиту с помощью эксплойтов, а применили логический перебор и догадки о том, как именно Anthropic выстраивает инфраструктуру для своих тестовых сборок. То есть сработала не столько хитроумная хакерская атака, сколько слабое звено в цепочке поставщиков и некоторая предсказуемость внутренних процессов.
Создать создали, а обезопасить?
В Anthropic отреагировали оперативно и представитель компании заявил, что уже ведётся расследование инцидента, при этом в компании подчеркнули, что на данный момент нет доказательств того, что инцидент как-либо затронул основные системы Anthropic или привёл к компрометации данных клиентов. Вопрос не к факту утечки как таковой, а к профилю самой модели. Mythos, по официальным данным, заточен на поиск уязвимостей нулевого дня в операционных системах и браузерах. Уже на этапе закрытого тестирования он помог Mozilla выявить и закрыть 271 проблему в Firefox. Такой инструмент в руках защитников — мощный щит, но оказавшись у злоумышленников, он превращается в идеального разведчика для атак. Именно поэтому Anthropic с самого начала пошла по пути ограниченного распространения, опасаясь «системных рисков» при массовом развёртывании.
Группа, получившая доступ к Mythos, по данным тех же источников, не имела злого умысла, в частном чате Discord они утверждали, что их интерес сугубо исследовательский — «пощупать новую модель и разобраться в её возможностях». Однако сам прецедент ставит под вопрос модель дистрибуции мощных ИИ-продуктов через закрытые клубы партнёров. Чем больше посредников, тем выше вероятность повторения сценария с человеческим фактором или небрежностью на стороне подрядчика. С Claude был ещё один интересный случай, когда с его помощью взломали правительство Мексики.
Попал ли «лучший» ИИ в плохие руки?
Пока неизвестно, будет ли после этого инцидента изменена политика работы со сторонними вендорами или же компания ограничится точечными исправлениями в протоколах безопасности. Ясно одно: граница между инструментом защиты и инструментом нападения в мире ИИ снова оказалась тоньше, чем хотелось бы разработчикам.
А вы как считаете, стоит ли компаниям в принципе создавать настолько мощные ИИ-инструменты для кибербезопасности, если существует риск их попадания не в те руки? Делитесь мнением в комментариях.
Тест по теме Создай собственную нейросеть и узнай, что из этого выйдет — спаси человечество или устрой апокалипсис. Тест 10 уровней
Анна 16 апреля 2023
Не проходит и дня без новостей о нейросетях или искусственном интеллекте. Технологии развиваются с невероятной скоростью, и машины уже умеют создавать картины и музыку, могут подготовить вам дипломную работу, написать код… Может, даже этот тест, на самом деле, создала машина?
Такое развитие пугает многих, сразу вспоминается сюжет «Терминатора» (The Terminator) и других кинолент на подобную тематику. Но что же будет на самом деле? Предлагаем вам создать собственную нейросеть и узнать, что из этого выйдет — получится ли сделать людей счастливее или же вы лишь ускорите порабощение человечества машинами? Давайте проверим! Начать НовостиЖелезо и технологииУтечкиискусственный интеллект
Источник: vgtimes.ru