Anthropic ожидает, что виртуальные сотрудники с искусственным интеллектом смогут работать в корпоративных сетях в следующем году. Управление ими потребует от компаний пересмотреть свои стратегии кибербезопасности.
Главный специалист по информационной безопасности Anthropic Джейсон Клинтон считает, что виртуальные сотрудники могут стать следующим очагом инноваций искусственного интеллекта. По его словам, обычно агенты сосредоточены на выполнении определённой программируемой задачи, но виртуальные сотрудники выведут эту автоматизацию на новый уровень. Клинтон отметил, что они будут иметь собственную «память», роли в компании и даже корпоративные учётные записи и пароли.
В связи с этим возникают и новые риски кибербезопасности. «В этом мире есть так много проблем, которые мы ещё не решили с точки зрения безопасности», — сказал Клинтон. Например, пока неясно, как защитить учётные записи пользователей от ИИ-сотрудников, какой сетевой доступ им следует предоставить и кто отвечает за управление действиями таких «работников».
В Anthropic считают, что им предстоит выполнить две главные задачи: тщательно протестировать модели Claude на противодействие кибератакам и научиться отслеживать проблемы безопасности и смягчать способы, которыми злоумышленники могут злоупотреблять ИИ.
Компания отмечает, что сетевые администраторы уже пытаются отслеживать, какие учётные записи имеют доступ к различным системам, и бороться со злоумышленниками, которые покупают повторно используемые пароли учётных записей сотрудников в даркнете.
Однако ИИ-сотрудники могут сами выйти из-под контроля и при выполнении задачи взломать систему непрерывной интеграции компании, где новый код объединяется и тестируется перед развёртыванием. «В старом мире это наказуемое правонарушение. Но кто несёт ответственность за агента, который работал пару недель и дошёл до такого, в этом новом мире?» — задаётся вопросом Клинтон.
По его мнению, безопасность виртуальных сотрудников — одна из крупнейших областей ИБ, в которую ИИ-компании могли бы инвестировать в ближайшие несколько лет. Особенный интерес представляют решения, которые обеспечивают видимость того, что учётная запись сотрудника ИИ делает в системе, а также в инструментах, которые создают новую систему классификации рабочих аккаунтов.
Между тем несколько поставщиков услуг кибербезопасности уже выпускают первые подобные продукты. Так, Okta представила единую платформу управления для лучшей защиты не принадлежащих людям аккаунтов, непрерывного мониторинга того, к каким системам каждая учётная запись компании имеет доступ, а также мониторинга подозрительной активности.
Ранее анализ METR Evaluations показал, что способность систем искусственного интеллекта поддерживать выполнение задач улучшается быстрыми темпами. Продолжительность автономной работы ИИ удваивается каждые семь месяцев, а к 2027 году системы смогут работать восьмичасовой рабочий день с 50%-ным показателем успешности.
Источник: habr.com
