Год назад мы представили Swordfish Secure AI Maturity Model, фреймворк для оценки и развития безопасности ИИ-систем. За это время ИИ-агенты в компаниях получили доступ к инструментам и начали выполнять действия без человека в цикле, а RAG стал стандартом для корпоративных ассистентов. Мы обновили методологию под эту реальность.
«Фреймворк в версии 2.0 стал более системным и учитывает изменения в области безопасности ИИ. Компания может пройти по вопросам фреймворка, зафиксировать свое текущее состояние и получить маршрут развития: определить, куда двигаться дальше и какие шаги дадут наибольший эффект в ближайшей перспективе», — отметил Александр Пинаев, генеральный директор Swordfish Security.
В обновленной версии:
🔹Два новых домена
Безопасность RAG-пайплайнов и безопасность агентных систем.
🔹Калькулятор оценки
По итогам заполнения опросника калькулятор строит модель зрелости организации. Так компания получает ориентиры для развития каждого домена и описание реальных мер для улучшения текущего уровня.
🔹Матрица критериев зрелости
Онлайн-матрица критериев покажет уровень зрелости по каждому домену и разрыв до нормы, а затем предложит шаги для перехода на следующий уровень. Оценка считается локально в браузере, данные не уходят на сервер.
🔹Шкала уровней зрелости
Каждый критерий оценивается по шкале 0–4. Уровни обозначены единообразно в таблицах критериев, опроснике и результатах самооценки, поэтому их удобно сопоставлять между собой.
🔹Таблица связей доменов с требованиями регуляторов
Мы сопоставили домены фреймворка с 187-ФЗ, 243-ФЗ, приказом ФСТЭК № 117, ГОСТами в области ИИ и рекомендациями Банка России, а также другими нормативно-правовыми актами, чтобы было проще выстраивать защиту с учетом требований
➡ Скачать фреймворк и калькулятор
Источник: habr.com