По информации профильных источников из IT‑отрасли, «Ростелеком» изучает возможность создания специализированной информационной «системы контроля коммуникаций LLM‑приложений» (Системы КК). Согласно ТЗ проекта, это будет корпоративный LLM‑фаервол. Речь в ТЗ идёт не о тендере, а о запросе информации от разработчиков, заявки по которому от потенциальных поставщиков решения в компании принимают до 19 октября 2026 года.
В экосистеме «Ростелекома» используются различные ИИ‑решения. Чем их становится больше, тем проблематичнее их можно проверять. Компании в таком случае нужен единый слой контроля, который видит весь трафик между пользователями, внутренними системами и внешними языковыми моделями. Именно такую роль должен и выполнять проект Системы КК.
Согласно ТЗ, программный код проекта должен входить в реестр ПО Минцифры, а в качестве базового стека для решения выбраны:
-
операционная система «РЕД ОС»;
-
виртуализация «Базис»;
-
СУБД Platform V Pangolin SE на базе PostgreSQL.
Анализ диалогов в Системе КК планируется вести в реальном времени. Проверяться будут как входящие промпты от пользователей, так и ответы ИИ‑моделей. Шлюз Системы КК должен распознавать попытки обойти ограничения модели, внедрить вредоносные инструкции, извлечь системные настройки или скрытно выгрузить закрытые данные через наводящие вопросы.
Профильные эксперты пояснили, что после тестирования проекта и внедрения, это решение может стать одним из крупнейших в России примеров защиты генеративного ИИ на уровне всей компании. А значит, спрос на подобные решения будет только расти вместе с количеством LLM‑приложений, агентов и новых нейросетевых угроз.
Источник: habr.com