Платформа управления безопасностью взаимодействия с сервисами искусственного интеллекта StarGuard AI

StarGuard AI - комплексное программное решение, предназначенное для обеспечения безопасного и контролируемого взаимодействия с большими языковыми моделями (Large Language Models, LLM) в корпоративных и критичных к безопасности средах. Решение ориентировано на снижение рисков, связанных с утечкой конфиденциальных и персональных данных, нарушением требований информационной безопасности и неконтролируемым использованием LLM внутри организации. StarGuard AI выступает посредником между конечными пользователями, прикладными системами и внешними или локально развёрнутыми языковыми моделями, перехватывает трафик в режиме реального времени, выполняет анализ запросов и ответов и применяет настраиваемые политики безопасности без необходимости модификации клиентских приложений. Платформа предоставляет администраторам и специалистам по информационной безопасности единый веб-интерфейс для управления шлюзами, моделями, политиками, пользователями и контроля событий, а конечным пользователям - портал самообслуживания с интегрированным чатом, управлением файлами и токеном для прямых API-вызовов. Решение обеспечивает: • Защиту чувствительной информации и персональных данных при работе сотрудников с LLM; • Контроль и аудит всего трафика к языковым моделям; • Унифицированный доступ к нескольким LLM-провайдерам через единый OpenAI- и Anthropic-совместимый API; • Централизованное управление политиками безопасности и распределённой инфраструктурой шлюзов; • Прогнозируемое потребление токенов за счёт пользовательских лимитов; • Интеграцию событий безопасности с внешними SIEM-системами.

Функциональные характеристики

Анализ и фильтрация запросов и ответов LLM:

• проверка содержимого по регулярным выражениям - выявление заданных

шаблонов данных, включая идентификаторы, коды, номера документов и иные

чувствительные конструкции;

• поиск и обнаружение чувствительных и персональных данных, включая имена

людей, организации, адреса, номера телефонов, e-mail, банковские карты,

паспортные данные, ИНН, СНИЛС и др., с поддержкой русского и английского

языков;

• маскирование чувствительных данных перед отправкой запроса в LLM с

автоматическим демаскированием (обратным замещением) в ответе;

• семантическая фильтрация по тематикам (политика, медицина, право, внутренние

корпоративные данные и др.) и фильтрация токсичного и нежелательного контента;

• защита от Prompt Injection - обнаружение и предотвращение попыток манипуляции

поведением языковой модели, направленных на обход ограничений или извлечение

запрещённой информации;

• определение языка запроса с ограничением работы по спискам разрешённых и

запрещённых языков;

• Контроль вызовов инструментов (tool calls) в агентских LLM-сценариях по политикам

с поддержкой режимов blacklist и whitelist.

Работа с файлами:

• передача содержимого файлов в большие языковые модели с применением тех же

механизмов анализа и фильтрации, что и для текстовых запросов;

• поддержка форматов DOC, DOCX, XLS, XLSX, PDF
• извлечение текстового содержимого документов через встроенный сервис

распознавания;

• управление файлами через портал самообслуживания пользователя: загрузка,

предпросмотр извлечённого текста, удаление, разграничение приватных и

публичных файлов в рамках шлюза.

• создание и редактирование Tool Call политик (правила контроля вызовов

инструментов агентских LLM);

• гибкая настройка детекторов на уровне шлюза с возможностью переопределения на

уровне отдельной модели (наследовать, отключить, настроить);

• режимы действия детекторов: выключен, мониторинг, блокировка, добавление

сообщения, перенаправление на другую модель;

• автоматическая синхронизация конфигурации между платформой управления и

шлюзами без ручного вмешательства.

Хранение событий и интеграция с системами безопасности:

• сохранение метаинформации обо всех запросах и ответах (время, источник,

пользователь, модель, применённые политики, результаты срабатываний

детекторов, количество токенов, трассировка);

• просмотр и фильтрация событий безопасности через интерфейс администратора
• опциональная трансляция событий во внешние SIEM-системы для

централизованного мониторинга, корреляции и реагирования на инциденты.

Портал самообслуживания пользователя:

• просмотр дашборда с текущим расходом и лимитом токенов, доступными моделями

и токеном для прямых API-вызовов;

• встроенный чат с языковой моделью с поддержкой потокового режима, выбора

модели, прикрепления файлов, истории сообщений;

• управление загруженными файлами
• прямой доступ к Gate API из внешних приложений по полученному токену.

Лицензирование:

• управление лицензией платформы через интерфейс суперпользователя
• привя