СЗИИ

Программа «СЗИИ» предназначена для блокировки промпт-инъекций и утечки данных в соответствии с регуляторикой и нормативной базой. Представляет собой комплексное решение для обеспечения доверенного ИИ, позволяющее устранять когнитивные искажения, объяснять логику моделей и гарантировать соответствие нормам кибербезопасности.

Функциональные характеристики

Функционал программного обеспечения включает в себя обеспечение безопасной, контролируемой и верифицируемой работы ИИ-систем на базе больших языковых моделей (LLM) через:

1. Шлюз (Gateway) — единая точка входа, HTTP API, совместимый с OpenAI API; необходим для маршрутизации и оркестрации запросов, подпись исходящих запросов приватным ключом, верификации ответов, применения политик безопасности, ограничения частоты запросов.

2. Сервис защиты (Defender) — многоуровневая фильтрация контента: необходим для обнаружения prompt-инъекций (ML-модель с оценкой уверенности), анализа токсичности, фильтрации NSFW, выявления и маркировки персональных данных (ПДн), анализа предвзятости, принятия решений по настраиваемым политикам.

3. Сервис обогащения (Augmenter) — необходим для дополнения запросов контекстными данными из подключённых источников с приоритетами и резервированием.

4. Сервис аудита (Inspector) — необходим для криптографически защищённого журналирования событий с цифровой подписью каждой записи, локального хранения и пересылки, раздельного журналирования метаданных и содержимого.

5. Сервис вывода (Inference) — необходим для выполнения запросов к языковой модели на базе vLLM; принимает только криптографически подписанные запросы.