Объём работ
- Оценка по OWASP LLM Top 10
- Прямые и косвенные prompt injection
- Границы доступа RAG и данных
- Проверка ответов и ограничителей (guardrails)
Подход
- 01
Карта системы
Описываем модели, источники данных, инструменты и взаимодействие с пользователями.
- 02
Моделирование угроз
Определяем сценарии инъекций, утечек и злоупотреблений.
- 03
Атака и оценка
Испытываем систему ручными и автоматическими наборами атак.
- 04
Ограничители
Рекомендуем границы прав, проверки и мониторинг.
Результаты
- Модель угроз ИИ
- Успешные атаки с доказательствами
- Рекомендации по ограничителям и архитектуре
- Результаты повторной оценки
Давайте вместе определим объём работ.
Расскажите о задаче — наши специалисты подготовят индивидуальное предложение.