Объём работ
- Проверка MCP-серверов и описаний инструментов
- Отравление инструментов и косвенные инъекции
- Права, подтверждения и песочница
- Мониторинг действий агентов
Подход
- 01
Карта системы
Описываем модели, источники данных, инструменты и взаимодействие с пользователями.
- 02
Моделирование угроз
Определяем сценарии инъекций, утечек и злоупотреблений.
- 03
Атака и оценка
Испытываем систему ручными и автоматическими наборами атак.
- 04
Ограничители
Рекомендуем границы прав, проверки и мониторинг.
Результаты
- Модель угроз ИИ
- Успешные атаки с доказательствами
- Рекомендации по ограничителям и архитектуре
- Результаты повторной оценки
Давайте вместе определим объём работ.
Расскажите о задаче — наши специалисты подготовят индивидуальное предложение.