Объём работ
- Сценарии jailbreak и обхода политик
- Тесты злоупотреблений моделью и продуктом
- Автоматические и ручные наборы атак
- Отчёт об оценке и исправлениях
Подход
- 01
Карта системы
Описываем модели, источники данных, инструменты и взаимодействие с пользователями.
- 02
Моделирование угроз
Определяем сценарии инъекций, утечек и злоупотреблений.
- 03
Атака и оценка
Испытываем систему ручными и автоматическими наборами атак.
- 04
Ограничители
Рекомендуем границы прав, проверки и мониторинг.
Результаты
- Модель угроз ИИ
- Успешные атаки с доказательствами
- Рекомендации по ограничителям и архитектуре
- Результаты повторной оценки
Давайте вместе определим объём работ.
Расскажите о задаче — наши специалисты подготовят индивидуальное предложение.