Р. Аллахвердиев

#owasp

Материалов: 3

Разборы

новое
Обложка: Непрямая prompt injection через документы RAG: как её тестировать и чем закрывать
Разбор10 мин

Непрямая prompt injection через документы RAG: как её тестировать и чем закрывать

Как инструкция, спрятанная в документе базы знаний, управляет ассистентом, как построить безопасный тестовый набор с канареечными токенами, посчитать ASR и какие защиты работают, а какие нет.

Безопасность LLMRAG
Обложка: Red teaming LLM по OWASP: ASR, Security Score и что с ними делать
Разбор9 мин

Red teaming LLM по OWASP: ASR, Security Score и что с ними делать

Как устроен автоматический red teaming LLM-системы: техники атак, проверяемые категории, метрики ASR и Security Score, цикл «базовый скан — усиление — повторный скан» и честные границы подхода.

Безопасность LLMОценка качества

GitHub-радар