Материалов: 7
Как инструкция, спрятанная в документе базы знаний, управляет ассистентом, как построить безопасный тестовый набор с канареечными токенами, посчитать ASR и какие защиты работают, а какие нет.
Как устроен автоматический red teaming LLM-системы: техники атак, проверяемые категории, метрики ASR и Security Score, цикл «базовый скан — усиление — повторный скан» и честные границы подхода.
PreToolUse-hook для Claude Code на Python: блокирует чтение .env, ключей и .pem, вывод переменных окружения, git push, reset --hard и массовое удаление. Правило, которое нельзя забыть.
Критичная уязвимость в AI Gateway у GitLab, git-конфиг как вектор атаки на кодовых агентов, «взрывные» промпты и отчёт об обходе Auto Mode. Плюс открытая модель Яндекса и сроки AI Act.
Red teaming LLM и агентов на базе DeepEval: 50+ уязвимостей и атаки с локальным запуском.
Фреймворк Microsoft для red teaming генеративного AI: сценарии атак, цели, оценщики.
Сканер уязвимостей LLM: набор проб на jailbreak, утечки, prompt injection и токсичность.