Материалов: 6
Как устроен автоматический red teaming LLM-системы: техники атак, проверяемые категории, метрики ASR и Security Score, цикл «базовый скан — усиление — повторный скан» и честные границы подхода.
Критичная уязвимость в AI Gateway у GitLab, git-конфиг как вектор атаки на кодовых агентов, «взрывные» промпты и отчёт об обходе Auto Mode. Плюс открытая модель Яндекса и сроки AI Act.
Red teaming LLM и агентов на базе DeepEval: 50+ уязвимостей и атаки с локальным запуском.
Фреймворк Microsoft для red teaming генеративного AI: сценарии атак, цели, оценщики.
Сканер уязвимостей LLM: набор проб на jailbreak, утечки, prompt injection и токсичность.
Декларативные evals и red teaming из командной строки: сравнение моделей и проверки в CI.