microsoft/PyRIT
Фреймворк Microsoft для red teaming генеративного AI: сценарии атак, цели, оценщики.
e2e3723- Вердикт
- Пробовать
- Язык
- Python
- Звёзды
- 4 619 на
- Лицензия
- MIT
- Репозиторий
- GitHub →
Что делает
PyRIT (Python Risk Identification Tool) — open-source фреймворк, с помощью которого специалисты по безопасности и инженеры ищут риски в генеративных AI-системах. Авторы выпустили описание подхода в виде whitepaper «PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling». Лицензия MIT.
Где полезно
Когда нужно строить собственные red-team сценарии с оркестрацией, а не запускать готовый набор проб. Проект живой: релиз v1.1.0 вышел 4 сентября 2026, последний коммит датирован 14 октября.
Как я бы использовал в тестировании
Взял бы PyRIT для многошаговых сценариев против внутреннего ассистента: постепенное давление на модель, подмена роли, попытки вытащить системный промпт. Результаты сравнивал бы с прогонами garak: пересечения показывают очевидные дыры, а расхождения подсказывают, где нужны ручные сценарии.
Минусы
README коротко отсылает к сайту проекта, и порог входа выше, чем у утилиты с одним CLI-вызовом: нужно разобраться в понятиях фреймворка. Заметьте также, что старый адрес Azure/PyRIT на GitHub теперь помечен как архивный (у него 120 звёзд), актуальный проект живёт в организации microsoft, и ссылки в старых статьях могут вести не туда.