创建

登录 ReadmeX

或

了解我们如何处理你的信息: 隐私政策

ReadmeX

陪你读懂 AI 动态

今天,想先了解什么?

选一份动态总结,或直接聊聊你的问题。

社区和关注动态总结只属于你自己。

资讯

微软 PyRIT 推动生成式 AI 开放红队测试

AI 总结

微软 AI 红队与开源贡献者打造了 PyRIT,用于发现生成式 AI 系统的安全与防护弱点。该工具整合自动扫描、自适应多轮攻击和人工主导测试,并提供命令行扫描器、图形界面及可扩展的 Python 框架。

深度见解

PyRIT 让 AI 从业者能够面向模型和完整应用构建可重复的红队评估,并支持多个服务商。

Open-source AI red teaming toolkit from Microsoft. Test generative AI systems with automated scans, adaptive multi-turn attacks, and a web UI.

link

https://microsoft.github.io/PyRIT/


PyRIT: AI red teaming for models and applications

PyRIT (Python Risk Identification Tool for generative AI) is an open-source toolkit for finding security and safety weaknesses in generative AI systems through automated scans, adaptive multi-turn attacks, and human-led testing.

#PyRIT#Microsoft AI Red Team#OpenAI#Anthropic#Azure OpenAI#Microsoft Foundry#Google Gemini#AWS Bedrock#Hugging Face#Ollama#Groq#OpenRouter

原文约 2 分钟读完阅读原文
群聊

还没有评论,来说说你的看法。