📄 中文摘要
RAG(检索增强生成)系统的安全性面临新的挑战,传统的安全扫描工具如 nmap、nuclei 或 DAST 工具无法有效识别其漏洞。RAG 系统广泛应用于企业 LLM 应用程序中,如客户支持机器人和内部知识库等,通常通过检索相关文档并将其注入 LLM 上下文中生成响应。由于其独特的架构,安全团队需要重新评估现有的安全扫描方法,以应对 RAG 系统带来的新型攻击方式。
Powered by Cloudflare Workers + Payload CMS + Claude 3.5
数据源: OpenAI, Google AI, DeepMind, AWS ML Blog, HuggingFace 等