斯基GPT
主页|标签|归档|关于|RSS

🏷️ 标签: #attack

共找到 1 篇相关文章

$ 订阅我们——📱Telegram 频道◆📡RSS 订阅
首页→标签→#attack
2026/3/13

RAG 安全性 — 攻击者如何毒化 AI 知识库及应对措施

构建 RAG 系统以提高 AI 的准确性和上下文相关性时,通常会将文档、产品数据和知识库输入系统并进行准确性测试。然而,若攻击者在用户查询之前向知识库中注入恶意信息,可能会导致严重后果。根据 2025 年 USENIX Security 发布的研究,仅需五份精心设计的文档便可实现 90% 的攻击成功率。毒化 0.04% 的数据集可导致 98.2% 的攻击成功率和 74.6% 的系统失败。最危险的变...

#RAG系统#知识库#攻击#毒化#安全性

🔗 相关标签

浏览所有标签 →

Powered by Cloudflare Workers + Payload CMS + Claude 3.5

数据源: OpenAI, Google AI, DeepMind, AWS ML Blog, HuggingFace 等