斯基GPT
主页|标签|归档|关于|RSS

🏷️ 标签: #Security

共找到 2 篇相关文章

$ 订阅我们——📱Telegram 频道◆📡RSS 订阅
首页→标签→#Security
2026/3/13

RAG 安全性 — 攻击者如何毒化 AI 知识库及应对措施

构建 RAG 系统以提高 AI 的准确性和上下文相关性时,通常会将文档、产品数据和知识库输入系统并进行准确性测试。然而,若攻击者在用户查询之前向知识库中注入恶意信息,可能会导致严重后果。根据 2025 年 USENIX Security 发布的研究,仅需五份精心设计的文档便可实现 90% 的攻击成功率。毒化 0.04% 的数据集可导致 98.2% 的攻击成功率和 74.6% 的系统失败。最危险的变...

#RAG系统#知识库#攻击#毒化#安全性
2026/3/12

在 Amazon Bedrock AgentCore 中使用策略确保 AI 代理的安全性

在 Amazon Bedrock AgentCore 中,策略创建了一个独立于代理自身推理的确定性执行层。通过将自然语言描述的业务规则转化为 Cedar 策略,可以实现细粒度的身份感知控制,确保代理仅访问用户被授权使用的工具和数据。此外,AgentCore Gateway 通过拦截和评估每个代理与工具的请求,在运行时应用这些策略,从而增强了安全性和合规性。...

#AI 代理#安全性#Cedar 策略#身份感知控制#AgentCore Gateway

🔗 相关标签

浏览所有标签 →

Powered by Cloudflare Workers + Payload CMS + Claude 3.5

数据源: OpenAI, Google AI, DeepMind, AWS ML Blog, HuggingFace 等