新闻详情

新闻详情

首页 / 资讯中心 / 详情

Privacy-Aware Decoding: Mitigating Privacy Leakage of Large Language Models in Retrieval-Augmente...

发布时间:2026/9/29 3:12:04来源:尧图网络
Privacy-Aware Decoding: Mitigating Privacy Leakage of Large Language Models in Retrieval-Augmente...
文章主要内容总结研究背景:检索增强生成(RAG)通过结合外部知识源提升大语言模型(LLMs)的事实准确性,但当检索涉及私人或敏感数据时,易受提取攻击导致机密信息泄露(如逐字复述隐私内容或个人可识别信息PII)。现有问题:现有防御方法多针对检索阶段(如合成数据生成、加密、后处理等),但解码阶段仍可能成为泄露渠道(如低温或贪婪解码会逐字输出敏感内容);且部分方法(如差分隐私随机梯度下降DPSGD)需大量训练,难以适配大型LLMs。提出方法:提出隐私感知解码(Privacy-Aware Decoding, PAD),一种轻量级推理时防御机制,通过以下方式实现隐私保护:基于置信度的筛选:识别高风险token,有选择性地保护;高效敏感度估计:最小化不必要的噪声注入;上下文感知噪声校准:平衡隐私保护与生成质量;雷尼差分隐私(Rényi Differential Privacy, RDP)会计:追踪累积隐私损失,提供明确的响应级(ε, δ)-DP保证。实验结果:在HealthCareMagic、ChatDoctor-iCliniq、Enron Mail三个真实数据集上,PAD在减少隐私泄露(如重复隐私内容、语义重叠)的同时保持生成质量(困惑度较低),性能优于现有检索阶段防御和后处理方法。文章创新点
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【小白向】OpenClaw v2.7.9 一键部署实战:Windows 下用 TaoToken 打通 AI 智能体自动化链路 2026/9/29 4:21:29

【小白向】OpenClaw v2.7.9 一键部署实战:Windows 下用 TaoToken 打通 AI 智能体自动化链路

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
不是进阶阶梯,而是协作维度:重新理解 Claude Code 中的 Commands、Skills 与 Agents 与 TaoToken 配置 2026/9/29 4:21:29

不是进阶阶梯,而是协作维度:重新理解 Claude Code 中的 Commands、Skills 与 Agents 与 TaoToken 配置

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
WinUI 3 主题机制与深色模式切换:资源字典、动态资源与 Qt 对照 2026/9/29 4:21:22

WinUI 3 主题机制与深色模式切换:资源字典、动态资源与 Qt 对照

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
纯小白教程!从0到1部署Claude并接入TaoToken统一API通道 2026/9/29 4:21:16

纯小白教程!从0到1部署Claude并接入TaoToken统一API通道

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
用 C++ 复刻 OpenClaw/Hermes 智能体:TaoToken 统一 Key 接入 MCP 工具链的配置骨架 2026/9/29 4:21:16

用 C++ 复刻 OpenClaw/Hermes 智能体:TaoToken 统一 Key 接入 MCP 工具链的配置骨架

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
Hugging Face Space 免费部署小龙虾:用 TaoToken 统一 Key 打通配置骨架 2026/9/29 4:21:16

Hugging Face Space 免费部署小龙虾:用 TaoToken 统一 Key 打通配置骨架

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉