新闻详情

新闻详情

首页 / 资讯中心 / 详情

直面 AI 数据泄露风险!Agentic OS 如何构筑用户代码的安全防线?

发布时间:2026/10/1 8:12:01来源:尧图网络
直面 AI 数据泄露风险!Agentic OS 如何构筑用户代码的安全防线?
一、当代码仓库被悄然打包2026 年 7 月研究者在一份公开的 Grok Build 网络层分析https://gist.github.com/cereblab/dc9a40bc26120f4540e4e09b75ffb547中披露xAI 的 Grok Build CLI 0.2.93 会把 Git 已跟踪文件和完整提交历史打包上传。即使提示词明确要求不要读取文件上传包里仍包含未被模型打开的文件。后续复测显示这项行为已被服务端开关关闭但结果只覆盖测试所用的账号和设备。同年9 月一位开发者在自己的电脑上发现了一个奇怪的大文件313MB、加密藏在一款 AI 编程助手的隐藏目录里不只是当前的代码还有整个 Git 仓库历史。这两次发现暴露了同一个问题AI 编程助手可能在用户难以感知的情况下获取用户代码和完整 Git 历史并向外发送造成代码数据泄露。即使相关服务端接口已经关闭用户仍难以判断客户端实际读取了什么、是否还存在其他传输通道以及风险发生时能否及时阻断。因此仅凭设置页或提示词无法确认 AI 编程助手实际读取了哪些代码、是否仍通过其他通道向外传输以及风险发生时能否及时阻断。接下来要讨论的是怎样记录 Agent 的文件、进程和网络行为并对高风险动作进行处置。二、我们的做法先“看得见”再“管得住”Grok Build 的问题在于用户很难只凭界面设置或提示词判断它实际读取了哪些文件、启动了哪些进程以及随后连接了哪些外部地址。要判断代码、配置或凭据是否处于风险链路中需要先从系统执行层留下记录再根据这些事件之间的关系作出策略判断。在自研 Agentic OS 中AgentSight OS Harness负责执行侧记录AgentSecCore 负责策略判断与处置。围绕这条风险链路我们先回答三个问题。问题一Grok Build 实际读取了什么AgentSight OS Harness 从执行侧记录文件访问和进程关系。无论 Grok Build 读取源代码、Git 信息还是 .env 等敏感配置相关行为都会留下可查询的记录。问题二读取这些内容后它是否继续访问了外部地址AgentSight OS Harness 同时记录网络连接并将文件访问、进程关系和外部连接关联起来。安全人员可以沿着进程链路复核 Grok Build 读取了哪些文件随后由哪个进程发起了连接。这里能够确认的是行为链路单凭这些记录不能直接证明具体文件内容已经被传出。问题三发现风险后能否及时拦截AgentSecCore 根据策略判断敏感文件读取、风险标记传递和外部连接是否构成风险。审计模式下系统生成告警并保留完整记录在已支持的拦截场景中系统会在连接建立前拒绝请求。下一章将沿着这三个问题复现 Grok Build 读取 .env 文件并访问外部地址的过程。三、一次危险操作是怎样被“看见”的我们让 Grok Build 先读取工作区中的 .env 文件再访问外部地址复现“读取敏感文件后继续对外连接”的问题。验证期间AgentSight 开启审计模式只记录行为不执行拦截。Grok Build 读取 .env 文件后系统为相关进程添加 CREDENTIAL 风险标记并沿进程关系传递。当带有该标记的进程访问外部地址时系统触发策略判定并生成风险记录。在风险案件视图中可以看到相关进程携带的 CREDENTIAL 标记系统将该行为识别为“凭据衍生数据访问了不可信网络目标”。进一步查看审计记录可以看到 .env 文件读取、标签传递、两个外部 IP 连接及策略判定依次关联还原了此次风险行为的完整过程。这次复现验证表明AgentSight 能够在已接入范围内持续追踪并关联敏感文件读取、风险标签传递与外部网络连接形成完整、可追溯的风险链路。四、AgentSight 怎么保护用户代码第三节展示了 AgentSight 在审计模式下如何关联敏感文件读取、CREDENTIAL 标记传递与外部网络连接。接下来我们在相同环境中将 AgentSight 切换为拦截模式并让 Grok Build 再次读取 .env 文件、尝试连接外部地址。Grok Build 读取 .env 文件后CREDENTIAL 标记会沿进程关系传递至发起连接的相关进程。当该进程调用 connect() 时系统命中拦截策略并在连接建立前拒绝请求。风险拦截页展示了此次策略命中结果拦截策略作用于 Grok Build 的相关进程。结合命中记录和进程关系可以复核从 .env 文件读取、CREDENTIAL 标记传递到外部连接尝试被拦截的过程。拦截发生在 connect() 请求进入 TCP 协议栈之前。系统返回 -EPERM此时 SYN 报文尚未生成连接请求无法离开本机Grok Build 在用户态看到的是被阻断访问外部不可信网络并自行尝试换方式重试——但拦截发生在系统调用层换路径也无法绕过。这次复现验证表明在已支持的场景中AgentSight 能够在审计风险链路的基础上执行策略拦截在相关进程发起外部连接时阻断此次连接尝试。五、让 Agent 的行为可观察、可干预围绕 Grok Build 的同一条风险路径本次复现分别验证了 AgentSight 的审计追踪与策略拦截能力。审计模式下系统可关联敏感文件读取、CREDENTIAL 标记传递及外部网络连接辅助安全人员复核行为链路在已支持的场景中切换至拦截模式后同类连接尝试可由系统侧拒绝。随着 AI 编程助手获得更多文件、进程和网络权限安全控制需要覆盖实际执行过程。AgentSight通过系统侧记录与策略执行使关键操作可查询、可追溯并在满足接入条件时进行干预。相关文章阅读让 Agent 少踩坑比压缩 Prompt 更省钱从 Agent Harness 到 OS Harness当凭据越过边界时如何阻断ANOLISA AgentSight让 Agent 的每一次“沉默”都无处躲藏AI Agent 时代下一代 Shell 应该长什么样ANOLISA 亮相 WAIC“共赢金砖”论坛入选“智用·人工智能国际公共产品图谱”人和 Agent 第一次共享同一份 CLI 体验 —— ANOLISA v1.0发布你在用 Hermes它也能拥有 ANOLISA 全套能力了阿里云亮出 Agent 基础设施全景图ANOLISA 要做每一个 Agent 的运行底座Agent 越能干你越不敢放手ANOLISA 给它穿上全套防护Agent 烧钱如流水Agentic OS (ANOLISA) 帮你逐笔看清 Token 账单Agentic OS 实战指南手把手教你从 ANOLISA 源码安装阿里云发布 Agentic OS首个面向 Agent 的操作系统—— 完 ——阿里云智能体操作系统 Agentic OSAgent 系统管家致力于打造更高效更安全的 Agent Native 环境。我们正在进入新的智能操作系统范式 Agentic OS 时代「阿里云智能体操作系统Agentic OS」是传统操作系统上叠加的一层转换层能更好地支持 Agent 使用操作系统并且使 Agent 获得更好的性能。我们重新定义了操作系统为您带来完整的 Agentic OS 体验。开源使用如果喜欢这个项目请点 Star ⭐支持。https://github.com/agentic-os-org/ANOLISA阿里云产品上使用https://help.aliyun.com/zh/alinux/agentic-os-getting-started
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

16S rRNA扩增子数据提交NCBI:SRA与BioProject全流程 2026/10/1 9:56:32

16S rRNA扩增子数据提交NCBI:SRA与BioProject全流程

做微生物组的人迟早会撞上这一步:文章投出去,编辑或审稿人在返修意见里加一句,请把 16S rRNA 测序数据存到公共数据库,并在文中给出登录号。第一次碰到的时候我整个人是懵的——原始 fastq 在硬盘里躺了半年,文件名七零…

阅读更多 →
大模型服务器部署全攻略:选型、云资源与内网穿透实践 2026/10/1 9:56:31

大模型服务器部署全攻略:选型、云资源与内网穿透实践

1. 部署前最重要的不是选框架,而是先定位场景我接触过的不少团队,拿到"部署大模型"这个任务后第一反应就是搜框架排名:vLLM 还是 SGLang?群里的朋友推荐了哪个?然后照着最热门的方案拉一个镜像,模…

阅读更多 →
C与Lua混合开发实战:目标平台选型、嵌入流程与性能优化 2026/10/1 9:56:25

C与Lua混合开发实战:目标平台选型、嵌入流程与性能优化

1. 目标平台与技术栈的选型逻辑1.1 为什么“目标平台”决定了整个项目的走向做任何一款游戏或者工具类项目,第一件事不是写代码,而是把“跑在哪儿”这件事想清楚。目标平台这四个字听起来像是立项文档里的一句废话,但实际上它直接决定了你后面…

阅读更多 →
MAS 激活脚本:新手 3 步免费快速激活 Windows 11 与 Office 完整指南 2026/10/1 9:56:25

MAS 激活脚本:新手 3 步免费快速激活 Windows 11 与 Office 完整指南

MAS 激活脚本:新手 3 步免费快速激活 Windows 11 与 Office 完整指南 【免费下载链接】Microsoft-Activation-Scripts Open-source Windows and Office activator featuring HWID, Ohook, TSforge, and Online KMS activation methods, along with advanced trouble…

阅读更多 →
EP_无人机机巢的参数和米定位、对比 2026/10/1 9:56:25

EP_无人机机巢的参数和米定位、对比

EP:Engineering and Project 当前无人机的机场的配置存在两个等级:一、高配,全天候,全适应;二、减配,提高出勤条件、降低出勤效率。而当前大疆无人机机场和道通无人机机巢正是这两类的典型代表,…

阅读更多 →
【MATLAB例程】三维RRT(快速扩展随机树)路径规划与TDOA(到达时间差)定位算法。附完整代码的下载链接 2026/10/1 9:56:25

【MATLAB例程】三维RRT(快速扩展随机树)路径规划与TDOA(到达时间差)定位算法。附完整代码的下载链接

原创代码,包运行成功。讲解、定制可联系我 文章目录简介路径规划模型量测模型运行结果MATLAB源代码简介 程序实现三维快速扩展随机树(Rapidly-exploring Random Tree, RRT)避障路径规划与到达时间差(Time Difference of Arrival,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉