新闻详情

新闻详情

首页 / 资讯中心 / 详情

企业AI最大的风险:从提效变成失控

发布时间:2026/11/17 1:17:40来源:尧图网络
企业AI最大的风险:从提效变成失控
警告朝鲜、伊朗等正利用AI绕过制裁、实施网络攻击并推动扩散融资进入“AI赋能”时代。AI不仅能批量生成虚假身份、自动管理空壳公司、优化加密货币洗钱策略更开始编排整个欺诈链条让攻击更快、更隐蔽、更规模化。一份来自英国皇家联合军种国防研究所(RUSI)的新报告指出AI模型正帮助朝鲜和伊朗等政权在规避检测的同时实施网络攻击。一份新研究报告警告称在未来三到五年内随着对手从AI辅助转型为AI赋能的规避制裁和扩散融资(PF)政府和私营部门都需要迅速调整其识别与缓解方案。这份名为《规避算法AI赋能的大规模杀伤性武器扩散融资的崛起》的报告由英国国防与安全智库皇家联合军种国防研究所发布报告将扩散融资(PF)定义为利用资金或金融服务来获取、开发或以其他方式交易大规模杀伤性武器(WMD)报告指出“朝鲜和伊朗目前正在开发和部署AI模型以协助实施规避制裁的活动。”核心发现包括AI目前已经能够批量生产高质的虚假文件并能实现报告所称的“管理庞大空壳公司网络的繁琐行政事务”自动化报告还指出AI驱动的系统能够“实时分析区块链模式从而动态调整加密货币混币策略有效规避检测工具”。此外报告提到“例如生成式AI等工具能够制造出复杂的虚假身份证明文件这已帮助朝鲜针对西方公司发起了网络钓鱼攻击。”该报告的作者、RUSI金融与安全研究中心高级客座研究员Dr. Aaron Arnold在邮件中表示写这份报告的起因是过去一年里朝鲜利用AI促进和增强其网络攻击的活动有所增加其表现形式为旨在为该国弹道导弹和核武器项目筹集资金的网络钓鱼计划。对于需要保护自身企业免受规避制裁活动侵害的企业IT主管他建议道“这在很大程度上意味着要适应这样一个技术环境传统以人为核心的安全防线正在被自动化技术所绕过。”Arnold表示对于IT主管而言“这可能需要引入防御性AI、采用基于行为的分析、在大量使用API或MCP(多芯片封装/多方案合规平台)时设置‘断路器’、更新员工培训并强化身份验证尤其是针对任何远程招聘环节。”区分AI辅助和AI赋能的活动是“核心”Greyhound Research首席分析师Sanchit Vir Gogia表示RUSI的这份报告至关重要“因为它指明了正确的结构性转变AI并不是凭空创造了规避制裁的手段而是压缩并放大了现有的有效方法。”他指出虚假文件、合成身份、空壳公司、隐瞒实际受益所有权、加密货币洗钱等规避制裁的手段无一新鲜。“改变的是现在组合这些方法的速度、质量、数量以及协调性。”他说道。根据Gogia的观点“区分AI辅助和AI赋能的活动是核心所在AI辅助的规避是将AI用于离散的任务写一封更好的邮件、制作一份更干净的文件、生成一个更逼真的虚假个人资料、翻译一份说辞、总结法规或准备一份看似合理的求职申请而AI赋能的规避则更为严重。”一种“结构性不对称”他表示这种策略“开始协调系统本身它将身份、文件、所有权结构、支付路径、云端访问、加密货币钱包、API调用和时间线串联在一起。两者的区别不在于AI是否帮人伪造了一份文件而在于AI是否开始编排整个骗局。”他指出这正是报告的发现应该让企业领导者感到担忧的原因“许多机构仍然假定坏人大多是人类、大多是线性的、大多是缓慢的这种假设正在失效AI让对手能够跨越更多渠道、使用更多语言、凭借更完善的文件和更强的耐心以更少的错误进行更多次尝试这超出了大多数企业审查流程所能承受的极限这并不是天才罪犯发现魔法的故事而是流水线式的通顺谎言击败普通控制手段的故事。”他指出目前的证据在身份欺诈、文件欺诈、合成人设、远程员工欺诈、网络钓鱼、社交攻击、加密货币混淆以及工作流滥用等策略上最为明显。“完全自主的规避网络已隐约浮现”他说道“它们很严重但目前还不是日常的常态。”Gogia表示这种区分很重要“如果企业执迷于电影般科幻的自主智能体场景却让远程招聘、供应商入驻、支付审批和文件审查漏洞百出他们将以最平淡乏味的方式落败。”他表示该报告对“不对称性”的把握也很准确。“攻击方可以跨生态系统进行学习”他说道“他们可以爬取公开信息、复用泄露的记录、研究执法模式、测试入驻表格、检查公共采购数据、关注法院文件、探测合规阈值并[利用这些信息]优化自己的行为。”相比之下防守方则受到隐私规则、碎片化数据、可解释性要求、管辖权边界、保守的运营模式和孤立的技术资产的限制。“攻击性AI进行广泛学习”他说道“防御性AI往往只能从碎片中学习这就是结构性不对称。”他解释说监管环境也放大了这一问题因为监管机构“仍然说着不同的方言。例如欧盟AI法案推动各机构对高风险AI承担更强的义务而NIST风格的框架则侧重于风险管理、透明度和治理。”信任架构问题他指出金融行动特别工作组(FATF)的预期推动了国家风险评估和反扩散控制而银行监管机构则聚焦于模型风险、问责制和业务韧性。“这些方向没有一个是无关紧要的问题在于罪犯并不会围绕监管工作流来组织自己他们是围绕结果来组织自己的。”Gogia表示这意味着“企业不能等待一套干净的全球规则手册它不会及时到来。CIO、CISO、合规官和董事会现在就需要一个切实可行的治理模型他们需要保护隐私的分析、受控的数据环境、审计追踪、法律保障以及明确的模型风险问责制。”他表示企业IT主管应该将这种情况视为一个信任架构问题而不仅仅是一个狭隘的制裁筛查问题他指出“让人不安的事实是AI不仅是在帮坏人写更好的钓鱼邮件或伪造更整洁的文件它还在帮他们在整个企业工作流链条中制造合法性。”可能的结果是一场“AI军备竞赛”报告作者Arnold还指出有迹象表明网络罪犯已经发现了新的AI技术和能力而合法企业同样可以将其用于合法的应用中。他表示“历史上罪犯针对棘手问题开发创新解决方案随后被执法部门采用的例子屡见不鲜我们的许多反金融犯罪政策实际上都是对坏人利用系统或以新颖方式使用技术实施犯罪的回应。在这种情况下我认为执法当局与坏人之间的一场‘AI军备竞赛’是最有可能的结果。”Gogia补充道“坏人并不是在教企业如何发明AI他们是在教企业信任从哪里泄漏这才是值得认真对待的教训。”最后我们整理出这套 AI 大模型 突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2025 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要 《 AI大模型 入门进阶学习资源包》下方扫码获取~资料展示下面是我整理的AI大模型学习资料和工具包预览适合收藏后按主题逐步学习。需要这份AI大模型资料清单的话在评论区回复「清单」即可我会根据大家的问题继续补充对应的实战内容。
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/15 4:54:16

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/16 19:23:38

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/16 6:47:19

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/16 17:28:18

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉