防范AI助长的网络诈骗:从真实案例看信息安全意识的力量

“防微杜渐,方可不惧风波。”——《左传》
在数智化、智能化、具身智能化融合的浪潮中,技术的光辉与阴影往往同框出现。若缺乏安全意识,任何“神器”都可能被不法分子搬来当作凶器。下面,我将用三则近期典型的安全事件,进行头脑风暴式的深度剖析,帮助大家在脑中建立起警惕的“安全防线”。


案例一:Google起诉中国“外星企业”利用Gemini AI批量生成钓鱼网站

2026年6月12日,Help Net Security 报道了 Google 对一家位于中国的网络诈骗组织——Outsider Enterprise(外星企业)提起诉讼的新闻。该组织利用包括 Google 自家 Gemini 在内的生成式 AI,短时间内自动化生成了 超过 9,000 个伪装精美的钓鱼网站,并通过 Telegram、短信等渠道向全球用户推送虚假的包裹递送、银行通知、账户安全警告等信息。

攻击链完整图
1. AI 生成内容:利用 Gemini 生成逼真的网页布局、文案与代码;
2. 自动化部署:通过脚本批量上传至云主机,形成“即开即用”的钓鱼平台;
3. 社交工程传播:借助 Telegram 机器人、短信群发平台,将钓鱼链接配合“紧急”“限时”等词汇包装;
4. 数据收集:用户输入的账号、密码、支付信息被实时转发至暗网。

影响估算
– 受害者 数十万,直接经济损失 上千万美元
– 关联的恶意 URL 超过 1,000,000 条,每日产生 数十万 条垃圾信息;
– 仅在 5 天内,Android 用户标记的垃圾短信就达到 55,000 条。

教训提炼
AI 并非只会造福:生成式模型的强大创作能力,同样可以被用于批量生成欺诈内容,放大“规模效应”。
信任链被切断:传统的“来自可信平台”的认知已不再可靠,任何看似正式的通知都可能是伪装。
平台协同防御:Google 在诉讼中提到将联合 FBI、AT&T、T‑Mobile、Verizon 等运营商拦截恶意短信,这提醒我们防御必须是跨部门、跨行业的协同作战。


案例二:AI 深度伪造视频骗取金融巨额转账

2025 年底,某大型国有商业银行发生一起 AI 伪造高管指令 的案件。犯罪分子使用深度学习模型生成了该行副行长的语音和视频,内容是让财务部门将 “紧急项目资金” 转至指定账户。视频画质清晰、口音、表情与真实副行长几乎无差别,甚至在画面左下角置入了假冒的官方徽标。

关键步骤
1. 数据采集:通过公开的会议录像、新闻采访、社交媒体剪辑,收集目标人物的 300 多小时音视频素材;
2. 模型训练:利用开源的音频合成模型(如 VALL-E)与视频生成模型(如 DeepFake)进行二次训练;
3. 伪装投递:将生成的视频以加密邮件形式发送给财务主管,邮件标题标明 “紧急”,并在邮件正文附带伪造的内部审批文件;
4. 执行转账:财务部门在未核实的情况下,依据“副行长指示”完成了 约 5,000 万元 的转账。

防御失误
身份认证单点失效:仅凭视觉或听觉信息判断身份,缺乏多因素认证(MFA)或内部授权链路校验;
审计流程被绕过:未设置对“大额/异常”转账的二次人工复核;
技术盲区:对 AI 生成内容的辨识缺乏工具和培训。

经验教训
“看图不如看代码”:对任何涉及资金的指令,都应通过内部系统(ERP、OA)进行追踪,而非直接依据邮件或聊天工具的内容。
多因子、全链路验证:即使是高层指令,也必须经过电话验证、密码输入、指纹/人脸等双重或多重身份确认。
AI 识别工具入职:部署基于机器学习的 DeepFake 检测系统,以实现对异常媒体内容的自动报警。


案例三:供应链攻击利用 AI 自动化漏洞扫描,导致企业核心数据泄露

2024 年 11 月,全球知名物流企业 LogiX(化名)遭到一次高度组织化的供应链攻击。攻击者首先渗透了该公司使用的第三方仓储管理系统(WMS)提供商的开发环境,随后利用 AI 驱动的漏洞扫描工具(如 CodeQL、Semgrep)对其代码库进行全自动化审计,找出 数十个未修补的安全漏洞

攻击路径
1. 入口渗透:通过钓鱼邮件获取了 WMS 供应商内部员工的账号密码;
2. AI 自动化扫描:使用预训练的漏洞检测模型对供应商的 Git 仓库进行批量扫描,快速定位 OWASP Top 10 中的 SQL 注入、跨站脚本(XSS)等漏洞;
3. 漏洞利用:针对发现的漏洞编写 Exploit,植入后门;
4. 横向移动:后门帮助攻击者横向渗透至 LogiX 的内部网络,获取了客户订单、运输线路、金融结算等核心业务数据;
5. 数据外泄:在未被发现的两个月内,攻击者每周通过暗网出售 10 万条记录,累计泄露数据 超 200 万条

值得注意的细节
AI 扫描速度惊人:传统手工审计需要数周时间,AI 自动化仅用了 48 小时完成全库扫描;
供应链缺口放大风险:单一第三方的安全缺陷,直接导致上游企业整个业务系统暴露;
后期发现困难:后门代码极为隐蔽,且利用了正常业务流量进行通讯,导致安全监控系统误报为正常流量。

防御对策
供应链安全评估:对所有关键第三方供应商进行定期的渗透测试和安全审计,尤其是代码审查环节;
AI 工具的双刃剑治理:在内部也引入 AI 静态分析工具,确保自身代码质量,防止成为攻击者的“肥肉”;
异常行为检测:部署 UEBA(用户和实体行为分析)平台,对业务流量进行基线建模,一旦出现异常 API 调用即触发告警。


从案例到行动:在数智化、智能化、具身智能化时代的安全自救指南

1. 认知清晰:技术是把“双刃剑”,既能赋能也能危害

“工欲善其事,必先利其器。”
在 AI 生成内容、自动化攻击、深度伪造层出不穷的今天,所有职场人士都必须把 “技术风险认知” 放在首位。无论是邮件、短信、即时通讯还是业务系统的弹窗,都可能是 AI 助纣为虐 的“温床”。如果我们只把安全当成 IT 部门的事,而不在每一次点击前多想一秒,后果便是 自身成为攻击链的节点

2. 精细化防护:从个人到组织,层层筑起安全堡垒

  • 多因素认证(MFA):开启指纹、面容、一次性密码等多重验证;
  • 最小特权原则:仅授予完成工作所需的最小权限,防止横向扩散;
  • 定期密码轮换:使用密码管理器生成高强度随机密码,避免重复使用;
  • 安全更新:及时打补丁,尤其是浏览器、插件、企业内部系统;
  • AI 识别工具:部署能够检测 DeepFake、AI 生成文本的安全插件或服务。

3. 把“安全思维”写进每一次业务流程

  • 审批链全程可追溯:对所有涉及资金、数据导出、系统变更的请求,都要求在企业 OA 中留下完整的审批记录与身份验证日志;
  • 异常行为实时监控:利用 UEBA、SIEM 系统对登录、文件访问、网络流量进行异常检测;
  • 供应链安全清单:每一次引入新供应商、第三方插件,都必须完成《供应链安全评估表》。

4. 主动学习,强化个人安全技能

  • 参加信息安全意识培训:本公司即将在 7 月初 拉开信息安全意识培训的大幕,课程涵盖 “AI 生成内容辨别技巧”“钓鱼邮件实战演练”“数据泄露应急响应”。请大家预留时间,积极报名。
  • 定期演练:每月一次的“红队 vs 蓝队”实战演练,将帮助大家在模拟攻击中熟悉应急流程;
  • 自学资源:公司内部知识库已经上线《信息安全快速入门》《AI 安全防护白皮书》等文档,建议每位员工每周抽 30 分钟阅读、做笔记。

5. 文化建设:让安全成为企业 DNA 的一部分

“不以规矩,不能成方圆。”——《礼记》
我们要把 “安全第一” 的价值观渗透到每一次会议的议程、每一封内部邮件的签名、每一次项目评审的检查清单里。只有形成 全员参与、层层负责 的安全文化,才能抵御 AI 带来的“变形金刚”式攻击。


号召:加入即将开启的信息安全意识培训,打造“AI 时代的安全盾”

亲爱的同事们:

  • 你是否曾经收到“系统异常请立即登录”的短信,却犹豫不定?
  • 你是否在忙碌的工作间隙,打开了一个看似正规却可能是钓鱼的网站?
  • 你是否在使用基于 AI 的工具时,忽略了它可能泄露企业敏感信息的风险?

以上情形在过去的三大案例中悉数出现。不幸的是,技术的进步往往先于安全防护的提升,但我们可以主动弥补这段时间的差距。

培训亮点
1. 案例驱动:结合 Google 诉讼、深度伪造视频、供应链 AI 攻击等真实案例,帮助大家快速识别常见威胁。
2. 实战演练:模拟钓鱼邮件、AI 生成伪造视频、漏洞扫描等场景,现场演练应对流程。
3. 工具上手:现场教学如何使用浏览器插件检测 AI 生成内容,如何快速检查邮件的 DKIM/SPF 记录。
4. 应急演练:学习“发现疑似攻击后 10 分钟内的操作清单”,从报告、隔离、取证到恢复。
5. 考核认证:完成培训并通过测试后,颁发《信息安全意识合格证》,计入年度绩效。

培训时间:2026 年 7 月 10 日(周一)上午 9:00 – 12:00(线上 + 线下双模)
报名方式:登录企业培训平台 → 搜索 “信息安全意识培训” → 点击 “立即报名”。
参训要求:所有部门员工必须在 7 月 15 日前完成报名,未报名者将收到部门负责人提醒。

让我们 从个人做起、从细节抓起,在 AI 大航海时代,真正把“技术为善”落到实处。一次培训,可能拯救千千万万的账户、数据和信誉。请大家行动起来,别让“AI”成为“黑客的助推器”,而是让我们自己成为 AI 安全的守门人

“君子慎独,方能不为所动。”——《论语》
同时,也请在学习之余,给自己点个“赞”,因为 持续学习 正是对企业最好的回报。

让我们携手,构筑AI时代最坚固的信息安全防线!

信息安全意识培训组
2026 年 6 月 13 日

安全是一场没有终点的马拉松,每一次点击、每一次转发、每一次代码提交,都可能决定胜负。让我们在这条跑道上,一起跑得更稳、更快、更安全。

昆明亭长朗然科技有限公司不仅提供培训服务,还为客户提供专业的技术支持。我们致力于解决各类信息安全问题,并确保您的系统和数据始终处于最佳防护状态。欢迎您通过以下方式了解更多详情。让我们为您的信息安全提供全方位保障。

  • 电话:0871-67122372
  • 微信、手机:18206751343
  • 邮件:info@securemymind.com
  • QQ: 1767022898

从“压缩妖童”到AI时代的安全守望——职工信息安全意识提升行动指南


序章:一次头脑风暴的奇思妙想

想象一间办公室的咖啡机突然发出低沉的嗡鸣——那不是咖啡准备好了,而是它正在悄悄“冲”进网络的每一台终端;再想象,午后同事们打开一封“祝福”邮件,里面的附件竟是一枚看似普通的压缩包,点开后弹出一段古怪的弹窗:“恭喜您,已赢得‘免费升级’”。如果我们把这两幅画面放进同一幅油画里,那画面的标题必定是《信息安全的隐形战场》。

这正是当下信息安全的真实写照:康庄大道上潜伏的“压缩妖童”,以及AI、数据、云端交织的巨大网络丛林。如果不提前做好防护,哪怕是一颗微小的种子——比如一次未打补丁的WinRAR——也能在极短的时间内萌芽成毁灭性的“信息毒瘤”。以下,我将通过两个典型案例,以血肉并存的方式呈现“漏洞利用”的全过程,帮助大家在脑中立下防线、在行动上筑起城墙。


案例一:Gamaredon(UAC‑0010)玩转WinRAR路径遍历,变形HTA发动“闪电战”

1. 背景概述

2025 年 9 月,全球著名的安全厂商趋势科技(Trend Micro)首次披露,俄罗斯黑客组织 Gameredon(亦称 UAC‑0010、Shuckworm、Earth Dahu)已经将 WinRAR 路径遍历漏洞(CVE‑2025‑8088) 纳入其常用武库。该漏洞允许攻击者在不需要管理员权限的情况下,利用特制的压缩文件读取或写入系统任意路径的文件,从而实现代码执行。

2. 攻击链细节

  1. 投递载体:攻击者通过钓鱼邮件向乌克兰政府与军方人员发送带有精心构造的 .rar 文件。邮件标题常用“紧急会议记录”“项目方案”等诱导性词汇,迫使收件人急于打开。
  2. 漏洞触发:收件人在 Windows 环境下双击打开压缩包时,WinRAR 解析文件路径时未对“..”(父目录)进行充分过滤,导致内部的 HTA(HTML Application)文件被解压到系统启动目录(%APPDATA%\Microsoft\Windows\Start Menu\Programs\Startup)或 C:\Windows\System32
  3. 恶意脚本执行:解压后的 HTA 文件内嵌 VBScript,利用 Shell.Application 对象实现本地文件读取,随后将恶意代码写入 VBS/VBE 脚本并在系统启动时自动执行。
  4. Cloudflare Tunnel 取证:为了规避传统安全网关的检测,Gameredon 在其 C2(指挥控制)服务器前部署 Cloudflare Tunnel,将恶意 HTA 通过加密的隧道传输至目标机器,极大提高了流量的隐匿性。

3. 影响评估

  • 横向渗透:一旦 HTA 成功执行,攻击者即可通过已植入的 VBS 脚本窃取域账号凭证,进一步在内部网络展开横向移动。
  • 持久化:将恶意脚本写入启动文件夹实现开机自启,即使系统重启也能保持持续控制。
  • 情报泄露:通过后台 C2 服务器收集文档、邮件及系统信息,最终导致乌克兰关键军事指令被外泄,潜在影响波及作战调度与后勤保障。

4. 教训归纳

  • 补丁是生存的第一道防线:该漏洞在 2025 年 7 月已有官方补丁发布,但由于 WinRAR 缺乏自动更新机制,广大的终端用户仍停留在旧版。
  • 不轻信“文件即安全”:即便是常用的压缩工具,也可能成为攻击的跳板。任何来源不明的压缩包,都应先在隔离环境中验证。
  • 监控异常启动项:系统启动目录的任何新增脚本,都应纳入监控与审计。

案例二:UAC‑0226(Shadow‑Earth‑066)借助同一漏洞散布“GiftedCrook”窃密软件

1. 背景概述

2026 年 2 月,安全团队在对乌克兰境内一家能源企业的异常流量进行追踪时,发现另一支俄罗斯黑客组织 UAC‑0226(代号 Shadow‑Earth‑066)开始利用 CVE‑2025‑8088 进行大规模的恶意软件投放。其投放的目标是最新版本的 GiftedCrook——一款专门用于数据窃取的“信息窃贼”。

2. 攻击链细节

  1. 社交工程:UAC‑0226 通过伪装成能源行业的技术支持团队,发送带有 .rar 附件的邮件,声称“系统升级包”。邮件正文中提供了一个伪造的技术文档链接,进一步提升可信度。
  2. 漏洞利用:收件人在未更新 WinRAR 的情况下打开压缩包,漏洞触发后,攻击者利用路径遍历写入 C:\Windows\System32\giftedcrook.exe,并在同目录下放置 run.vbs 启动脚本。
  3. 恶意软件执行run.vbs 调用 giftedcrook.exe,该程序在后台执行以下操作:
    • 键盘记录:捕获用户输入的用户名、密码、API 密钥。
    • 文件搜集:递归扫描网络共享目录,收集包含“财务”“合同”等关键字的文档。
    • 反驱动加密:利用自研加密模块对窃取的数据进行混淆,避免被传统防病毒软件检测。

  4. C2 隧道:窃取的数据通过同样的 Cloudflare Tunnel 传输至位于俄罗斯境内的 C2 服务器,通信流量被伪装为正常的 HTTPS 流量。

3. 影响评估

  • 经济损失:企业因核心业务资料被泄露,导致合同重新谈判、客户信任度下降,直接经济损失高达数百万元人民币。
  • 合规风险:泄露的个人信息触碰《个人信息保护法》与《网络安全法》相关条款,公司面临监管部门的高额罚款与整改要求。
  • 供应链安全:窃取的技术资料被进一步转卖给其他国家的竞争对手,形成了跨国供应链的安全风险链。

4. 教训归纳

  • 多层防御:光靠防病毒软件无法阻挡利用系统漏洞直接写文件的攻击,需要在 文件完整性监控白名单行为检测等层面构建防御。
  • 最小权限原则:即便是普通用户,也不应拥有写入系统关键目录的权限,限制用户对 C:\Windows\System32 的写入可有效降低攻击成功率。
  • 情报共享:及时将已知的漏洞利用信息(如 CVE‑2025‑8088)在行业安全联盟内共享,可帮助更多企业提前做好防御。

场景升华:在智能体化、数据化、信息化的融合时代,安全挑战更趋复杂

自从 AI 大模型云原生物联网 以及 边缘计算 进入企业运营的每一个角落后,信息系统的攻击面已经从“单一终端”向 “全景生态” 扩散。下面列举几种正在改变我们安全思维的趋势:

  1. AI 生成式攻击
    大模型可以在数秒钟内生成高仿真钓鱼邮件、恶意脚本甚至可执行文件,降低了攻击者的技术门槛。正如古人云:“工欲善其事,必先利其器”,我们也必须让“防护之器”同样锐利。

  2. 数据流动的无形边界
    随着 数据湖实时流处理(如 Flink、Kafka)在企业内部的普及,敏感数据在不同系统之间快速传递。若缺乏 数据标签细粒度访问控制,即使没有传统的文件泄露,也可能在数据流动的瞬间被窃取。

  3. 云原生服务的 “即服务即风险”
    Kubernetes、Serverless、容器化微服务的弹性伸缩固然让业务更灵活,但容器镜像的 Supply Chain 攻击(如 “SolarWinds”)已经证明,依赖链 可能是最薄弱的环节。

  4. 智能体(Agent)协作的双刃剑
    企业内部的安全运营中心(SOC)正引入 AI Agent 来自动化探测、响应。但若攻击者也植入恶意 Agent,便能在系统内部潜伏、伪装与正常行为难辨。

综上所述,单点防御已不再足够,我们需要 “纵横交错的防御矩阵”:从终端到云端、从身份到数据、从技术到制度,全链路、全景式的安全治理。


号召行动:加入即将开启的信息安全意识培训,点燃个人防御的“星火”

“千里之行,始于足下。”——《老子·道德经》
“知之者不如好之者,好之者不如乐之者。”——《论语·雍也》

1. 培训目标——让每位职工成为安全的第一道防线
认知升级:了解最新漏洞(如 CVE‑2025‑8088)背后的技术原理,掌握常见社会工程手段的识别技巧。
技能实战:通过模拟钓鱼、红蓝对抗实验室,亲手演练快速隔离、日志分析与应急响应。
行为养成:构建“每天 5 分钟安全检查”习惯,包括系统补丁状态、启动项审计、账号密码强度检查等。

2. 培训形式——多元化、沉浸式、即学即用
线上微课(每课 6–8 分钟,适配碎片化学习)
线下工作坊(实战演练、案例复盘)
AI 虚拟导师(基于 Gemini 3.5 Live Translate 多语言实时翻译,帮助非母语同事快速理解安全概念)
安全知识闯关(采用积分制、排行榜,激励员工积极参与)

3. 培训亮点——让学习更有价值、更有乐趣
“安全情报速报”:每周推送最新国内外漏洞动态、APT 攻击案例(包括本次 Gamaredon、UAC‑0226 案例的最新进展),帮助员工保持“信息新鲜感”。
“安全小剧场”:采用轻松幽默的短视频剧本,以“压缩妖童”与“AI 机器人”对话的方式演绎攻击场景,降低专业术语的门槛。
“一键自检”工具:内置在公司内部的自研安全助手,帮助员工在几分钟内完成系统补丁、杀毒、账户异常的全局检查,输出可执行的整改报告。

4. 培训效果评估——以数据说话
前后测:通过前置问卷了解员工对关键安全概念的掌握程度,培训结束后进行同等测评,提升率目标≥30%。
行为监测:利用 SIEM 系统对员工工作站的安全事件(如阻断的恶意文件、被标记的钓鱼邮件)进行统计,合规率提升至 95% 以上。
业务影响:通过对比培训前后安全事件响应时间(MTTR),目标降低 40%,实现“早发现、快响应”。

5. 参与方式——一步到位,轻松加入
– 登录公司内部学习平台(统一账号),在 “信息安全意识培训” 章节点击 “立即报名”
– 报名后即自动加入 “安全星火社群”,与同事一起交流学习心得,参加每月一次的 “安全咖啡聊”(线上线下结合),共享最佳实践。

6. 结语——让安全成为企业文化的一部分

在信息化浪潮中,安全不是技术部门的专属话题,而是每一位职工的日常职责。正如《孙子兵法》所言:“兵者,诡道也。” 攻击者利用诡计与技术渗透系统,而我们必须用“知彼知己,百战不殆”的智慧与坚持不懈的防护,构筑起不可逾越的安全堤坝。

从今天起,让我们一起把 “及时更新”“细致审计”“主动防御” 写进每一位同事的工作清单;让 “安全意识” 成为公司每一次会议的开场白;让 “安全文化” 成为企业最坚固的护城河。

让我们在即将开启的培训中,相互学习、共同成长,点燃信息安全的星火,守护企业的数字未来!

安全是每个人的事,防护从你我开始。


安全 意识 培训 关键字

昆明亭长朗然科技有限公司致力于推动企业信息安全意识的提升,通过量身定制的培训方案来应对不同行业需求。我们相信教育是防范信息泄露和风险的重要一环。感兴趣的客户可以随时联系我们,了解更多关于培训项目的细节,并探索潜在合作机会。

  • 电话:0871-67122372
  • 微信、手机:18206751343
  • 邮件:info@securemymind.com
  • QQ: 1767022898