---

一、头脑风暴：三则警示性的想象案例

在信息化、数智化、具身智能化高度交织的今天，AI系统已渗透到企业运营的每一个细胞。若把这些潜在的危机想象成暗流，下面三个案例或许能让大家对“AI风险”产生更为直观的感受。

案例一：智能客服“失言”导致商业机密外泄

某大型制造企业在内部引入了基于大语言模型的智能客服系统，帮助售后工程师快速查询技术文档。某天，一位工程师在系统中输入了“最新的XYZ型号电路板的原理图”。系统在生成答案时，误把内部保密的电路图直接以图片形式返回，并且该图片被复制粘贴到外部邮件中，发送给了合作伙伴。

• 风险点：AI模型未对敏感数据进行脱敏，风险登记表中仅标记为“可能泄露敏感数据”，但并未明确谁负责审查输出、何时需要“停机”。
• 后果：公司核心技术被竞争对手快速复制，导致市场份额骤降。
• 教训：仅有风险登记而无明确的“停机关机”权限与证据保全机制，会让风险在瞬间放大。

案例二：生产调度AI误判导致产线停摆

一家智能制造公司使用机器学习模型预测订单需求，自动生成生产调度指令。模型在一次数据漂移后，误将本应削减的产量预测为大幅提升，系统自动下达了“加班 200%”的指令，结果导致关键设备超负荷运行，硬件在两小时内出现异常停机，整条生产线被迫停产三天。

• 风险点：风险登记表中列有“模型输出可能不准确”，但缺乏“谁监测、谁在异常时可立即暂停调度”的明确职责划分。
• 后果：直接经济损失数百万元，且客户交付延期导致信誉受损。
• 教训：AI模型的输出必须配备实时监控、阈值告警以及应急“kill switch”，否则单纯的风险描述毫无防护价值。

案例三：生成式AI生成的营销文案触碰合规红线

一家金融机构在营销部门引入ChatGPT类的生成式AI，帮助撰写投资产品的宣传文案。AI在生成文案时，未经审查直接使用了“保证收益率 15%”的措辞，违反了监管部门对金融宣传的合规要求。该文案被大屏幕广告投放后，被监管部门快速抽查，机构被处以巨额罚款并公开通报。

• 风险点：风险登记表中写明“生成式AI可能产生合规风险”，但未明确“合规审查链路”和“发现违规后紧急撤稿的权限”。
• 后果：罚款、品牌形象受创，甚至可能触发监管部门的更严监管。
• 教训：AI输出的合规性审查必须体现在工作流中，且要有明确的“撤回、停稿”责任人。

启示：上述案例的共同点在于：风险登记虽能让风险“可见”，但在危机爆发时，缺乏可执行的应急响应、证据保全、所有权划分和停机授权，导致组织在“事后”才慌忙补救。正如文章所言，“风险登记不是控制”，只有把风险登记与真正可操作的AI事件响应计划结合，才能在暗流来袭时及时抽身。

---

二、从“风险登记”到“事件响应”：安全治理的两大支柱

1. 风险登记的价值与局限

• 价值：帮助组织识别AI使用场景、标记潜在风险、对风险进行分级、明确负责人、向高层汇报。对初期的AI部署尤为重要，能够让管理层对AI资产有大致概览。
• 局限：登记本身是文书工作，不等同于防护控制。它不能自动监控、不能保存证据、不能决定“停机”。正如漏洞清单不是漏洞管理，AI风险登记也不是AI安全运营。

2. 事件响应计划的核心要素

要素	关键问题	重点措施
报告渠道	员工何时、如何上报AI异常？	建立统一的AI异常工单系统，明确定义“AI事件”范围。
初步分流	该事件属于安全、隐私、合规还是业务错误？	设立多维度分类标签，快速指派相应团队。
证据保全	事件发生时，哪些日志、输入、输出需要保存？	强制日志记录 Prompt、模型版本、输出、用户操作，并设定保留期限。
所有权明确	谁拥有暂停、回滚或退役的决策权？	在部署前签署“Pause Authority”文档，明确业务、技术、安全、法务四方的职责与权限。
应急处置	是否需要立即停止AI模型？	预置“一键停机”脚本，关联至监控告警系统。
后续复盘	事件根因是什么？改进措施有哪些？	形成“AI事件复盘报告”，推动治理流程迭代。

要点：上述要素必须在系统层面实现自动化——从日志采集到告警触发，从工单生成到权限校验，都应在系统中预设好，而非临时手工决定。

---

三、数字化、数智化、具身智能化时代的安全挑战

1. 数字化的深层渗透

企业正在把业务流程、供应链、客户关系全部搬进云端、数据湖、实时分析平台。每一次数据迁移、每一次系统集成，都是一次 “攻击面扩展”。AI模型往往依赖这些数字资产，一旦数据质量出现漂移，模型输出的可靠性就会随之下降。

2. 数智化的协同演进

在数智化路径上，AI与业务深度耦合。例如：智能客服、智能调度、智能营销等，这些AI系统的决策直接影响业务流程。若缺乏可审计的交互记录，后期的合规审查或事故追溯将陷入困境。

3. 具身智能（Embodied Intelligence）的兴起

机器人、自动化生产线、无人机等具身智能设备正借助AI实现“感知—决策—执行”。这类系统的错误往往不止于数据泄露，更可能导致 人身安全（如机器人误操作）或 物理损毁（如无人机失控）。因此，AI安全治理必须与 工业安全、职业健康 等传统安全体系相融合。

古语有云：“工欲善其事，必先利其器”。在AI时代，风险登记是“器”，而应急响应计划则是“刀”。只有两者兼备，才能让组织在数字洪流中稳健前行。

---

四、构建可执行的AI治理框架：从“纸上谈兵”到“落地生根”

1. 设立跨部门AI治理委员会

• 成员：业务负责人、数据科学家、IT运维、安全团队、法务合规、审计。
• 职责：审议AI项目上线前的风险评估、确定“暂停权”归属、制定证据保全标准、审批模型版本发布。

2. 强化技术层面的“Kill Switch”

• 在模型部署平台嵌入“AI停机开关”，并将其权限绑定至 业务主管 + 安全主管 双签。
• 对关键业务模型（如金融、医疗、生产调度）设置 自动降级：当监控指标触发阈值时，系统自动切换至 安全模式（使用保守规则或人工审核）。

3. 完善日志和审计体系

• Prompt日志：记录每一次用户输入及时间戳。
• 模型版本日志：每一次模型更新、参数调优、训练数据变更都要留痕。
• 输出存档：对关键业务输出（如决策建议、合同文本）进行加密存档，便于事后溯源。
• 访问控制审计：谁调用了模型、调用频率、调用来源都必须有审计记录。

4. 建立“AI事件响应演练”

• 每半年组织一次 AI红队/蓝队演练：模拟模型漂移、数据泄露、生成式AI违规输出等场景。
• 通过演练检验 报告渠道、证据收集、暂停授权 的有效性，及时修正不足。

5. 持续教育与能力提升

• 线上学习平台：提供AI风险、合规、隐私、模型监控等模块的微课程。
• 案例库：收集内部与行业的AI安全事件，供员工学习反思。
• 认证体系：完成AI安全基础培训并通过考核的员工，可获得公司内部的 “AI安全守护者” 认证，提升职业认同感。

---

五、号召全员参与信息安全意识培训

亲爱的同事们：

我们正处在 “数智化、具身智能化、数字化三位一体” 的浪潮之中。AI不再是实验室的玩具，而是每日业务的关键合作伙伴。正因如此，每一位员工——从业务骨干到后勤支持，从研发工程师到行政文员——都必须具备 AI安全的基本认知。

“防微杜渐”，从今天的每一次点击、每一次输入、每一次对话开始。
“未雨绸缪”，在风险登记之外，掌握应急响应的操作流程，才能在危机来临时从容不迫。

为此，公司即将启动 “AI安全与信息防护” 系列培训，内容包括：

1. AI风险认知：从案例出发，了解AI风险的多维属性（安全、隐私、合规、业务连续性）。
2. 风险登记与应急响应的区别：为何仅有登记不够？怎样将登记转化为可操作的响应流程？
3. 证据保全技巧：日志、模型版本、Prompt与Output的必备记录要点。
4. 所有权与停机权：明确谁拥有“Kill Switch”，如何在系统中快速执行。
5. 实战演练：模拟AI误判、数据泄露、合规违规等场景，现场演练报告、升级、停机、复盘全过程。

培训方式：线上自学+现场工作坊+案例研讨，预计历时两周，完成后将发放 AI安全守护者 电子徽章，并计入年度绩效考核。

参与福利：

• 完成全部课程即获 公司内部积分（可兑换培训资源、电子书籍、礼品卡）。
• 在演练中表现突出者，有机会加入 公司AI安全红队，参与更高阶的安全项目。
• 获得 “AI安全守护者” 认证后，可在内部职级晋升、项目评审中获得加分。

各位同事，安全不是某一部门的“独秀”，而是全员的共同演奏。正如古人云：“众星拱月”，只有每个人都把安全意识内化为日常操作，才会形成坚不可摧的安全合力。

让我们一起把 风险登记变成可执行的防护手册，把 AI事件响应计划写进每一位员工的工作指南。未来的竞争，最终将是 安全与创新的双重赛道。请大家踊跃报名，携手把组织的安全防线筑得更高、更稳、更智慧。

---

六、结语：从“纸上谈兵”到“实战演练”，让安全落地

• 风险登记：是发现暗礁的灯塔。
• 事件响应：是驱散风浪的舵手。
• 证据保全：是事后追溯的航海日志。
• 所有权与停机权：是船长的指挥棒。

只有让这四把关键钥匙在每一次AI运行中都能被精准转动，才能确保企业在数智化的巨浪中不被暗流吞噬。希望每一位员工都能在即将开启的培训中学以致用，把“警惕AI暗流”转化为日常的安全习惯，让组织的每一次创新都在坚实的防护之下蓬勃生长。

让我们共同守护，安全从“我”做起！

昆明亭长朗然科技有限公司提供一站式信息安全服务，包括培训设计、制作和技术支持。我们的目标是帮助客户成功开展安全意识宣教活动，从而为组织创造一个有利于安全运营的环境。如果您需要更多信息或合作机会，请联系我们。我们期待与您携手共进，实现安全目标。

• 电话：0871-67122372
• 微信、手机：18206751343
• 邮件：info＠securemymind.com
• QQ: 1767022898

头脑风暴：如果明天公司内部的邮件系统突然弹出“请更新您的 Office 账户”，而这条信息竟是黑客伪装的合法登录页面，您会怎么做？如果您的电脑屏幕上出现一行“python3 -m http.server 8080”，但您根本没有运行过任何 Python 程序，您会不会怀疑背后有人在暗中“开演唱会”？如果您在 GitHub 上搜索“Evilginx”，本想学习一次安全演示，却不经意间下载了含有 AI 生成后门代码 的仓库，您的业务数据是否已经被悄悄抽走？

以上三个设想并非天方夜谭，而是2026 年 7 月《The Hacker News》报道的真实案件。本文将围绕这三个典型案例进行深入剖析，帮助大家理解攻击者的思路与手段；随后，结合当下 数字化、数据化、数智化 融合发展的大背景，号召全体职工积极参与即将启动的信息安全意识培训，提升自我防护能力，守护企业的数字资产。

---

案例一：目录列表泄露，暴露全链路攻击细节

事件回顾

2026 年 4 月底，法国安全公司 Lexfo 在一次常规的互联网资产扫描中，意外发现位于 185.163.204[.]7（布达佩斯） 的一台 Python HTTP 服务器对外开放端口 8080。更令人吃惊的是，服务器开启了 目录列表（Directory Listing），任意访问者只需在浏览器中输入 http://185.163.204.7:8080/ 即可看到完整的文件结构。

目录中除了公开的 index.html，还有：

• evilginx/：多个克隆的 Evilginx 代理代码；
• bash_history：记录了攻击者曾执行的所有命令，包括 python3 -m http.server 8080；
• telegram_sessions/：Telegram bot 的会话文件，泄露了实时通信的凭证；
• rmm_installer/：远程管理工具（SimpleHelp）的安装包；
• logs/：详细记录了钓鱼页面的访问日志、捕获的凭证、IP 地址等信息。

通过对这些文件的逐层解析，Lexfo 把这名使用 “codemado”（埃及黑客代号）身份的攻击者“一举抓获”，发现其已在 picis.net 与 romnor.ca 两个域名下运行了 三条针对 Microsoft 365 的 AiTM（中间人）钓鱼链，且自 2025 年 4 月起持续活跃，累计捕获了 数百个企业邮箱 的登录凭证。

攻击链拆解

1. 基础设施搭建：攻击者在公开云服务器上通过 python3 -m http.server 8080 快速搭建文件共享服务，以便临时存放工具、日志及后门。该命令的常规性导致管理员难以在短时间内辨认异常。
2. Evilginx 变体部署：攻击者使用 Evilginx 开源框架的 fork（红皇后、黑皇后）进行 AiTM 中间人钓鱼。红皇后通过改写 HTTP 头部、关闭 Subresource Integrity 检查，以绕过浏览器安全检测；黑皇后则利用 Microsoft OAuth 设备码（device code） 流程，让受害者在真实的 Microsoft 登录页面上自行完成 MFA。
3. 凭证收集与持久化：成功截获的 refresh token 被写入服务器日志，并通过 Telegram bot 实时转发。攻击者随后利用 MaDoO Blaster（自研批量邮件发送工具）对已获取的账户进行进一步渗透，甚至实现 Token Auto‑Refresh，延长会话有效期至 2027 年 6 月。
4. 后勤支撑：为维持对受害系统的长期控制，攻击者在目标机器上部署 SimpleHelp 远程控制工具以及 XEOX 持久化代理，形成多层次的后门体系。

教训与启示

• 目录列表泄露是“明目张胆的自白”，一次轻率的配置错误即可把整个攻击链暴露给防御方。组织应在 部署 Web 服务前 严格审查默认配置，使用 Web Application Firewall（WAF） 及 自动化合规扫描 关闭不必要的目录列显功能。
• bash_history 这类 “隐形日志” 常被忽视，却能直接呈现攻击者的操作轨迹。建议在服务器上 禁用或加密 交互式 shell 的历史文件，或使用 auditd 强制记录关键命令而不留明文痕迹。
• Evilginx 系列的 AiTM 攻击已经从“技术小白”成长为 “产业链”，企业必须在 MFA（多因素认证） 基础上，结合 Conditional Access（条件访问） 策略，阻止 device_code 流程在非受信设备上使用。

---

案例二：设备码滥用——MFA 并非“万无一失”

事件回顾

在上述三条钓鱼链中，黑皇后（black‑queen） 采用了一种鲜为人知却极具危害的手法：OAuth 设备码（device code） 流程。攻击者通过自建的诱导页面（主题为 Microsoft Authenticator），向目标用户展示一串 6 位设备码，并指示其访问 https://microsoft.com/devicelogin 完成登录。

受害者在 真实的 Microsoft 登录页面 输入凭证并通过 MFA（手机验证码或推送） 验证后，设备码即被激活，攻击者可立即用 client_id = d3590ed6-52b3-4102-aeff-aad2292ab01c（Microsoft Office 桌面客户端）换取 access token 与 refresh token。随后，攻击者利用 refresh token 持续刷新会话，直至令牌过期（最长可达一年），甚至在用户主动注销后仍保持活跃。

攻击链细节

1. 诱导页面构造：攻击者使用 Claude（AI 代码模型）生成的 HTML 与 JavaScript，使页面外观高度仿真，且包含 “复制设备码” 按钮，降低用户警惕。
2. 真实登录流程：用户在 Microsoft 官方域名 完成身份验证，MFA 完全真实，安全提示被“可视化”地绕过。
3. 后端 token 抓取：攻击者后台轮询 https://login.microsoftonline.com/{tenant}/oauth2/v2.0/token 接口，一旦用户完成授权，即获取 access/refresh token。由于 device_code 本身不绑定客户端 IP，后续的 token 使用不受源 IP 限制。
4. 持续利用：攻击者在 Telegram Bot 中记录每一次 token 刷新，甚至将 token 列表公开至暗网，以实现 “租赁” 式的凭证交易。

防御要点

• Conditional Access：对 device_code 流程实行 “阻止（block）” 策略，仅对 已登记的企业设备 开放。可通过 Azure AD 的 “Sign‑in risk policy” 设置 “Require compliant device”。
• 日志监控：在 Entra ID（Azure AD） 登录日志中关注 Original transfer method 字段，对 device_code（标识为 DeviceCode）的登录进行 实时告警；尤其是出现 异常 IP（跨境、VPN、云服务商等）时应立即触发 条件访问 重新评估。
• 用户教育：向员工普及 “设备码只用于特定硬件（如 Xbox、IoT）” 的事实，提醒其在未知来源的页面中输入验证码的风险。

---

案例三：AI 代码助力 —— “暗箱生成” 与 “AI 诱饵”

事件回顾

Lexfo 报告指出，三条钓鱼链 在开发与运维阶段均出现了 AI 生成代码 的痕迹：

• red‑queen（mail‑argenta）在 Git 提交信息中留下了 “generated by Claude‑2” 的签名；
• black‑queen（saroula01）在两次提交中列明 “co‑author: Claude 1.2”，并附有对应的 prompt 与 回复；
• codemado 在脚本首部直接引用 CyberNeurova（付费 AI 代码生成平台）的示例：“Build me a keylogger in Python”。

更甚者，攻击者将 AI 生成的完整可执行文件（evilginx2.exe） 直接上传至 GitHub，供买家“即买即用”。这意味着，即使没有专业的开发能力，黑客也能轻松搭建 完整的 AiTM 钓鱼平台。

AI 代码的危害

1. 开发门槛下降：AI 可在几分钟内完成 phishlet（钓鱼页面规则）编写、URL 重写逻辑以及 token 自动刷新 脚本的生成，使得 “低技术门槛 + 高效产出” 成为常态。
2. 代码质量难以辨别：AI 生成代码往往结构合理、注释完备，却隐藏 后门（如隐蔽的网络请求、硬编码的 C2 地址）。传统的 静态代码审计 工具难以捕捉这些“隐形”恶意行为。
3. 快速迭代、极易变种：每一次 prompt 调整都可能产出全新变种，导致 签名（signature）基于 Hash 的检测失效。

防御建议

• 强化供应链安全：对内部 开源组件 与 第三方库 实行 SBOM（Software Bill of Materials） 管理，使用 代码签名 与 二进制完整性校验 防止恶意二进制被植入。
• AI 生成代码审计：在审计流程中加入 Prompt‑to‑Code 追踪环节，对所有 AI 辅助开发 的代码进行 人工复审，使用 LLM‑Based 静态分析（如 GitHub CodeQL）检查潜在的 C2、信息泄漏、不安全的加密 等问题。
• 安全意识教育：让开发、运维人员了解 AI 代码的潜在风险，杜绝“直接复制粘贴”未审查的 AI 生成脚本。

---

数字化、数据化、数智化时代的安全挑战

自 2020 年 起，企业的业务模式已从 信息化 逐步迈向 数智化：云平台、SaaS、AI 生成内容、低代码/无代码平台层出不穷。看似便利的技术背后，却隐藏着 攻击面的指数级放大：

1. 云原生服务：Office 365、Azure AD、Google Workspace 等 SaaS 成为 企业数字化中枢，一旦 凭证 被窃取，即可横向渗透至 财务、HR、研发 等核心业务系统。
2. AI 助攻：如上文所示，AI 可以 自动化 攻击脚本、批量生成 钓鱼页面，导致 攻击成本趋近于零。
3. 数据驱动决策：企业依赖 大数据、实时分析 做业务决策，若攻击者获取 业务数据，可进行 商业勒索、竞争情报窃取，甚至 伪造业务报告，危害不可估量。
4. 远程协作：疫情后常态化的 远程办公 让 终端安全 成为薄弱环节，个人设备、家庭网络 的防护不足常被黑客利用。

在此背景下，单纯依赖 技术防御 已难以应对快速演变的威胁，人 的安全意识与技能成为 最后一道防线。正如《孙子兵法》所言：“兵者，诡道也。故能而示之不能，用而示之不用。” 只有让每位员工懂得“潜在的威胁”，才能在攻击萌芽阶段即将其扼杀。

---

邀请您加入信息安全意识培训——让安全成为工作的一部分

为帮助全体同仁在数字化转型的浪潮中保持 清醒的安全感知，公司将于 2026 年 8 月 1 日 正式启动 《信息安全意识提升培训》（以下简称 安全培训），培训内容涵盖：

模块	主要议题	时长
Ⅰ. 基础篇	网络安全基本概念、常见攻击手法（钓鱼、恶意软件、供应链攻击）	2 小时
Ⅱ. 云安全篇	Microsoft 365、Azure AD 的安全配置、Conditional Access、Zero‑Trust 实施要点	2 小时
Ⅲ. AI 安全篇	AI 代码生成风险、AI 驱动钓鱼的判别、LLM 安全使用指南	1.5 小时
Ⅳ. 实战演练	红队模拟钓鱼演练、日志追踪与异常检测、应急响应流程	2.5 小时
Ⅴ. 持续学习	安全知识平台、CTF 练习、内部安全分享社区	持续

培训亮点

• 案例驱动：以本文剖析的三大真实案例为核心，配合 现场演示，让您直观感受攻击路径与防御要点。
• 互动式学习：采用 情景剧、角色扮演（如“攻击者 vs 防御者”），将抽象概念具象化，提升记忆度。
• AI 赋能：课堂将展示 ChatGPT、Claude 等大模型在安全审计、威胁情报中的正向应用，帮助大家掌握 AI 辅助防御的技巧。
• 认证奖励：完成全部模块并通过 线上考核（80 分以上）者，将获得公司颁发的 《信息安全合规达人》 电子证书，计入年度绩效，且可在内部商城兑换 安全小礼品（如硬件安全令牌、加密U盘）。

古人云：“穷则变，变则通，通则久。” 面对持续进化的威胁，变通 正是我们唯一的出路。通过本次培训，您不仅能 提升个人安全素养，还能 助力组织构建零信任防线，让安全成为公司竞争力的核心要素。

报名方式

请登录公司内部 安全学习平台（URL: https://security.intranet/learning），使用公司统一账号登录后，点击 “信息安全意识提升培训”，选择 “报名参加” 即可。若您在报名过程中遇到任何技术问题，可联系 安全运维部（邮箱：[email protected]） 进行咨询。

---

结束语：从“防御”走向“主动”

信息安全不是“一次性投入”，而是一场 持续的、全员参与的 长跑。正如 《礼记·中庸》 讲：“博学之，审问之，慎思之，明辨之，笃行之。” 我们要 博学 —— 了解最新威胁动态；审问 —— 对每一次可疑链接、异常登录进行深度追问；慎思 —— 评估业务风险与技术防护的平衡；明辨 —— 区分真实与诱骗的细微差别；笃行 —— 将学习到的防御措施落实到日常工作中。

让我们共同努力，把 “安全意识” 从口号变为行动，把 “防御” 从被动转为主动。只要每位同事都能在自己的岗位上做好防护，企业的数字化转型才能真正 安全、稳健、可持续。

---

昆明亭长朗然科技有限公司采用互动式学习方式，通过案例分析、小组讨论、游戏互动等方式，激发员工的学习兴趣和参与度，使安全意识培训更加生动有趣，效果更佳。期待与您合作，打造高效的安全培训课程。

• 电话：0871-67122372
• 微信、手机：18206751343
• 邮件：info＠securemymind.com
• QQ: 1767022898