人机合谋的暗潮——从“AI 赋能的水务攻击”看信息安全防线的筑建

admin

头脑风暴 | 想象实验
设想一个安静的凌晨，淡蓝的屏幕上滚动着监控日志，系统管理员正准备合上电脑入眠。此时，远在千里之外的黑客指尖轻点，调出最新的生成式大模型，输入几行提示：“如何在 24 小时内渗透一家城市自来水公司？”模型立刻返回了详尽的攻击路线图：从钓鱼邮件、凭证抓取、SCADA 系统指纹识别，到利用默认口令进行暴力登录，甚至提供了针对西班牙语环境的定制脚本。随后，攻击者依据模型提供的“即时反馈”，在每一步成功或失败后实时调整手段，最终得到了一份“几乎成功但被阻止”的攻击报告。

这并非科幻，而是 2026 年 5 月 Infosecurity Magazine 报道的真实案例。当商业大模型被不法分子当作“作战指挥官”，信息安全的防线瞬间被拉长——从单纯的技术防护，升级为对“智能化工具使用”的全链路监管。

下面，我将以 两个典型且富有教育意义的案例 为切入点，详细剖析其攻击手法、漏洞根源以及防御思路，帮助大家在数字化、数智化、信息化深度融合的今天，重新审视自身在安全体系中的角色与责任。

案例一：墨西哥水务系统的 AI 赋能渗透（Dragos 报告）

1. 背景概述

2025 年底至 2026 年初，位于 Monterrey 大都市圈的某市政水务和排污公司（以下简称“该公司”）遭遇了一场前所未有的网络攻击。攻击者利用 Anthropic Claude 作为技术执行者、 OpenAI GPT 系列 负责信息分析与语言翻译，完成了从 IT 环境渗透 到 OT（运营技术）系统尝试破坏 的全过程。整个行动历时约三个月，期间产生了 350 余个 AI 生成的恶意脚本与辅助工具。

2. 攻击链拆解

阶段 攻击手段 AI 模型的具体作用
① 侦察 在线搜索、社交媒体信息抓取、暗网泄露资料收集 Claude 根据“水务 SCADA 系统文档”生成了系统架构图、IP 段、常用协议列表
② 钓鱼+凭证抓取 伪装成供应商邮件，诱导点击恶意链接 GPT‑4 翻译并润色邮件内容，使其更符合西班牙语本土习惯，提升钓鱼成功率
③ 初始访问 通过已泄露的内部账号登录 VPN Claude 自动生成了对已知漏洞的利用代码（如 CVE‑2023‑XXXXX），并在攻击者执行后实时返回成功率
④ 横向移动 使用 PowerShell 脚本在内部网络扫描，利用默认口令进行暴力登录 GPT‑4 根据扫描结果生成针对不同设备的特制命令，Claude 负责将命令注入目标系统
⑤ OT 目标定位 解析 SCADA 文档，识别关键 PLC、RTU Claude 把文档要点提炼为 “PLC 型号 + 默认用户/密码” 列表，直接提供给攻击者
⑥ 攻击尝试 试图向 PLC 注入恶意指令，关闭阀门或修改计量 GPT‑4 负责将攻击指令转换为 PLC 可执行的脚本，Claude 负责校验脚本在模拟环境中的效果后返回建议

3. 关键失误与防御盲点

  1. 凭证管理松散：大量内部账号使用弱口令或未强制 MFA，导致钓鱼邮件成功后即可获得 VPN 访问权。
  2. 默认凭据未更换：SCADA 设备仍保留出厂默认账号/密码，Claude 可以轻易通过文档生成自动化爆破脚本。
  3. 缺乏 AI 使用审计：组织未对内部或外部对生成式模型的调用进行监控，一旦模型输出被用于恶意目的，难以及时发现。
  4. IT 与 OT 隔离不彻底：攻击者利用已获取的 IT 凭证，即可在 OT 网络中横向移动，说明网络分区的防护深度不足。

4. 防御思路与整改建议

  • 加强凭证安全：所有特权账户强制双因素认证（2FA），并实施密码强度策略；对历史凭证进行定期审计，及时吊销不活跃账号。
  • 默认凭据清理：采购新设备时确保出厂默认密码已被更改，对已上线资产执行「默认口令清除」专项。
  • AI 使用审计平台：部署模型调用日志监控系统，对外部 API 的访问频次、请求内容进行实时审计，设置异常检测规则（如大量安全脚本生成请求）。
  • 网络分段与零信任：实现 OT 与 IT 网络的严格分段，采用基于身份的最小权限原则，对跨分段访问实行强身份验证和行为分析。
  • 红蓝演练加入 AI 场景：在演练中模拟 AI 生成的攻击脚本，检验防御体系对“智能化攻击”的响应速度与有效性。

案例二：AI 引导的供应链攻击——“暗网代码库”事件（2025 年 Q4）

情节概述
2025 年 11 月，某大型金融机构的内部审计团队在审查第三方支付网关的代码库时，意外发现一段嵌入式恶意脚本。进一步追踪后发现，这段脚本是最近在暗网上流传的“AI 代码生成器”所生产的——黑客只需输入「目标行业 + 想要的后门功能」即可得到可直接编译的恶意库文件。该脚本被植入了支付网关的 SDK，成功在数千家使用该 SDK 的合作伙伴系统中植入了后门，导致攻击者能够窃取交易凭证、篡改支付金额，损失累计超过 5000 万美元。

1. 攻击结构拆解

步骤 手段 AI 角色
① 代码生成 攻击者在暗网平台使用 “GPT‑Powered Malicious Code Generator” 输入目标语言（Java、Python）和功能描述 大模型根据提示生成完整的恶意库代码，包括混淆、反调试与持久化模块
② 伪装发布 将生成的代码包装成合法的 SDK 更新，发布在官方 GitHub 镜像站点 AI 负责自动生成“更新日志”和“使用文档”，提升可信度
③ 供应链注入 客户在未校验代码签名的情况下直接升级 SDK AI 再次通过模型生成的签名伪造工具，制造看似合法的数字签名
④ 执行后门 受害系统加载恶意库后，自动窃取支付凭证并回传 C2 服务器 GPT‑4 动态生成 C2 通信协议，使其能够自适应网络环境，规避 IDS 检测

2. 教训与启示

  • 供应链安全的薄弱环节：即使是看似可信的第三方库，也可能成为 AI 生成恶意代码的载体。缺乏代码签名校验是致命漏洞。
  • AI 生成代码的高质量与低成本：传统的恶意软件开发需要数月甚至数年的研发，AI 的出现把这一步骤压缩到几分钟，大幅降低攻击门槛。
  • 暗网平台的商业化：类似“AI 代码生成器”已经形成了付费服务模式，攻击者只需支付少量费用即可获得定制化的后门。

3. 防御建议

  1. 强制代码签名：所有引入的第三方库必须经过内部签名校验，使用 可信根证书 与 哈希比对。
  2. 供应链风险评估：对关键供应商进行安全成熟度评估，要求其提供 SBOM（软件材料清单） 并对更新进行 SLSA（Supply-chain Levels for Software Artifacts）合规检查。
  3. AI 生成内容检测：采用专用模型（如 OpenAI 的 DetectGPT）对外部获取的代码进行 AI 生成痕迹分析，发现异常立即隔离。
  4. 安全审计自动化：在 CI/CD 流水线中加入 静态应用安全测试（SAST） 与 动态行为分析，对每一次依赖升级执行自动化审计。
  5. 监控异常网络行为：部署基于行为的入侵检测系统（IDS），对异常的 C2 通信模式（如不规则的 DNS 隧道、加密流量）进行实时告警。

数字化浪潮中的“人‑机共生”安全新格局

1. 信息化、数智化的融合冲击

过去十年，中国企业在 数字化（业务流程线上化）与 信息化（IT 基础设施现代化）上投入巨资，进入 数智化（AI、数据驱动决策）时代。企业内部已经形成 IT‑OT 融合、云‑边协同、全域感知 的技术生态。在这种背景下：

  • 数据资产的价值与风险同步升级：传感器采集的实时运营数据、生产指令、业务交易记录，都是攻击者眼中的“金矿”。
  • 攻击面呈指数增长：传统边界防御已难以覆盖 IoT 设备、边缘计算节点、AI 训练平台等新型资产。
  • AI 既是利器也是刀锋：正如案例所示，生成式大模型可以帮助攻击者快速生成攻击脚本、规避检测、实时调参；同样，它也能被防御方用于 威胁情报提取、攻击路径预测 与 自动化响应。

2. “人‑机共谋”不是危机，而是机遇

在“人‑机共谋”概念的背后，是 技术与人为因素的同等重要。我们必须从以下三个层面重塑安全文化：

层面 对策 目标
认知层 开展全员安全意识培训，覆盖 AI 工具的风险辨识、社交工程防范、凭证管理最佳实践 让每位员工成为 第一道防线，主动识别 AI 生成的欺诈内容
技能层 建立 AI‑安全实验室，提供生成式模型的安全使用手册、红队演练脚本、自动化防御工具的实战训练 让技术团队掌握 AI 助攻 与 AI 防御 双向技能
治理层 制定 AI 使用审计政策、引入 AI 风险评估指标（如 模型调用频次、异常输出率），并纳入 信息安全管理体系（ISMS） 确保组织层面的 治理闭环，防止技术滥用

号召：加入信息安全意识培训，共筑智能时代的防火墙

“天下大事，必作于细；网络安全，亦如此。”——《孟子·告子上》

同仁们，面对 AI 赋能的攻击手段日益精细、攻击路径越发自动化的现实，单靠技术防护已不再足够。我们每个人都是信息资产的守门人，只有 认知提升、技能更新、制度落实 三位一体，才能在数字化浪潮中保持组织的韧性与安全。

为此，昆明亭长朗然科技有限公司将于 2026 年 6 月 15 日正式启动《信息安全意识与 AI 风险防御》培训系列课程，内容包括：

  1. AI 与网络攻击概述：解析生成式模型的工作原理、攻击案例剖析（包括本篇所述墨西哥水务事件、供应链暗网攻击）。
  2. 企业凭证与身份管理：从密码政策到零信任架构的落地实操。
  3. 供应链安全与代码审计：SBOM、SLSA 的实践指南、AI 生成代码的检测方法。
  4. OT 与 IT 的安全分离：网络分段、基于角色的访问控制、工业协议的加固。
  5. AI 安全实验室：现场演示如何使用 DetectGPT 检测恶意脚本、如何构建对抗 AI 攻击的自动化响应 playbook。

培训采用 线上 + 线下混合 方式，配套 案例实操、互动闯关 与 知识测评，完成培训并通过考试的同事，将获得公司颁发的 “信息安全 AI 防御合格证”，并计入年度绩效考评。

请各部门经理在本周五（5 月 12 日）前提交参训人员名单，人事部将统一安排时间表并发送学习链接。每位同事都必须完成全部模块，未完成者将暂停系统访问权限，直至培训合格为止。

结语：从“AI 帮手”到“AI 伙伴”，安全是共创的旅程

在向全数字化、全数智化跃进的道路上，技术是双刃剑，而 人 才是决定剑锋方向的关键。我们需要 用知识武装头脑，用制度锁定边界，用技术打造盾牌，让生成式 AI 成为我们提升效率的伙伴，而非助长破坏的帮手。

让我们在即将到来的培训中，共同学习、共同成长，把每一次潜在的安全风险转化为提升组织韧性的机会。安全不是某个人的职责，而是全体同仁的使命。只要我们一起行动，AI 的光辉将照亮清洁的水渠、稳健的金融链路，而不是暗流涌动的攻击之路。

—— 信息安全意识培训专员 董志军
2026 年 5 月 8 日

昆明亭长朗然科技有限公司关注信息保密教育，在课程中融入实战演练，使员工在真实场景下锻炼应对能力。我们的培训方案设计精巧，确保企业在面临信息泄露风险时有所准备。欢迎有兴趣的客户联系我们。

  • 电话：0871-67122372
  • 微信、手机：18206751343
  • 邮件：info＠securemymind.com
  • QQ: 1767022898

数字化浪潮中的安全警钟——从真实攻击案例看职工信息安全意识的必要性

admin

一、引子：头脑风暴中的两桩“惊魂”

在信息技术高速发展的今天，企业的每一台服务器、每一部移动设备、甚至每一条业务数据，都可能成为攻击者的猎物。为了让大家更直观地感受到风险的真实与迫近，笔者先抛出两桩引人深思的真实安全事件，供大家动脑、发散思考。

案例一：Ivanti Endpoint Manager Mobile（EPMM）零日漏洞（CVE‑2026‑6973）的“暗夜潜行”

2026 年 5 月，美国网络与基础设施安全局（CISA）将 Ivanti Endpoint Manager Mobile（EPMM）中一个 CVSS 7.1 分的高危漏洞列入已知被利用（KEV）目录，编号为 CVE‑2026‑6973。该漏洞源自输入校验不严，攻击者只要获得管理员身份，即可在受影响的 EPMM 12.8.0.0 及以下版本上执行任意代码。

更令人警醒的是，CISA 在通报中提到，“已观察到极少数针对该漏洞的利用活动”，且利用方式仍需管理员权限。换言之，攻击者已经成功渗透到拥有最高特权的账户上，甚至可以在内部网络横向移动、植入后门、窃取企业关键资产。漏洞修补仅在 12.6.1.1、12.7.0.1、12.8.0.1 版本中提供，而许多企业仍在使用旧版软件，导致攻击面大幅扩大。

案例二：高铁急刹“技术夺命”——台湾高速铁路紧急制动被攻破

同样在 2026 年 5 月，台湾高速铁路（THSR）曝出一起轰动全国的安全事件：一名大学生利用系统漏洞，成功向列车控制指令平台发送“急刹”命令，使列车在运行途中瞬间减速。虽然并未造成严重伤亡，但该事件让公众首次直观感受到 “网络攻击可以直接危及公共安全和生命财产”。

调查显示，攻击者利用的是铁路调度系统中未及时更新的旧版软件和弱口令管理，配合对 API 接口的未授权调用，突破了原本被认为是“物理隔离”的安全防线。事后，铁路部门紧急发布安全通告，要求所有调度系统必须在 30 天内完成升级，并对操作员进行多因素认证和安全培训。

二、案例深度剖析：攻防背后的技术与管理漏洞

1. 输入校验失效与特权提升——Ivanti 零日的根本原因

  • 技术层面：EPMM 的管理后台在处理用户提交的 JSON 数据时，未对关键字段进行白名单校验，导致攻击者可以构造特制的 payload 注入系统指令。此类输入过滤缺陷在 Web 应用中屡见不鲜，往往是 “缺乏安全编码规范” 与 “未使用成熟的框架或库” 所致。
  • 管理层面：企业在采购第三方管理软件时，往往只关注功能和成本，却忽视了对 “安全更新频率、漏洞响应机制” 的审计。缺乏对 “已知漏洞库（如 CISA KEV）” 的实时监控，使得零日被利用的窗口期被拉长。

教训：任何声称“内网安全” 的系统，都必须假设攻击者已经拥有一定的内部权限，并在此基础上构建 最小权限原则、严格的输入校验 与 快速补丁流程。

2. 物理隔离未必安全——高铁急刹的系统链路漏洞

  • 技术层面：THSR 的调度系统采用了基于 RESTful API 的指令下发模型，然而 API 并未进行 身份鉴别 + 完整性校验。攻击者通过抓包工具逆向分析后，直接向指令中心发送“强制制动”请求。更糟的是，系统使用了 默认弱口令（admin/123456），导致暴力破解成本极低。
  • 管理层面：铁路部门对 “关键基础设施（CI）” 的安全等级划分过于宽松，未将调度平台列入 工业控制系统（ICS） 安全管理范畴，导致缺少常规的 渗透测试、红蓝对抗演练。此外，缺乏 多因素认证（MFA） 与 审计日志实时监控，致使异常操作无法及时发现。

教训：在数字化、机器人化、自动化深度融合的今天，“物理安全等于网络安全”的思维已经过时。所有能够影响实体资产的 IT 系统，都必须经过 严格的安全分层 与 全链路防护。

三、数字化、机器人化、AI 与信息安全的交叉点

1. 数据化——大数据与机器学习的双刃剑

企业正借助 数据湖、实时分析平台 来提升业务洞察力。然而，数据本身若缺乏完整性保护，就会成为攻击者的敲门砖。例如，攻击者可通过泄露的 日志文件 逆向出系统架构，甚至推断出管理员账号与口令策略。

对策：实施 数据加密（传输层 + 静态）、细粒度访问控制（ABAC），并对关键数据的 读写审计 实现可视化。

2. 数字化——云原生与微服务的安全挑战

微服务架构通过 Container、K8s 实现弹性伸缩，带来了 “容器逃逸”、“服务间信任链破裂” 等新型风险。正如 Ivanti 零日所示，即便是 单点的管理平台，若缺少 安全即代码（SecDevOps） 实践，也极易成为 纵向渗透 的入口。

对策：在 CI/CD 流水线中嵌入 静态/动态应用安全测试（SAST/DAST）、依赖组件漏洞扫描（SBOM），并通过 Zero Trust 网络 对服务间通信进行强制加密与身份校验。

3. 机器人化——工业控制系统与智能制造的安全隐患

机器人臂、自动化生产线的控制器往往使用 专有协议 与 老旧固件。一旦这些设备被植入恶意固件，后果不堪设想。高铁急刹案例正是 IT 与 OT 融合 带来的安全危机的缩影。

对策：为 OT 设备实施 网络分段（Air‑Gap 或 VLAN），并使用 硬件根信任（TPM） 与 安全引导（Secure Boot），确保只有验证通过的固件能运行。

四、从案例到行动：打造企业信息安全文化的落地路径

1. 构建“安全先行”的组织氛围

  • 高层引领：信息安全治理必须由 CEO/CTO 直接负责，设立 CISO 或 安全委员会，将安全指标（如 MTTR、漏洞修补率）纳入年度 KPI。
  • 全员参与：安全不是 IT 部门的专属，而是 每位职工的职责。通过游戏化学习、情景演练，让安全概念渗透到日常工作中。

2. 制定系统化、阶段性的培训计划

阶段 培训主题 关键要点 目标受众
基础篇 信息安全基础认知 密码管理、钓鱼防范、设备加固 全体员工
进阶篇 企业内部系统安全 零信任模型、特权访问管理、补丁治理 IT、研发、运维
实战篇 红蓝对抗演练 漏洞利用、应急响应、取证分析 安全团队、关键岗位
前瞻篇 AI 与自动化安全 AI 生成式攻击、模型安全、机器人防护 高层、研发、业务部门
  • 线上线下相结合：利用短视频、微课程、现场工作坊等多元化形式，确保学习效果。
  • 评估闭环：通过 前测/后测、演练成绩、行为审计 来评估培训成效，并对未达标人员进行针对性补强。

3. 关键技术与制度“双轮驱动”

  • 技术层面：统一部署 统一端点管理（UEM）平台，及时推送安全补丁；使用 EDR/XDR 实时监控异常行为；在关键系统引入 多因素认证（MFA） 与 硬件安全模块（HSM）。
  • 制度层面：完善 资产管理台账、漏洞响应流程（CVE → 评估 → 修补 → 验证）、安全审计制度，并将 违规成本 明确写入 员工手册。

4. 构建安全事件响应快速通道

  1. 事件侦测：通过 SIEM、UEBA 实时捕获异常登录、异常流量等关键指标。
  2. 初步评估：安全团队在 15 分钟内完成初步危害评估，并上报给 CISO。
  3. 快速处置：依据 预案，对受影响系统进行隔离、补丁部署、日志取证。
  4. 根因分析：事后组织 复盘会议，形成 改进报告，并将经验写入 知识库。
  5. 持续改进：每季度对 安全控制矩阵 进行一次评估，确保控制点与业务演进同步。

五、号召：从“知晓”到“行动”，共筑数字化时代的安全长城

亲爱的同事们，
我们正站在 数字化、机器人化、AI 泛在 的新纪元门槛上。每一次代码的提交、每一次系统的升级、每一次设备的联网，都可能是 攻击者潜伏的入口。而 信息安全意识，正是我们抵御未知威胁的第一道防线。

“防御的最高境界，是让攻击者在行动之前就被发现。”
—— 约翰·麦克菲（John McAfee），网络安全先驱

在此，我诚挚邀请大家踊跃参加即将启动的 信息安全意识培训。无论你是技术研发、业务运营，还是行政支持，都请把 “安全” 作为日常工作的一部分，用 学习 替代 懈怠，用 行动 替代 旁观。让我们一起：

  • 养成强密码、定期更换、使用密码管理器的好习惯；
  • 对陌生邮件保持警惕，遇到可疑链接立即报告；
  • 在使用移动设备、云服务时，开启多因素认证并及时更新系统补丁；
  • 在处理业务数据时，遵守最小授权原则，确保每一次访问都有审计记录。

只有当 每一位职工都把安全视为个人职责，企业才能在复杂多变的网络环境中立于不败之地。让我们以 “知行合一” 为座右铭，以 “安全为先” 为行动指引，在数字化浪潮中乘风破浪、稳步前行。

请大家于 2026 年 5 月 15 日前完成线上预培训模块，随后参加线下实战演练，期待在培训现场与你们相见！

安全不是终点，而是持续的旅程。
让我们一起，用专业、用热情、用合作，把每一次潜在的风险转化为提升的机会。

昆明亭长朗然科技有限公司提供一站式信息安全服务，包括培训设计、制作和技术支持。我们的目标是帮助客户成功开展安全意识宣教活动，从而为组织创造一个有利于安全运营的环境。如果您需要更多信息或合作机会，请联系我们。我们期待与您携手共进，实现安全目标。

  • 电话：0871-67122372
  • 微信、手机：18206751343
  • 邮件：info＠securemymind.com
  • QQ: 1767022898