“防微杜渐，未雨绸缪。”在信息化、智能化高速交织的今天，安全隐患常常潜伏在我们不经意的每一次点击、每一次部署之中。若不在萌芽阶段及时发现、阻断，轻则成本飙升、声誉受损，重则业务中断、法律追责。本文将以两则典型且具有深刻警示意义的安全事件为切入口，结合当前数字化、智能化、信息化融合发展的新形势，号召全体职工踊跃参与即将开启的信息安全意识培训，全面提升个人安全素养，为公司保驾护航。
案例一：云原生大模型“LLMjacking”——日账单暴涨的血案
背景与过程
2025 年底，某知名互联网公司在 AWS 上使用 Amazon Bedrock 提供的生成式大模型（LLM）为内部业务系统提供自然语言交互能力。起初，该项目因响应速度快、成本可控而受到业务方热捧。然而，2026 年 3 月，财务系统的自动预警模块捕捉到一笔异常账单——单日费用竟然高达 42,000 美元，相当于公司一个月的云费用。
经过初步排查，运维团队发现费用激增的根源并非业务流量异常，而是一串 未经授权的模型调用。这些调用并未出现在常规的 CloudTrail 记录中，因为 Bedrock 的模型调用日志默认是关闭 的。攻击者利用这一缺口，首先通过窃取或贩卖的 IAM 凭证 获取了对该 AWS 账户的访问权限，随后：
- 关闭模型调用审计（Converse 事件），使后续调用不留下告警；
- 枚举账户中可用的模型，锁定成本较低且功能强大的 LLM；
- 通过脚本批量发送 Prompt，将模型包装成“服务”，对外转售给黑市买家；
- 通过成本中心计费，让费用直接计入公司账单，导致毫无防备的财务团队被“割韭菜”。
影响分析
- 经济损失：短短数小时即产生 42,000 美元的费用，若未及时发现，可能累计数十万美元损失。
- 合规风险：未经授权的模型调用可能泄露业务数据，违反 GDPR、欧盟 AI 法等合规要求。
- 信任危机：内部审计与外部客户对公司安全治理能力产生怀疑，影响品牌形象。
教训启示
- 日志默认打开才是安全的默认。任何云原生服务的审计日志若是默认关闭，都可能成为攻击者的“后门”。运维团队必须在资源创建之初即审查并开启所有审计功能。
- 最小权限原则（Least Privilege）不可或缺。IAM 权限应当细粒度划分，避免一次凭证泄漏即可横向扩散至多项关键资源。
- 成本监控与异常检测要实时。结合 CloudWatch、Cost Explorer 设置阈值报警，异常费用立即触发人工审计。
- 对外部供应链的安全审计。若使用第三方 SDK、自动化脚本，请确保其来源可信，避免“脚本植入”式的隐蔽攻击。
案例二：供应链攻击导致模型篡改——从代码库到训练数据的连环夺命
背景与过程
2024 年底，一家大型金融科技公司在自研的风险评估系统中引入了内部训练的 Large Language Model (LLM)，用于自动化合规审查。该模型的训练数据集由多个外部开源仓库聚合而成，数据管道采用 GitHub Action 自动拉取、清洗、上传至 S3，再由 SageMaker 进行模型训练。
2025 年 8 月，安全团队在一次例行的模型评估中发现，模型输出出现了大量与业务毫无关联、甚至有潜在误导性的答案。进一步追踪后，发现 供应链攻击 已经在模型训练的最早阶段渗透：
- 攻击者在 GitHub 上针对项目的 依赖库（如某数据清洗工具）发布了恶意更新版，隐藏了 数据毒化（Data Poisoning） 代码；
- CI/CD pipeline 在自动拉取依赖后，未进行签名校验，直接将恶意代码执行在清洗阶段；
- 该恶意代码会在 S3 中植入 恶意文件（例如嵌入了误导性标签的 CSV），在训练时被错误标记为正例；
- 训练完成的模型被部署到生产环境，导致合规审查结果被系统性误判，甚至在内部审计时出现“违规通过”的假象。
影响分析
- 业务误判：错误的合规审查结果导致潜在违规交易被“放行”，公司面临巨额罚款与监管处罚。
- 模型可信度受损：一旦模型被认定为被篡改，内部对 AI 技术的信任度急剧下降，影响后续 AI 项目落地。
- 供应链安全缺口暴露：从代码到数据再到模型的全链路安全管理缺失，成为攻击者的全新突破口。
教训启示
- 供应链安全必须全链路覆盖。不仅要对代码依赖进行签名校验（SLSA、SBOM），还要对数据源、模型工件实行同样的完整性校验。
- 数据审计与可追溯性是防毒的根本。对进入训练管道的每一份数据，都应记录来源、变更历史，并通过校验和、数字签名等手段确保未被篡改。
- 红队演练应覆盖 AI 场景。传统的渗透测试往往忽视模型训练与推理阶段的安全，为此需要构建 GenAI 红队 框架（参考 MITRE ATLAS），模拟从数据注入到模型调用的全链路攻击路径。
- 安全意识的底层驱动：技术防护固然重要，但若开发、运维、业务团队对供应链风险缺乏认知，任何技术手段都是“纸老虎”。因此，全员安全意识培训是根本。
数据化、智能化、信息化融合的时代背景
在 数字化（Datafication）浪潮中，数据已成为企业最核心的资产；在 智能化（Intelligence）浪潮中，AI 模型被深度嵌入业务流程，实现自动化决策；而 信息化（Informatization）则是把各类信息系统互联互通的总称。三者交织形成了 “数·智·信” 三位一体的业务生态：
| 维度 | 特征 | 安全挑战 |
|---|---|---|
| 数据化 | 大规模结构化/非结构化数据采集、湖仓建设 | 数据泄露、误删、篡改 |
| 智能化 | 大模型、RAG、Agentic AI | 模型投毒、对抗样本、LLMjacking |
| 信息化 | 微服务、API 网关、CI/CD、IaC | 供应链攻击、配置漂移、身份劫持 |
在此框架下，安全不再是 IT 部门的旁路功能，而是业务创新的前置条件。每一次业务需求的立项、每一次系统的迭代，都应在安全的视角下进行审视，否则就像在高速公路上装配了超速的跑车，却忘记装配刹车系统。
为什么每位职工都应加入信息安全意识培训？
- 安全是全员的职责。正如《孙子兵法》所言：“兵者，诡道也；不可不察。”攻击面不仅来自外部，更常来自内部的 “疏忽大意”。一位同事的随手复制粘贴、一名开发者的轻率 merge，都可能为攻击者打开后门。
- AI 红队思维需要广泛普及。在 MITRE ATLAS 中，AI 攻击技术已经分为 “AI Artifacts Discovery”“Model Poisoning”“LLMjacking”等 多个子技术。若只有安全团队知道，其他岗位在日常工作中仍可能不经意地落入这些技术的“陷阱”。通过培训，让每位同事了解这些概念，才能形成“人人都是红队、人人都是防御者”的氛围。
- 法规合规驱动。欧盟 AI 法、美国 AI 透明度法案（AI Transparency Act）等新规，已经把 “AI 安全、可审计、可解释” 纳入合规要求。若公司内部缺乏相应的安全意识，极易在审计时出现“合规盲区”，导致高额罚款甚至业务停摆。
- 成本控制。从案例一可以看到，单笔账单失控可能带来 上万美元 的损失；而一次模型篡改导致的合规处罚可能是 数十万 甚至 上百万。相较之下，投入 数千元 的安全培训费用，换来的是 数十倍 的风险回报率。
- 提升个人竞争力。在数字化转型的浪潮中，具备 安全思维 的技术人才更受企业青睐。参加公司组织的培训，不仅能帮助公司，也能为个人职业生涯加分。
培训安排与学习路径
| 时间 | 内容 | 目标 |
|---|---|---|
| 第 1 周 | 信息安全基础：密码学、身份管理、网络防护 | 打好安全基石 |
| 第 2 周 | 云安全实战：IAM 最小权限、日志审计、成本异常检测 | 防止案例一类似的 “LLMjacking” |
| 第 3 周 | AI 红队技术：MITRE ATLAS 介绍、模型投毒、RAG 数据污染 | 防止案例二供应链攻击 |
| 第 4 周 | 供应链安全：SBOM、SLSA、CI/CD 安全加固 | 从代码到模型全链路防护 |
| 第 5 周 | 合规与治理：欧盟 AI 法、ISO 27001、AI 伦理 | 合规保驾护航 |
| 第 6 周 | 案例复盘与演练：模拟红队攻击、实战演练 | 将理论转化为实操技能 |
学习方式：线上直播 + 实时互动 + 实战实验室（提供 AWS 免费额、开放的 Bedrock 沙盒、开源 LLM 环境）。
考核方式：每周小测 + 期末红队演练（小组对抗），合格者颁发 信息安全意识证书，可在内部岗位晋升、项目申报时加分。
行动号召：从我做起，筑牢数字防线
- 立即报名：打开公司内部培训平台，搜索 “信息安全意识培训”，点击报名；报名截止时间为 9 月 10 日，名额有限，先报先得。
- 主动学习：在培训前可先浏览 InfoQ 的《Leveraging Adversary Emulation for GenAI Red Teaming》以及《MITRE ATLAS》官方文档，熟悉术语。
- 实践落地：培训结束后，回到自己的项目中，主动检查 IAM 策略、日志配置、数据完整性校验，并在团队内部分享学习心得。
- 持续反馈：培训结束后，公司将设立 安全意识改进小组，收集大家在日常工作中遇到的安全难题，形成闭环改进。
正所谓“千里之行，始于足下”。信息安全不是高高在上的口号，而是每一次键盘敲击、每一次代码提交、每一次模型部署背后默默的守护。让我们一起在 数据化、智能化、信息化 的浪潮中，携手构筑坚不可摧的数字防线，确保业务创新在安全的港湾中畅行。
—— 信息安全意识培训团队 敬上
信息安全意识培训 专题关键词
昆明亭长朗然科技有限公司不仅提供培训服务，还为客户提供专业的技术支持。我们致力于解决各类信息安全问题，并确保您的系统和数据始终处于最佳防护状态。欢迎您通过以下方式了解更多详情。让我们为您的信息安全提供全方位保障。
- 电话：0871-67122372
- 微信、手机：18206751343
- 邮件：info＠securemymind.com
- QQ: 1767022898
