“知己知彼，百战不殆。”——《孙子兵法》
在信息安全的战场上，知晓威胁、理解风险、掌握防御，正是每一位职工的必修课。今天，我们先用两个充满教育意义的真实案例，带你走进“看得见的危机”，再一起探讨在机器人化、数智化、自动化深度融合的新时代，如何通过系统化的安全意识培训，筑牢个人和组织的防线。
一、头脑风暴：如果我们的数据在“看不见的地方”被偷走？
想象：某天，你的手机上运行着一款基于深度神经网络（DNN）的图像识别应用，帮助你快速完成生产线异常检测。模型在本地推理，保证了业务的实时性与隐私。但若攻击者在执行环境（REE）中植入恶意代码，是否可能窃取或篡改模型，导致错误判定、生产事故，甚至泄露核心商业机密？
延伸：若公司内部的机器人系统、智能调度平台依赖这些模型，一旦模型被破坏，连锁反应会让整个自动化生产线陷入瘫痪。这样隐蔽且跨域的危害，往往在事后才被发现。
二、案例一：ASGARD——当深度学习模型成为“新式金库”
1. 背景概述
在 NDSS 2025 会议上，韩国延世大学的研究团队发表了题为《ASGARD: Protecting On-Device Deep Neural Networks with Virtualization-Based Trusted Execution Environments》的论文。研究指出，随着移动端、嵌入式设备对本地深度学习推理的需求激增，模型本身的安全也成为新的攻击面。攻击者可通过 REE（Rich Execution Environment）获取模型文件、逆向模型结构，从而推断出企业的核心算法或训练数据。
2. 威胁链条
| 步骤 | 攻击者行为 | 影响 |
|---|---|---|
| ① 代码注入 | 在设备的普通系统（REE）植入恶意模块 | 获得系统调用权限 |
| ② 模型读取 | 直接读取存放在磁盘或内存的 DNN 权重文件 | 泄露模型结构与参数 |
| ③ 逆向分析 | 使用模型压缩/反编译技术恢复模型 | 知识产权被窃取 |
| ④ 参数篡改 | 修改模型权重导致错误推理 | 业务决策错误、产线停摆 |
| ⑤ 持久化 | 将恶意代码写入启动脚本，实现长期潜伏 | 难以发现、修复成本高 |
3. 传统防御的局限
- 仅在 CPU 上跑模型：许多方案只能在 TrustZone 的 CPU 环境中执行推理，导致无法利用硬件加速器（如 NPU、GPU），性能大幅下降。
- 频繁模型加解密：为防止模型泄露，需要在 TEE 与 REE 间来回切换，加解密过程产生显著延迟。
- 改动底层厂商代码：为兼容硬件加速，需要修改厂家提供的闭源驱动，既不现实也不安全。
4. ASGARD 的创新点
- 虚拟化扩展的 TEE：通过安全 I/O 直通，将 SoC 内置的 NPU 纳入受信任执行环境，保持了硬件加速的性能。
- TCB（可信计算基）削减：采用平台级和应用级的“剔除冗余”技术，仅保留必须的代码和库，降低攻击面。
- 退出合并（Exit Coalescing）：在 DNN 推理过程中，批量调度 TEE 与 REE 的交互，显著减少上下文切换次数，几乎实现“零额外延迟”。
5. 教训与启示
- 模型本身是资产：不只是数据、密码，深度学习模型同样是企业的核心竞争力，需要像保护密钥一样对待。
- 硬件加速不可忽视：在移动、边缘设备上，安全方案必须兼顾性能，否则用户体验与业务需求将被破坏。
- 最小化可信计算基：TCB 越小，攻击者可利用的漏洞越少。系统设计时，要坚持“必要即足”的原则。
启发：在我们的工作场景里，若使用机器视觉、语音识别等 AI 功能，务必确认模型的存储、加载与执行路径是否经过可靠的安全隔离，防止类似 ASGARD 所描述的“模型泄露”风险。
三、案例二：Chrome 插件暗中窃取 AI 聊天内容——“看得见的钓鱼”
1. 案例概述
2025 年 12 月，安全研究团队在全球范围内抓获了一批恶意 Chrome 浏览器插件，这些插件在用户使用 AI 对话平台（如 ChatGPT、Claude、Gemini）时，悄悄截获并上传对话内容至攻击者控制的服务器。受害者包括企业内部的研发人员、市场部同事，甚至高层管理者，泄露的内容涵盖项目计划、商业机密、个人身份信息。
2. 攻击路径
- 插件获取：攻击者通过伪装成“AI 助手”、“翻译插件”等热门功能，在官方扩展商店或第三方网站发布。
- 权限升级：插件要求获取 “读取所有站点数据” 的权限，用户往往轻易授予。
- 内容捕获：在用户访问 AI 聊天页面时，插件注入脚本，读取 DOM 中的输入框与响应文本。
- 数据转发：将捕获的文本通过加密通道发送至攻击者服务器。
- 后续利用：攻击者对聊天内容进行自然语言处理，提取关键业务情报，甚至用作定向钓鱼或社会工程攻击。
3. 影响评估
| 影响维度 | 具体表现 |
|---|---|
| 商业机密泄露 | 项目进度、技术实现细节被竞争对手获取。 |
| 个人隐私风险 | 员工身份信息、登录凭证、社交账号被收集。 |
| 企业声誉受损 | 被曝光使用不安全插件，引发外部审计与监管关注。 |
| 后续攻击链 | 利用泄露信息实施针对性钓鱼邮件，进一步渗透内部系统。 |
4. 防护要点
- 审查插件来源：仅使用官方渠道且经过安全审计的插件。
- 最小化权限：浏览器插件应仅申请必要权限，杜绝“一键全权”。
- 实时监控：部署浏览器行为监控系统，检测异常 DOM 读取或网络请求。
- 安全培训：让员工了解插件风险，养成安装前核实的习惯。
启发：在企业内部推广使用 AI 助手、自动化脚本时，必须把“插件安全”列入合规检查清单，防止“看得见的钓鱼”成为信息泄露的突破口。
四、从案例到行动：机器人化、数智化、自动化时代的安全挑战
1. 趋势概览
- 机器人化：生产线、仓储、物流大量使用协作机器人（cobot），这些机器人往往嵌入 AI 推理芯片，依赖本地模型做视觉检测、路径规划。
- 数智化：企业数据平台通过机器学习模型提供预测分析、智能决策，模型本身成为数据资产。
- 自动化：CI/CD、DevOps 流程自动化工具链中，脚本、容器镜像、插件层出不穷，安全漏洞也随之增多。
这些技术的共同点是 “高度互联、边缘计算、对模型和代码的依赖度提升”，因此攻击面不再局限于传统的网络层，而深度渗透至硬件、操作系统、应用层。
2. 信息安全的“三大基石”
| 基石 | 关键要点 | 对应行动 |
|---|---|---|
| 身份 | 强身份认证、最小权限原则、零信任访问 | 实施 MFA、基于角色的访问控制（RBAC），在机器人终端引入硬件安全模块（HSM） |
| 数据 | 数据加密、完整性校验、敏感数据脱敏 | 使用端到端加密（E2EE），对模型权重进行加密存储，采用 ASGARD 类似的 TEE 方案 |
| 系统 | 代码审计、补丁管理、行为监控 | 建立漏洞库自动扫描，定期审计机器人固件、容器镜像，部署行为异常检测（UEBA） |
3. 信息安全意识培训的价值链
- 认知提升：让每位员工都能从案例中看到“自己身边的风险”。
- 技能赋能：通过实战演练（如模拟钓鱼、模型安全实验），让安全知识落地。
- 行为养成：将安全检查嵌入日常工作流，如“提交代码前必须通过安全扫描”。
- 组织治理：形成安全文化，提升跨部门协作，确保技术、业务、合规同步前进。
五、即将开启的信息安全意识培训活动
1. 培训目标
- 全员覆盖：从研发工程师、运维技术员到市场、行政等非技术岗位，做到“一圈全覆盖”。
- 场景化教学：结合公司实际使用的机器人平台、AI 模型、自动化工具，提供针对性案例。
- 交叉学习：邀请外部安全专家、学术界教授，分享最新攻击趋势（如对 TEE 的侧信道攻击）和防御技术（如安全模型压缩）。
- 持续评估：通过线上测评、红蓝对抗演练，动态调整培训内容，确保学习效果。
2. 培训模块设计
| 模块 | 内容 | 形式 | 关键输出 |
|---|---|---|---|
| 安全基础 | 信息安全概念、CIA 三角、威胁模型 | 线上视频+测验 | 基础安全认知证书 |
| AI 模型安全 | 模型保密、ASGARD 原理、模型水印 | 实验室演练（模型加密/解密） | 模型安全加固报告 |
| 浏览器与插件安全 | Chrome 插件风险、企业白名单策略 | 案例研讨+实战 | 插件安全审计清单 |
| 机器人与边缘安全 | 机器人可信启动、硬件根信任、固件签名 | 实体实验（固件签名验证） | 机器人安全合规清单 |
| 自动化链路安全 | CI/CD 安全、容器镜像扫描、供应链防护 | 线上实验（构建安全镜像） | 自动化安全手册 |
| 应急响应 | 事故报告流程、取证技巧、演练 | 案例演练（模拟泄露） | 响应流程 SOP |
| 政策法规 | 《网络安全法》、GDPR、数据分类分级 | 讲座+测评 | 合规检查清单 |
3. 鼓励措施
- 积分体系：完成每个模块即获积分，累计积分可兑换公司福利（如培训券、内部讲师机会）。
- 安全之星：每季度评选“信息安全之星”，颁发证书并在公司全员大会上分享经验。
- 内部黑客马拉松：鼓励员工利用业余时间进行安全创新，提交可落地的防御工具或改进建议。
4. 参与方式
- 报名渠道：公司内部协作平台（钉钉/企业微信）开设报名入口，统一分配学习账号。
- 学习时间：每周预留 2 小时线上学习，兼顾业务高峰期。
- 技术支持：信息安全部设立专线，提供技术答疑与环境搭建支持。
温馨提示：安全不是一次性的任务，而是持续的习惯。让我们把“每天多检查一点、少犯一次错误”内化为工作准则，让机器人、AI 与自动化成为 安全的助力 而非 风险的源头。
六、结语：让安全意识成为每个人的“第二本能”
信息安全的本质是 人 与 技术 的协同防御。过去的案例告诉我们，模型泄露、插件窃听等看似“技术细节”的漏洞，往往因人们的疏忽而被放大；而在机器人化、数智化、自动化的浪潮中，若没有全员的安全自觉，先进的技术也可能化身为攻击者的“加速器”。
因此，我呼吁每一位同事：
– 主动学习，将安全知识视为职业技能的必修课；
– 积极实践，在日常操作中自觉检查、及时报告；
– 共同维护，把个人的安全行为转化为组织的安全文化。
让我们在即将启动的信息安全意识培训中，携手构筑一座看得见、摸得着、甚至可以“闻”到的安全防线。只有当每个人都把安全当作自己的第二本能，企业才能在机器人与 AI 的赛道上跑得更快、更稳、更安全。
信息安全，人人有责；安全意识，终身受益。
昆明亭长朗然科技有限公司提供一站式信息安全咨询服务，团队经验丰富、专业素养高。我们为企业定制化的方案能够有效减轻风险并增强内部防御能力。希望与我们合作的客户可以随时来电或发邮件。
- 电话：0871-67122372
- 微信、手机：18206751343
- 邮件：info＠securemymind.com
- QQ: 1767022898