头脑风暴
1. “提示注入”让机器人失控:一次普通的聊天指令,却牵动了后端 AI 代理的状态机,导致系统直接执行恶意代码。
2. 检查点(Checkpoint)泄露成“后门”:开发者以为保存进度是安全的,却不料序列化数据未做校验,攻击者轻轻一“rewind”便获得了系统权限。
3. 无鉴权的开发助手暴露云凭证:Google 的 ADK(Agent Development Kit)在默认配置下对外开放 HTTP 接口,任意用户即可调用,进而窃取容器的 Service Account 密钥,实现“横向跳转”。
以上三幕并非天方夜谭,而是 Check Point 研究团队在 2026 年 Black Hat 大会上真实披露的案例。它们像是暗潮汹涌的暗礁,随时可能让本已高速前进的数智化船只触礁搁浅。下面,让我们 穿针引线,把这些技术细节转化为每一位职工都能懂、能防、能用的安全常识。
案例一:Prompt Injection——“一句话,毁掉整个系统”
事件概述
在使用 LangChain、CrewAI 等 AI 代理框架的企业内部部署中,攻击者仅通过一条精心构造的提示(prompt),让模型生成了含有恶意结构的 JSON。随后,这段 JSON 被框架直接写入内部的状态机,触发了 服务器端请求伪造(SSRF) 与 路径遍历,最终导致攻击者能够读取内部文件、调用内部 API,甚至在没有任何权限提升的情况下,执行系统命令。
技术细节
- 提示注入的根本:框架在解析用户输入时缺乏 输入过滤 与 沙箱机制,导致模型生成的任何文本都会被视作可信指令。
- 跨层执行:生成的恶意指令不仅停留在 LLM 的“思考层”,还穿透至 业务逻辑层,改变了后端的任务调度图(graph),指向了攻击者控制的 URL。
- 链式放大:一次注入可以在后续的 Agent Loop 中被多次复用,形成 放大效应,把攻击面从单一入口扩大到整个系统的工作流。
教训与对策
- 严格的 Prompt 过滤:对所有进入模型的文本进行正则白名单检查,尤其是包含文件路径、URL、系统命令的关键词。
- 沙箱执行:模型输出的任何可执行指令必须在受限容器或 Policy‑Engine 中执行,防止直接写入系统。
- 审计与回滚:对每一次 Agent State 的变更记录审计日志,并在检测到异常时自动回滚至 安全快照。
案例二:Checkpoint 反序列化——“保存即危机”
事件概述
Microsoft Agent Framework 引入了 Checkpoint 技术,以便在长时任务或异常恢复时保存当前的会话状态。研究人员发现,该框架在保存与加载 Checkpoint 时直接使用 Python pickle 进行序列化与反序列化,而未对输入进行可信度校验。攻击者利用 Prompt 注入,将恶意的 pickle 对象写入会话历史,当另一个合法用户触发“rewind”功能时,pickle 对象被执行,导致 远程代码执行(RCE)。
技术细节
- 不安全的序列化:pickle 在反序列化时会执行对象的
__reduce__方法,攻击者可构造任意对象,实现系统调用。 - 跨用户攻击链:攻击者 A 提交恶意 Prompt,生成恶意 Checkpoint;随后用户 B 在自己会话中使用 “rewind” 功能,触发恶意代码,完成权限提升。
- 缺失的安全边界:框架未对 Checkpoint 文件的 完整性(如签名)进行校验,也未对加载路径进行 访问控制。
教训与对策
- 抛弃 pickle:改用 JSON、MessagePack 等安全序列化格式,或在使用 pickle 时引入 签名校验(HMAC)。
- 权限分离:每个用户的 Checkpoint 必须存储在 用户专属的目录,且只能被同一用户读取。
- 安全审计:对每一次 Checkpoint 的写入与读取进行审计,异常行为触发报警并自动隔离会话。
案例三:Google ADK 无鉴权 API——“云钥匙轻易落入他手”
事件概述
Google 的 Agent Development Kit(ADK) 为开发者提供了一个内置的 开发助理,可以通过 HTTP 接口自动生成代码文件并写入容器。默认情况下,该 API 不要求身份认证,且在 Cloud Run 部署时默认开启。攻击者只需发送一个 HTTP 请求,即可让 ADK 写入任意 Python 脚本,脚本在导入时立即执行恶意代码,从而窃取容器内的 Google Cloud Service Account 密钥,进而横向访问同一项目下的所有资源。
技术细节
- API 泄露:ADK 的
/deploy接口对外开放,无论是内部 IP 还是外网均可直接访问。 - 即时执行:生成的脚本在 import 时即运行
os.system,无需额外触发,完成攻击链的 一键式。 - 凭证滥用:获取的 Service Account 密钥拥有 项目级别 的权限,攻击者可读取 GCS 存储桶、调用 BigQuery,甚至创建新资源。
教训与对策
- 强制鉴权:在部署 ADK 时必启 IAM 角色绑定 或 OAuth2 鉴权,禁止匿名访问。
- 最小权限:为容器分配 最小化的 Service Account 权限,避免一次泄露导致全局危害。
- 网络隔离:使用 VPC Service Controls 将 ADK 接口限制在可信子网内,外部流量直接阻断。
从案例到全景——信息安全的“七层防线”
| 层级 | 关键要点 | 对应防护措施 |
|---|---|---|
| 1. 物理层 | 机房门禁、硬件资产管理 | 视频监控、指纹/卡片双因子 |
| 2. 网络层 | 边界防火墙、零信任访问 | NGFW、SD‑WAN、Zero‑Trust Network Access |
| 3. 主机层 | 操作系统安全基线、补丁管理 | 主机入侵检测 (HIDS)、自动化补丁 |
| 4. 容器/虚拟化层 | 镜像签名、运行时安全 | Cosign、OPA、Kubernetes Runtime Security |
| 5. 应用层 | 代码审计、输入校验 | SAST/DAST、API 验证、参数化查询 |
| 6. 数据层 | 加密存储、访问审计 | CMK、审计日志、数据脱敏 |
| 7. 治理层 | 安全策略、培训、应急响应 | ISO 27001、定期演练、意识提升 |
这七层防线相互交织,缺一不可。Prompt 注入 与 不安全序列化 之所以能够突破,正是因为在 治理层 没有形成闭环,导致技术层面的漏洞被放大。
数智化时代的安全挑战:机器人、信息化、自动化的交叉点
1. 机器人流程自动化(RPA)与 AI 代理的融合
RPA 机器人常常调用后端 API 完成业务流程,而 AI 代理则负责 自然语言到代码的转译。当两者结合时,一条错误的 Prompt 可能导致机器人执行 非法操作,如转账、删除关键记录。解决之道在于 “人‑机‑审计三位一体”:每一次机器人动作必须经过 审计日志 与 人工复核,尤其是涉及财务或敏感数据的事务。
2. 数字孪生与实时决策系统
在制造业、智慧城市等场景中,数字孪生模型实时接收传感器数据并做出调度指令。如果 AI 代理的 Prompt 被篡改,调度指令可能导致 设备误操作,甚至产生物理危害。需要在 模型输入层 增加 数字签名 与 完整性校验,确保数据流的 端到端可信。
3. 信息化平台的微服务生态
企业级信息化平台往往由数百个微服务组成,服务之间通过 REST/gRPC 通信。AI 代理常被用作 “智能网关”,对外提供自然语言查询。若攻击者通过 Prompt 注入在网关植入 恶意请求,就可能跨越微服务边界,发动 横向渗透。防御思路是 在网关层实现统一的 WAF,并对所有下游请求进行 属性基准(ABAC) 鉴权。
号召:加入信息安全意识培训,打造“安全思维”第二大脑
“安全不是一时的防护,而是一种生活方式。”
——《孙子兵法·计篇》有云:“上兵伐谋,其次伐交,其次伐兵,其下攻城。”
在数字化浪潮里,“伐谋”即是培养全员的安全思维,它比任何技术防御更具持久力。
为此,昆明亭长朗然科技有限公司 将于 2026 年 9 月 15 日(周四) 拉开 信息安全意识培训 的帷幕,培训内容涵盖:
- 安全基础:密码学、身份管理、最小授权原则。
- AI 代理安全:Prompt 注入防护、序列化安全、检查点审计。
- 云原生安全:容器镜像签名、Zero‑Trust 网络、服务账号管理。
- 实战演练:红队蓝队对抗、CTF 现场渗透、案例复盘。
- 合规与审计:ISO 27001、GDPR、国内网络安全法的落地实践。
培训形式与激励
| 形式 | 时间 | 目标受众 | 奖励 |
|---|---|---|---|
| 线上微课(30 分钟) | 周一至周五 18:00‑18:30 | 所有岗位 | 完成后可获取 电子安全徽章 |
| 面对面研讨(2 小时) | 每周三 14:00‑16:00 | 技术、运维、产品 | 现场抽奖 硬件安全钥匙(YubiKey) |
| 红蓝对抗赛(半天) | 9 月 22 日 09:00‑13:00 | 安全团队、研发骨干 | 最佳团队奖:价值 2000 元培训券 |
| 安全知识竞答(1 小时) | 9 月 28 日 15:00‑16:00 | 全体员工 | 前 10 名获得 公司文化衍生品 |
温馨提示:所有培训均采用 微学习 + 实战 的方式,兼顾 理论深度 与 操作体验,让每位同事在 短时间内 完成从 “不懂” 到 “会防” 的跃迁。
如何报名
- 进入公司内部 OA 系统,点击 “培训报名 → 信息安全意识培训”。
- 填写 部门、岗位、预计参训时长,系统将自动匹配适合的课程表。
- 报名成功后,请在 培训前 24 小时 完成 预学习任务(包括阅读《Prompt 注入防御白皮书》),以便在课堂上进行 案例讨论。
一句话总结:防御不是靠单点技术,而是靠全员的安全“肌肉”。 让我们一起把安全意识炼成第二大脑,在智能化、机器人化、信息化交织的浪潮中,稳坐舵手,驶向安全的彼岸。
结语:让安全成为企业的“双轮驱动”
在 AI 代理框架、云原生微服务 与 机器人流程自动化 快速迭代的今天,安全已经不再是“IT 部门的事”。每一位使用智能工具的员工,都可能在不经意间成为 攻击链 上的关键环节。我们必须从 个人行为、团队协作、组织治理 三维度出发,构建 “预防‑检测‑响应” 的闭环体系。
- 预防:通过 Prompt 过滤、安全序列化、严格鉴权,从根源堵住漏洞。
- 检测:部署 行为审计、异常检测 与 AI‑驱动的威胁情报,实现实时告警。
- 响应:制定 应急预案,明确 职责分工,定期演练,做到 发现即处置、处置即恢复。
当每个人都把 安全思维 刻进日常工作,当每一次 代码提交、模型调优、系统配置 都经过 安全审查,我们的数字化平台才能真正实现 “安全可用、可靠高效” 的三位一体。
让我们从今天起,带着安全的“头盔”,踏上 AI 与数字化的探索之旅。
安全意识培训,期待与你相聚!
信息安全意识培训部 敬上

信息安全 关键 防护 体系
在日益复杂的网络安全环境中,昆明亭长朗然科技有限公司为您提供全面的信息安全、保密及合规解决方案。我们不仅提供定制化的培训课程,更专注于将安全意识融入企业文化,帮助您打造持续的安全防护体系。我们的产品涵盖数据安全、隐私保护、合规培训等多个方面。如果您正在寻找专业的安全意识宣教服务,请不要犹豫,立即联系我们,我们将为您量身定制最合适的解决方案。
- 电话:0871-67122372
- 微信、手机:18206751343
- 邮件:info@securemymind.com
- QQ: 1767022898




