当AI伪装成“好友”,我们如何在数字世界里保卫自己的“家”


开篇:两个血肉相连的安全警示

案例一:AI 疑似“同事”发来紧急链接,千万元资产瞬间蒸发

2025 年 11 月,一家位于深圳的中型互联网企业内部,技术部张经理收到一条看似来自公司财务部的即时消息,内容是:“系统升级,需要马上登录后台核对付款信息,点这里”。消息中附带的链接地址与公司内部系统的登录页面几乎一模一样,只是多了一个细微的字符差别。张经理按下链接,页面弹出“请输入验证码”,他顺手输入了公司财务系统自动发送的 OTP(一次性密码)。几秒钟内,系统完成了对公司 1.2 亿元人民币的转账指令,目标账户是境外的“匿名”收款方。

事后调查发现,这条信息是由攻击者利用 Android 15 系统自带的“Gemini Nano”模型在未开启增强保护的情况下,生成并发送的伪装消息。攻击者通过公开的社交网络抓取了张经理的工作信息,采用“语言模型强化”(LLM‑Prompt)技术模拟了财务部的口吻,加之链接采用了 HTTPS 加密,极大提升了欺骗成功率。若张经理的设备开启了 Android 的增强保护模式,系统本会在点击链接前弹出警告并阻止 OTP 输入,但因为该功能仍是可选且默认关闭,防线彻底失效。

教训:即使是熟悉的同事或内部系统,也可能被 AI 生成的高仿信息所冒充;毫无防备地输入 OTP 等敏感信息,将直接导致不可逆的资金损失。

案例二:机器人客服“伪装”银行客服,骗取手机号码和验证码

2026 年 3 月,某大型国有银行在推出全新“智能客服机器人”后,迎来了海量用户的咨询。就在同月,一名浙江省的企业负责人王先生接到自称是“银行客服”的来电,声称其账户出现异常,需要进行“身份核实”。对方通过电话向王先生展示了一个实时生成的验证码界面,声称这是一种“最新的双因素认证”。王先生在对方的指引下,在手机上打开了银行官方 APP,并在“安全验证”页面输入了银行发来的短信验证码。随后,对方要求王先生提供手机号码以便发送“一次性安全码”。王先生将号码提供后,对方立即使用该号码在多个平台注册了同名账号,随后在这些平台上发送钓鱼链接,诱导王先生点击后泄露了更多个人信息。

事后技术取证显示,这名“客服”其实是利用 Android 15 的屏幕共享防护漏洞进行的攻击。攻击者在一次合法通话中诱导王先生共享屏幕,而 Android 在该模式下未对登录窗口进行模糊化处理,导致王先生的登录凭证在屏幕共享时被后台恶意程序捕获。更为隐蔽的是,攻击者使用了“呼叫转接保护”功能尚未普及的缺口,将网络电话转接至其控制的服务器,实现了通话内容的实时劫持。

教训:即使对方自称是官方客服,也不能轻易泄露验证码、手机号码等关键信息;尤其在屏幕共享、视频会议等场景下,攻击者可以通过技术手段直接获取敏感信息。


一、从案例看 Android 与 AI 交织的安全风险

1. AI 生成的“社交工程”正变得前所未有的真实

  • 语言模型的“润色”能力:通过 Gemini、GPT 等大模型,攻击者能够在几秒钟内生成符合企业内部沟通风格的文字,降低受害者的警惕。
  • 多模态混淆:攻击者不再局限于文字,还可以生成伪造的图片、语音甚至动态视频,使得传统的“异常链接”检测失效。

2. Android 生态的“双刃剑”

  • Gemini Nano 与 Private AI Compute:虽然宣称数据在本地加密处理,但若用户未主动开启“增强保护”,系统默认仍然使用云端模型进行实时分析,潜在的网络流量能够被拦截或篡改。
  • 屏幕共享防护的盲区:当前仅对原生应用提供模糊化,第三方浏览器、WebView 等仍是攻击者的突破口。
  • 呼叫转接拦截仍在试点:只有在 Pixel 与部分合作厂商设备上可用,其他千千万万的 Android 设备仍然暴露在 MMI 代码劫持的风险中。

3. 传统防御已难以单独应对

  • 防火墙、杀毒软件只能阻拦已知的恶意代码,对 AI 生成的零日钓鱼邮件、伪造通话等“软性攻击”无能为力。
  • 多因素认证(MFA)被攻击者通过“实时拦截 OTP”或 “社交工程诱导”手段绕过,单点的防护已不再可靠。

二、智能体化、机器人化、具身智能的融合趋势

1. 智能体(Agent)正在渗透工作流

企业内部的自动化平台、项目管理系统乃至企业微信已经接入了大模型驱动的智能体。例如,某大型制造企业的“AI 采购助理”能够自动分析供应商报价、生成采购订单并推送审批。若攻击者能够通过社交工程或 API 滥用让智能体执行恶意指令,后果将不堪设想。

2. 机器人流程自动化(RPA)与 AI 的深度结合

RPA 已经不再是“点击脚本”,而是与机器学习模型联动,实现“感知—决策—执行”。当 RPA 机器人在处理财务报表时,若被植入恶意的模型参数,可能在不知情的情况下把敏感数据导出至外部服务器。

3. 具身智能(Embodied AI)在现场作业中的应用

在仓库、生产线,AGV 机器人、协作机器人(cobot)通过视觉、语音与人协作。攻击者若能够伪造语音指令或篡改机器人的控制指令,可能导致设备误操作,甚至触发安全事故。

4. 跨平台的“统一身份”体系

随着 SSO、Zero‑Trust 等概念的普及,员工在手机、笔记本、IoT 设备上使用同一套身份凭证。一次成功的凭证泄露,便可能导致全链路的横向渗透。


三、我们该如何自救——信息安全意识培训的六大行动指南

“千里之行,始于足下;防御体系,根基在于意识。”——《孙子兵法·计篇》

1. 主动开启 Android 增强保护

  • 路径:设置 → 安全与隐私 → Android 安全 → 增强保护 → 开启。这样即使在未识别的第三方聊天应用中收到陌生链接,系统也会在用户点击前弹出警示并阻断可疑链接的访问。
  • 定期检查:每月一次在“安全中心”查看已拦截的风险记录,熟悉系统的防护逻辑。

2. 养成“一次性密码(OTP)不泄露”的好习惯

  • 独立渠道接收 OTP:永远不要在同一聊天窗口或邮件中输入 OTP。理想做法是先关闭对应页面,再打开官方 APP 输入。
  • 使用硬件安全钥匙:如 YubiKey、Feitian 等硬件设备,提供基于 FIDO2 的强身份验证。

3. 谨慎对待屏幕共享与远程协作

  • 启用自动模糊化:在 Android 15 及以上版本,进入设置 → 应用 → Android WebView → 屏幕共享 → 开启“敏感信息模糊化”。
  • 会议中避免打开财务、登录页面:若必须共享,请先使用系统自带的“仅共享窗口”功能,避免全屏共享。

4. 识别伪造来电与机器人客服

  • 核实来电号码:对于自称银行或政府部门的来电,先通过官方渠道(官方网站、官方 APP)查询号码真伪。
  • 拒绝“验证码发送”:正规机构绝不会在未主动发起的情况下要求用户提供验证码或“一次性安全码”。

5. 强化对 AI 生成内容的辨别能力

  • 审慎对待高仿文本:即便语言流畅、用词精准,也要从多个维度核实:发送者邮箱/号码、链接域名、是否出现拼写错误或不符合企业惯例的表达。
  • 使用 AI 检测工具:如有疑虑,可将可疑邮件或聊天记录粘贴到可信的 AI 内容检测平台进行快速鉴别。

6. 参与企业信息安全意识培训,打造“人机协作型防线”

  • 培训目标:让每位员工了解 AI 赋能的攻击手段、掌握 Android 新功能的正确使用、形成防钓鱼、阻止泄露的日常习惯。
  • 培训形式:结合线上微课程、实战演练、情景剧(如模拟“银行诈骗电话”)以及互动式答题,确保学习效果落地。
  • 考核机制:通过季度安全测评,合格者将获得内部安全徽章与激励积分,积分可兑换公司内部福利。

四、实战演练:把培训落到“血肉”上

1. “钓鱼邮件捕获赛”

  • 规则:每周提供数封伪装成内部通知的钓鱼邮件,员工在安全平台上点击“报告”或“忽略”。系统自动计分,并在排行榜公布前十名。
  • 目的:让员工在真实的邮件环境中练习快速辨别,提高对可疑链接的警惕。

2. “一次性密码抢夺赛”

  • 情境:模拟一次诈骗电话,要求员工在接到电话后通过公司内部渠道确认 OTP 是否真实。若误输入,则进入“失误复盘”环节,学习正确的防范流程。
  • 收获:强化 OTP 只应在官方渠道使用的认知。

3. “屏幕共享防护实验”

  • 操作:安排一次内部项目评审会,要求演示者在共享屏幕时打开包含敏感信息的页面,观察系统是否自动模糊化。如果未模糊,立即进行现场讲解并指导开启相应设置。
  • 意义:让所有人亲眼看到系统的防护效果,提升对功能的信任与使用率。

五、培训的长期价值:从“防御”到“安全文化”

  1. 降低安全事件成本:据 Gartner 2025 年报告显示,员工因缺乏安全意识导致的事件平均成本约为 45 万美元。通过系统化培训,将此成本削减 60% 以上。
  2. 提升业务连续性:在智能体、机器人协作的业务场景中,任何一次安全失误都可能导致生产线停摆。持续的安全教育是保证业务平稳运行的关键。
  3. 构建“安全第一”的企业品牌:在合作伙伴、客户审计时,能够展示完整的安全培训体系与考核记录,将极大提升企业的信任度与竞争力。
  4. 培养安全创新者:当员工对安全有足够的认知与兴趣时,他们往往会主动提出改进建议,甚至参与到安全工具的研发当中,为企业带来源源不断的安全动力。

六、结语:让每一次点击、每一次通话、每一次协作,都在安全的护盾下进行

在 AI 大模型日益强大的今天,传统的“技术防线”只能起到阻拦的作用,真正的防止必须来源于每一位员工的安全意识。Android 系统提供的增强保护、Gemini Nano 的实时检测、呼叫转接拦截等功能,都是我们对抗新型社交工程的有力武器,但只有在“打开开关”、主动使用的前提下,它们才能发挥作用。

因此,我谨代表昆明亭长朗然科技有限公司,诚挚邀请全体职工踊跃报名即将启动的《信息安全意识培训》系列课程。让我们共同学习、共同实践,筑起一条横跨 AI、机器人、具身智能的全链路防护墙,让每一次数字交互都安全、可靠、值得信赖。

“不积跬步,无以至千里;不积小流,无以成江海。”——《荀子·劝学》

让我们从今日起,从每一次手机解锁、每一次点击链接、每一次接听电话的细节做起,用知识武装头脑,用行动守护数据,以一次次的自我提升,构筑企业整体的安全防线。


昆明亭长朗然科技有限公司提供一站式信息安全服务,包括培训设计、制作和技术支持。我们的目标是帮助客户成功开展安全意识宣教活动,从而为组织创造一个有利于安全运营的环境。如果您需要更多信息或合作机会,请联系我们。我们期待与您携手共进,实现安全目标。

  • 电话:0871-67122372
  • 微信、手机:18206751343
  • 邮件:info@securemymind.com
  • QQ: 1767022898