随着人工智能（AI）技术的迅猛发展，AI系统在各个领域的应用越来越广泛。然而，AI系统并非无懈可击，它们也面临着各种安全威胁，其中之一就是对抗性攻击。对抗性攻击是指通过微小的扰动或改变输入数据，使AI系统做出错误的判断或决策。这种攻击方式不仅对AI系统的准确性和可靠性构成威胁，还可能导致严重的安全隐患。对此，昆明亭长朗然科技有限公司网络安全研究员James Dong表示：正义的好人们正在将人工智能用于造福人类的“降本增效”运动，邪恶的败类们也正在研究怎么恶意利用人工智能进行危害人类的破坏活动，其中便包括如何欺骗人工智能应用，将其带上邪路，让其变得混乱无序并制造麻烦。如下，我们将探讨如何避免人工智能对抗性攻击，并通过几个实际案例强调人员安全意识在其中的重要性。

对抗性攻击的实际案例

1. 图像识别系统的欺骗 在图像识别领域，对抗性攻击可以通过微小的像素改变来欺骗AI系统。例如，一个经过微小扰动的图像可能会被AI系统误认为是完全不同的物体。比如，一张兔子的图片经过微小的像素值改变后，AI系统可能会认为这是一张桌子的图片。这种攻击对人眼几乎是不可见的，但却能愚弄AI系统。
2. 自动驾驶系统的漏洞 自动驾驶汽车依赖于计算机视觉系统来识别交通标志和障碍物。然而，研究人员发现，通过在停车标志上贴上特定的贴纸，可以使AI系统无法识别停车标志，甚至将其误认为其他物体。这种攻击方式可能导致严重的交通事故。
3. 生物识别系统的欺骗 生物识别系统，如面部识别技术，也面临着对抗性攻击的威胁。例如，卡内基梅隆大学的研究人员设计了一副奇特的眼镜，当一个人戴上这副眼镜时，AI系统会认为他是女演员米拉·乔沃维奇。这种攻击方式可能被用于非法进入受保护的区域或系统。

如何避免对抗性攻击

1. 加强技术防御 为了防御对抗性攻击，AI领域的研究人员正在开发各种技术手段。例如，通过修改神经网络的结构和算法，使其更难被攻击。此外，对抗性训练（Adversarial Training）是一种有效的防御方法，通过在训练过程中引入对抗性样本，提高模型的鲁棒性。
2. 多层次的安全措施 单一的防御措施可能无法完全抵御对抗性攻击，因此需要采取多层次的安全措施。例如，结合传统的安全技术，如加密、身份验证和访问控制，来增强AI系统的安全性。
3. 持续监控和更新 对抗性攻击的手段和技术不断演变，因此需要持续监控和更新AI系统的防御措施。定期进行安全审计和漏洞扫描，及时发现和修复潜在的安全隐患。

人员安全意识的重要性

尽管技术手段在防御对抗性攻击中起着重要作用，但人员的安全意识同样不可忽视。以下是一些强调人员安全意识的措施：

1. 安全意识培训 定期对员工进行安全意识培训，使他们了解对抗性攻击的基本概念和常见手段，提高他们的警惕性和防范能力。
2. 安全文化建设 在企业内部建立良好的安全文化，鼓励员工积极参与安全工作，及时报告可疑行为和安全事件。
3. 明确的安全政策 制定并实施明确的安全政策和规程，规范员工的行为，确保他们在日常工作中遵循安全操作规范。
4. 安全事件演练 定期进行安全事件演练，模拟对抗性攻击的场景，检验和提高员工的应急响应能力。

结论

人工智能对抗性攻击是一个复杂且多变的安全威胁，需要技术手段和人员安全意识的共同努力来应对。通过加强技术防御、采取多层次的安全措施、持续监控和更新，以及提高人员的安全意识，我们可以有效地防御对抗性攻击，确保AI系统的安全和可靠性。只有在技术和人员的共同努力下，我们才能在AI时代中保持安全，实现技术的可持续发展。如果需要针对人员进行安全意识的教育培训，欢迎联系我们。

昆明亭长朗然科技有限公司

• 电话：0871-67122372
• 手机：18206751343
• 微信：18206751343
• 邮箱：[email protected]
• QQ：1767022898

几天前，我在京城转悠，在拜访客户的间隙，本想近距离观赏近年来北京奥运会的标志性建筑，却随缘地参观了一个“全球移动互联网大会”。说来真是有幸，我看到了移动互联网产业中的大量创新，真的很为这些创业先锋们感到自豪，也为能生长在这个剧变的时代，享受着科技工业带来的文明硕果，并与技术极客们近距离接触感到无比的兴奋。

我们不可否认的是，高科技创新资源大都集中在一线城市，这里有其它地方难以比拟的人才和技术优势，移动互联网领域当然也是如此。而昆明，显然并非高科技领域内多数年轻人的理想创业场所，这里虽然有清洁的空气，但却远离一线城市，好在昆明亭长朗然科技有限公司的主营业务并非“高科技”。

当然，在展会上，我看到了不少的移动应用，也看到一些大数据和安全相关的产品。这是一个移动化的时代，也是大数据的时代，将这两者结合起来的无疑就是海量移动数据的获取、分析和利用了。我在好几家移动广告平台的展台前驻足参观，看来基于移动用户行为分析的产品是一个行业热点。不过，由于信息安全的职业敏感性，我立即想到个人信息安全与隐私保护这个问题，在看到“无埋点采集”、“全数据采集”、“永不停歇的数据马拉松”等宣传点后，我不由得担心起来。

对于商家来讲，当然移动用户的数据越详尽越好，因为这样更容易掌握用户行为、制定适当的定向营销策略并以此获得最大的回报。对于移动用户来讲，如果这些个人的使用数据交给商家用于改善产品和服务，倒也是一件好事儿。可问题是事情往往并没有表面看起来那么简单，专门靠移动用户的数据来赚钱的商家，显然不会只满足于改善产品和服务，“数据就是黄金”，他们要把这些数据的价值最大化，买卖这些数据便是毫无疑问的行为了。

如果我的移动使用数据中隐去了个人信息如：姓名、联系方式、账户卡号等，那我可以高枕无忧地使用移动应用或移动计算。相反，如果厂商手中的信息有我的姓名、联系方式、账户卡号等等，我最担心的肯定是被广告骚扰、甚至各种有针对性的诈骗。

现在您已经知道了我的担心，如何破解呢？其实我们国家早已经有了多部个人信息保护相关的法律法规，也不断有新的法规出台，它们普遍都规定：只有去掉了可识别性的信息，数据才应该被使用。“可识别性的信息”，我的理解其实就是可以区分出不同的用户身份，用来追踪到个人联系方式和的信息，以及一些个人证照信息。

法律法规的出发点都是好的，但是在巨大的利益诱惑之下，法律法规也可能不被遵守，甚至遭到践踏。数据犯罪集团可以用各种借口来采集过多的信息，并加以分析利用，而终端移动用户，可能只是两眼一抹黑。

其实话说回来，如果移动用户的个人信息安全、隐私保护和维权意识足够强烈的话，数据犯罪集团显然会有所顾虑，毕竟法律法规还是有一定的震慑力量的。

如何让移动用户有足够的个人信息安全、隐私保护和维权意识呢？只有一个方法，就是教育培训。昆明亭长朗然科技有限公司出品了多部移动安全与个人信息保护的教程，也有针对商家和企业级用户的培训课程。通过这些课程，我们能够让员工们知道为什么要保护客户的个人信息，以及保护客户个人信息的工作实践。我们也能在移动计算和大数据时代，不触碰法律红线，借助海量的用户数据，获得业务的持续增长。

欢迎联系我预览这些课程资源，当然也欢迎您联系我洽谈更多的业务合作，或只是聊一聊这个话题。

董志军

手机：18206751343

微信：18206751343

邮箱：[email protected]

QQ：1767022898