大型语言模型，如 BERT 和 RoBERTa 等基于转换器的模型，已越来越多地用于各种自然语言处理任务，包括文本分类、情感分析和语言翻译。然而，这些模型对公共话语和社会操纵的潜在影响也引发了一些担忧。以下是大型语言模型在舆论操纵方面的一些风险：
- 有偏差的训练数据： 大型语言模型通常在大型文本数据集上进行训练，这些数据集可能包含偏见，反映了创建数据者的偏见和成见。这些偏见可能会在模型的预测中延续，从而强化有害的刻板印象和歧视。
- 虚假信息和宣传： 大型语言模型可用于生成高质量、有说服力和虚假的新闻文章、宣传和虚假信息。这可以用来操纵舆论，制造混乱，破坏人们对机构和媒体的信任。
- 情绪操纵： 大型语言模型可用于生成旨在操纵人们情绪和情感的文本。这可用于创建虚假评论、宣传和其他形式的操纵性内容，从而影响人们的观点和决策。
- 天马行空： 大型语言模型可用于创建虚假的草根运动，也被称为 “天体运动”。这可以用来制造一种自发的民众运动的假象，而实际上，这是一种人为的影响公众舆论的努力。
- 语言劫持： 大型语言模型可用于劫持特定群体或运动的语言和叙事，并利用它来推动不同的议程。这可能被用来破坏边缘化群体的合法性，宣扬有害的意识形态。
- 深度伪造新闻： 大型语言模型可用于创建与真实新闻几乎无异的深度伪造新闻文章、视频和录音。这可以用来传播错误信息和宣传，破坏人们对媒体和机构的信任。
- 回音室： 大型语言模型可用于创建个性化的回音室，在这种回音室中，人们只能接触到证实其现有信念的信息。这会强化有害的意识形态，使人们更加两极分化，更不愿意接受不同的观点。
- 缺乏透明度： 大型语言模型可用于创建复杂、不透明、难以理解和解释的系统。由于缺乏透明度，很难识别和降低与这些模型相关的风险。
- 意外后果： 大型语言模型可能会产生意想不到的后果，例如生成有害、攻击性或歧视性的文本。即使模型是在本意是中立或积极的数据上训练出来的，这种情况也可能发生。
- 恶意行为者的滥用： 大型语言模型可能被怀有恶意的行为者用来操纵舆论、传播错误信息、破坏对机构和媒体的信任。这会对民主、公共卫生和国家安全造成严重后果。
为降低这些风险，必须制定和实施相关战略，以检测和降低与大型语言模型相关的潜在危害。这包括提高这些模型的透明度和可解释性，为其使用制定道德准则，以及投资研究以更好地了解其对公共话语和社会操纵的影响。对此，昆明亭长朗然科技有限公司网络安全研究专员董志军简单总结说，我们需要从技术、法规和教育三方面进行防范。技术上，可以研发检测虚假信息和深度伪造的技术；法规上，需要制定相应的法律法规，约束和惩罚滥用行为；教育上，提高公众的信息素养，使其具备辨别真伪信息的能力。
纵观全球，人工智能大语言模型是不错的工具，对于人们轻易快速地获取信息非常有帮助，模型本身没有错，但是模型很容易被科技公司、国家政府、新闻媒体、大型社团以及网络平台等等掌握更多资源者所滥用，最常见的仍然是最传统的引导舆论，谋取私利。公众在使用大数据模型时，如果想依靠行业自律或法规约束来免于被操控，那无疑是与虎谋皮，搞错了对象。正确的做法是从教育角度提升公众的信息素养，可以采取以下几种策略：
- 信息检索教育：教给公众如何有效、准确地搜索和筛选信息，理解搜索引擎的工作原理，避免只依赖于搜索结果的前几项。
- 批判性思维培养：培养公众批判性思维能力，让他们学会从多个角度分析问题，质疑信息的来源、可信度和潜在的偏见。
- 媒体素养教育：教育公众如何识别人工智能生成的内容和真实新闻，了解新闻的制作过程，识别假新闻和误导性信息。
- 信息安全和隐私保护：教育公众如何保护个人信息，不轻易泄露给不可信的来源，理解数据安全和隐私权的重要性。
- 数字公民教育：让公众理解自己在网络社区中的角色和责任，学会尊重他人的观点，避免参与或传播恶意信息。
- 继续教育和终身学习：随着技术的不断发展，信息素养的教育不能仅限于基础教育阶段，应通过各种途径（如在线课程、工作坊、公共讲座等）提供持续的学习机会。
- 实践体验：通过模拟情境或案例分析，让公众亲身体验如何识别和处理虚假信息，提升实战能力。
通过这些方法，公众可以更好地理解和应对信息海洋中的挑战，提高信息鉴别能力，减少舆论操纵的影响。昆明亭长朗然科技有限公司创作了大量的网络信息安全素养教育课程，包括动画视频和电子课件，我们也提供用户继续教育和终身学习的在线电子学习服务，欢迎有兴趣的客户及合作伙伴联系我们，预览作品、体验服务以及洽谈采购。
昆明亭长朗然科技有限公司
- 电话：0871-67122372
- 手机：18206751343
- 微信：18206751343
- 邮箱：[email protected]
- QQ：1767022898