计算宣传：社交机器人的舆论“操纵术”

随着智能技术的发展，计算宣传作为一种操纵舆论的新方式，对国家网络生态的安全有着重要的意义。对此，本文从计算宣传的概念界定、应用现状、影响以及相应的治理路径做了分析，希望对你有所帮助。

在当前政治传播日趋复杂化的背景下,计算宣传已成为新一轮“社交媒体新冷战”的主要手段。尤其值得关注的是，西方国家针对中国的计算宣传机制已经初具规模，对我国国家形象和声誉的维护形成了严峻挑战。

计算宣传(Computational Propaganda)最早被美国华盛顿大学的塞缪尔·伍利（Samuel Woollery）和英国牛津大学的菲利普·霍华德（Philip N.Howard）定义为“社交媒体平台、自主代理、算法和旨在操纵舆论的大数据的组合”。

计算宣传是为达到特定目的所开展的传递虚假或错误信息、制造信息污染、攻击政治对手等一系列破坏网络信息环境和政治传播生态的行动，具有隐匿性、自动化、精准化等特点。

2020年的一项统计表示：全球有超过81个国家在社交媒体上进行“计算宣传”与传播政治错误信息。作为一种操纵舆论的新方式，计算宣传在全球蔓延的态势对我国网络安全和意识形态安全造成了重大负面影响。

本期小羊将给大家分享计算宣传的概念界定、应用现状、影响以及相应的治理路径。

一、计算宣传的概念界定

计算宣传的兴起源于智能技术的发展，是当前国际舆论战的手段之一，对国家网络生态的安全有着重要的意义，故而引起了诸多研究者的关注。

在定义方面，不同的研究者的阐释角度有所不同，依据文献梳理，已有研究对计算宣传的定义主要从操作系统、目标以及群体等角度进行切入。

（1）计算宣传是社交媒体平台、自动化代理人和大数据的集合体，旨在有组织地操纵公共舆论。

——Samuel C. Woolley；Philip N. Howard

Woolley S C, Howard P N. Political communication, computational propaganda, and autonomous agents: Introduction[J]. International Journal of Communication, 2016, 10.

（2）人类主体有意利用计算工具误导或操纵信息生态系统，以影响目标群体的信念、态度和偏好，进而实现宣传者的社会或政治目标。

——Yochai Benkler；Robert Faris；Hal Roberts

Benkler Y, Faris R, Roberts H. Network propaganda: Manipulation, disinformation, and radicalization in American politics[M]. Oxford University Press, 2018.

（3）从定义上看，计算宣传运动故意瞄准并引发有争议的政治和社会文化议题，试图将涉事主体划分为内群体和外群体，随后将议题进行扩散，并将个体视为对二元意识形态之一的忠诚追随者。

——Michael Hameleers

Hameleers M. Separating truth from lies: Comparing the effects of news media literacy interventions and fact-checkers in response to political misinformation in the US and Netherlands[J]. Information, Communication & Society, 2022, 25(1): 110-126.

二、计算宣传的应用现状

由于社交机器人、深度伪造等技术的发展，计算宣传在智能技术的加持下呈现着普遍性、隐匿性、代理性的特点,导致其治理难度日益增加，治理范围逐步扩大。

面对计算宣传带来的重重障碍和严峻挑战，现有研究多从国家舆论战、政治选举等方面对计算宣传进行应用研究，力图深入和全面地揭示计算宣传给人类社会带来的负面效应。

注：社交机器人（Social Bots）是指“在社交媒体上通过各种计算机脚本与程序学习模仿人类、操纵舆论的一些社交媒体账号”。

（1）事实上，世界各地的政治竞选活动、政府和普通公民都在社交媒体平台上使用人和机器人的组合，来制造操纵性的虚假信息运动。它们可以支持或淹没某一特定政治家的观点或政策理念，也可以利用“人类喷子”，以“制造共识”或营造一种大众普遍支持某一政治家或某一政治家较为受欢迎的错觉。

——Samuel C. Woolley；Douglas Guilbeault

Woolley S C, Guilbeault D. Computational propaganda in the United States of America: Manufacturing consensus online[J]. 2017.

（2）本文收集数据以检验推特平台上与中国政治相关的标签以及微博平台上官方新闻信息的评论中是否存在自动化机器人的身影。这些数据表明，中国政府并没有将机器人应用于国内或国际宣传工作中。

然而，令人惊讶的是，在推特平台上发现了反华国家机器人活动的重要证据，这些机器人的信息主要用简体中文发布。

——Gillian Bolsover；Philip Howard

Bolsover G, Howard P. Chinese computational propaganda: Automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo[J]. Information, Communication & Society, 2019, 22(14): 2063-2080.

（3）应美国国会调查俄罗斯参与2016年总统大选的要求，推特于2017年10月31日提交了一份被删除的推特账户列表。这次调查显示了一个与俄罗斯政府高度有关的“巨魔工厂”。据推特称，共有36746个俄罗斯账户产生了大约140万条与美国大选有关的推文。

——S Fiegerman；D Byers

Fiegerman S, Byers D. Facebook, Twitter, Google defend their role in election. CNN, 1 November 2017[J].

注：巨魔工厂，具体指俄罗斯互联网研究所，成立于2013年，隶属于俄联邦通讯社，旨在利用网络手段操纵舆论，维护俄罗斯政治、商业利益，是俄罗斯“信息战”的主力。

三、计算宣传的影响

研究显示，2020年6月到8月之间社交媒体上流传的有关疫情“阴谋论”的15000多条谣言中，有2427条谣言及其所包含的话题标签出自同个信源。这充分说明，计算宣传已成为各国在社交媒体平台中进行舆论战的新形式之一。

使用社交媒体进行计算宣传和传播政治虚假信息的国家和政党数量逐年增长，表明计算宣传的工具和技术已经成为政治和公共外交等领域必不可少的组成部分。而其产生的影响大多集中在负面效果上，具体而言包括虚假新闻、加剧公众舆论意见对立以及左右政治选举活动的结果等。

（1）针对计算宣传对2016年总统大选前后政治意向的影响进行研究，结果表明整个政治对话的很大一部分是计算机生成的。社交媒体机器人的存在可能会对民主的政治讨论产生负面影响，这反过来又可能会改变公众舆论，危及选举的完整性。

作者指出了计算宣传存在的三个负面影响；第一，公众的影响力可以被重新分配到可能存在恶意目的的可疑账户上；第二，政治对话可能会进一步两极分化；第三，计算宣传可以加强虚假信息和未经证实的信息的传播。

——Alessandro Bessi；Emilio Ferrara

Bessi A, Ferrara E. Social bots distort the 2016 US Presidential election online discussion[J]. First Monday, 2016, 21(11-7).

（2）计算宣传技术使政治鼓动者很容易监控公共领域的内容，同时政治鼓动者可以通过“机器人”发出的信息对公共领域舆论做出回应，因而这些信息来自人类而不是机器人。

——Bruce Bimber；Homero Gil de Zúñiga

Bimber B, Gil de Zúñiga H. The unedited public sphere[J]. New Media & Society, 2020, 22(4): 700-715.

（3）政治机器人是数字竞选团队的工具包中最新的沟通工具之一。这种无处不在的技术在指导公众情绪、操纵意见和规避现行法律程序方面发挥着越来越重要的作用。特别是在数字民主和竞选活动方面，这些软件驱动的自动化设备对研究政治交流、民主及其过程的学者来说越来越重要。

——Phil Howard；Samuel C. Woolley；Ryan Calo

Howard P N, Woolley S, Calo R. Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration[J]. Journal of Information Technology & Politics, 2018, 15(2): 81-93.

四、计算宣传的应对策略

随着当前社交媒体平台已经成为国家与国家之间进行舆论战的主要阵地，计算宣传也成为当前网络治理的重要内容。因此，有必要积极参与国际互联网治理，在计算宣传治理方面赢得主动权和话语权。

计算宣传的治理应“推进多边、民主、透明的国际互联网治理体系，携手构建网络空间命运共同体”，具体而言可以从平台、系统、用户、法律等角度来对计算宣传采取相应的治理措施。

（1）在用户层面，应允许观念市场正常流动和运作。在系统层面，通过个人数据进行定位的平台行为和发布计算宣传的相关过程应得到规范。最后，为了确保针对选民的宣传材料的适当性，需要在内容层面上进行适当的广告监管。

——M R Leiser

Leiser M R. Regulating computational propaganda: Lessons from international law[J]. Cambridge International Law Journal, 2019, 8(2): 218-240.

（2）为了应对媒体和学术界对在线自动化的关注，社交媒体平台已承诺控制机器人。因此，平台已知的机器人账户发布的帖子可能会被阻止出现在用户的历史记录和搜索结果中。

——Gillian Bolsover；Philip Howard

Bolsover G, Howard P. Chinese computational propaganda: Automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo[J]. Information, Communication & Society, 2019, 22(14): 2063-2080.

（3）通过数字渠道控制信息流的科技公司有更大的责任来减少虚假内容和虚假账户，同时科技公司也应受到相应的监管。

——Emily Bienvenue

Bienvenue E. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media[J]. International Affairs, 2020, 96(2): 525-527.

（4）学生对计算宣传的基本理解，对于培养其在多元信息背景下选择权威的和有效的信息至关重要，同时也可以避免那些导致认知失败的认知陷阱并控制虚假信息的进一步传播。

为了让民众免受计算宣传的危害，并维护信息生态系统的正常运行，培养批判性算法素养对个人和社会越来越紧要。

—— Ian O’Hara

O’Hara I. Automated epistemology: Computational propaganda, algorithmic curation, and epistemic practice[C]. The University of Arizona, 2022.

随着智能技术的发展，计算宣传越来越深入到我们的日常生活中，我们也应该持有批判的态度来对其进行探讨。

一方面，面对当前国际舆论环境进一步恶化的境况，我们需要加强对计算宣传的研究和监测，防止境外势力利用社交机器人破坏国内安定团结的政治局面。同时，应当采取更为多元的平台和灵活的方式，对境外势力进行有理、有据、有节的“反宣传”。

另一方面，计算宣传技术给网络社交平台带来治理新挑战的同时，也可以为人类的发展与进步创造新的机遇。近年来出现的虚拟现实、物联网等技术手段正在为计算宣传带来更广阔的生存与成长空间。

尽管我们无法消除计算宣传技术的负面影响，但是作为技术的创造主体，人类不仅需要思考如何应对计算宣传的不足或危害，还需要创造对相关技术的善用机制，从而激发出该技术的最大价值。

参考文献：

[1] 邹军,刘敏.全球计算宣传的趋势、影响及治理路径[J].现代传播(中国传媒大学学报),2022,44(06):28-36.

[2] Woolley S C, Howard P N. Political communication, computational propaganda, and autonomous agents: Introduction[J]. International journal of Communication, 2016, 10.

[3] Bradshaw S, Howard P N. Challenging truth and trust: A global inventory of organized social media manipulation[J]. The computational propaganda project, 2018, 1: 1-26.

[4] 陈昌凤,袁雨晴.社交机器人的“计算宣传”特征和模式研究——以中国新冠疫苗的议题参与为例[J].新闻与写作,2021(11):77-88.

[5] Edward Tian, WHO Director-General Attacked on Twitter with CCP-Related Memes [EB/OL]（2020-08-21）[2022-12-20],https://www.bellingcat.com/news/2020/08/21/who-director-general-attacked-on-twitter-with-ccp related-memes/.

[6] Arnaudo D. Computational Propaganda in Brazil: Social Bots During Elections. Oxford: Computational Propaganda Project, Aguest, 2017. p. 1.

[7] 罗昕.世界信息传播新秩序建构的脉络变迁与中国进路[J].内蒙古社会科学(汉文版),2019,40(01):160-166+189.

inclusion[J]. Information Technology & People, 2021, 35(7): 1884-1911.