无论“元”使用第三方事实检查还是社区笔记模型，如果没有完全的透明度和问责制，鉴于社交媒体平台设计的根深蒂固的缺陷，任何审核政策都不太可能有效。随着算法的工作是触发反应，而不是辨别真相，错误信息——包括气候变化——正在蓬勃发展并损害民主。帕拉维·塞西呼吁进行系统性改革。

五年前，“脸书”首席执行官马克·扎克伯格曾表示：“我认为私人公司在涉及基本民主价值观时不应该独自做出这么多决定。“并呼吁对大型科技公司进行更严格的监管。今天，他似乎已经放弃了这个原则。

扎克伯格已经停止了“元”在美国的第三方事实核查计划，称其为“审查工具”。他的决定引发了广泛的批评，前总统拜登谴责这是“可耻的”，法国政府发出警报，巴西要求明确“元”的政策转变。超过70个事实核查组织签署了一封公开信，谴责“元”的倒退。这一决定标志着大型科技公司打击错误信息的承诺迈出了重要一步。

虽然“元”的事实检查程序可能并非没有缺陷，但正如我下面所探讨的那样，完全放弃它提出了紧迫的问题。扎克伯格将这一决定描述为“对言论自由的承诺”。然而，此举削弱了更深层次的系统性问题，包括“元”以利润为驱动的错误信息放大。新的政策转变凸显了两个关键问题：大型科技公司算法系统缺乏透明度，以及错误信息对民主价值观（包括言论自由）构成的威胁。解决方案是通过提高透明度和优先考虑民主问责制的监管框架来平衡用户安全和言论自由。

不透明算法，放大危害

“元”对其内容审核策略的彻底改革包括用“社区笔记”取代事实检查，放松对移民和性别等敏感话题的限制，将其信任和安全团队从加利福尼亚州迁至德克萨斯州，并将政治内容重新引入用户订阅。

社区笔记是一种众包审核工具，将事实核查责任从独立专家转移到用户群。最初由社交媒体X（前身为推特）于2021年以“鸟瞰”的名义推出，笔记允许用户提供可能虚假或误导性推文的上下文，并且只有在以前在评级中不同意的不同用户组达成共识时才会出现。

在收购推特之后，埃隆·马斯克吹捧社区笔记具有“提高信息准确性的惊人潜力”。然而，研究描绘了一幅更加清醒的画面。对2021年7月和2023年8月的推文和相应笔记进行的分析发现，用户在X上与误导性内容的参与度没有显著下降。虽然社区笔记已经证明了准确性，一项针对新冠病毒疫苗错误信息的笔记的研究显示，96%的笔记是准确的，例如，它们的潜在影响可能会被X的算法削弱。美国反数字仇恨中心最近发布的一份报告分析了100万份与2024年美国大选相关的笔记，发现74%的准确笔记仍未被用户看到。

即使在“元”之前的事实核查存在的情况下，其平台的机器学习算法也会放大有害内容，包括仇恨言论和气候错误信息。2021年，Avaaz的研究发现，传播有关气候科学和可再生能源的错误信息的帖子在脸书上积累了2500万次浏览量。“停止助热”（Stop Funding Heat）的一份报告确定了38,925个推广气候错误信息的帖子，其中只有3.6%经过事实核查，产生了81.8万至136万次浏览。全球见证的另一项调查证实，脸书的算法增加了气候虚假信息。

“元”的前员工多次指出，其算法不理解虚假和真相之间的区别。这些算法不是过滤虚假信息，而是旨在最大限度地提高用户参与度，并优先考虑引发强烈反应的有害或其他内容。这个问题由于“元”未能提供其算法设计的完全透明度而变得更加复杂。

2024年，《科学》杂志的一篇社论强调了该杂志此前发表的三篇论文，这些论文研究了社交媒体算法对美国2020年大选期间政治极化的影响。其中一篇论文表明，脸书的默认算法并没有显著促进两极分化。然而，在论文作者不知道的情况下，“元”在撰写时实施了临时算法干预，称为“打破玻璃”措施，以遏制错误信息的传播；社论认为这些变化可能会影响研究人员的结果。这一争议凸显了“元”的透明度问题及其未能充分披露有关其算法干预的关键信息。

偏见和功能失调的思想市场

“元”的新政策转变了赋予用户权力和促进言论自由的主张。它依赖于这样一个想法，即集体智慧和多样化的用户将解决错误信息并减少偏见。通过放松对某些主题的限制，“元”认为增加演讲量而不是监控演讲量将导致更少的错误。这种做法呼应了"思想市场"的概念，即当公民可以自由分享、挑战和辩论时，真相就占上风。

然而，“元”的做法，被认为是“对言论自由的承诺”，最终破坏了它声称要保护的原则。

理想化的思想市场的概念假定了一个公平的竞争环境，所有的声音都有平等的机会被听到，坏的想法通过理性的话语暴露出来。在实践中，“元”对利润驱动算法的依赖创造了一个功能失调的思想市场。通过优先考虑参与而不是准确性和公共利益，允许仇恨内容面向边缘化和弱势社区，并取消事实核查工作，“元”有可能进一步放大有害的错误信息/虚假信息，而牺牲知情的公共话语。

这种方法不仅侵蚀了对可靠来源的信任，而且还使那些以信仰为基础的人能够大规模操纵叙述。一份报告发现，脸书上只有10个账户负责所有与气候否认内容的用户互动的69%。另一项分析显示，自从X恢复反气候账户以来，气候否认变得越来越普遍。真正的言论自由需要的不仅仅是没有审查制度：它需要致力于一个知情和透明的公共领域。

通过停止事实检查等机制，同时继续从算法选择中获利，“元”正在积极塑造信息格局，而不是退出。其结果不是一个更自由的思想市场，而是一个更危险的市场，有害的叙事主导着数字领域，压制脆弱的声音，侵蚀对民主制度的信任。因此，梅塔目前的系统不符合这些标准，损害了民主进程。

平衡用户安全与自由表达

为了有效地平衡用户安全与言论自由，重要的是在不损害民主价值观的情况下减轻伤害。对社交媒体平台的过度监管是危险的，因为它可以压制言论自由。例如，德国的《网络执法法》（Network Execution Act）对未能删除非法内容的社交媒体平台处以巨额罚款，受到了广泛的批评。联合国人权委员会警告说，该法案可能导致法律内容的过度删除，从而限制言论自由。

但过度监管的风险不应消除平台实践中提高透明度和问责制的迫切需求。西方民主国家开始引入创新的解决方案来解决这个问题。欧盟的数字服务法案（DSA）要求平台确保算法透明度，并允许研究人员访问数据以解决系统性风险。最近，欧盟要求X在2月15日之前提供与其推荐算法相关的内部文件，即平台如何向用户推荐内容。

为了取得适当的平衡，监管机构和社交媒体平台必须共同努力，确保在不威胁言论自由的情况下实现问责制。这包括让平台对错误信息造成的个人和社会伤害负责，而不过度删除合法言论。

“元”缺乏透明度和对放大错误信息的算法的依赖证明了它无法平衡用户安全和自由表达。随着数字平台塑造我们的民主结构，对透明和负责任的内容审核系统和政策的需求从未如此迫切。

作者此前曾与“元”在逻辑事实领域领导了第三方事实核查合作，监督识别和评估“脸书”和“照片墙”上流传的与公共卫生、环境政策和冲突相关主题的新兴错误信息叙述。

作者：帕拉维·塞西是政策研究人员，负责气候变化信息误导领域的研究。