智人之上 vs 民主制度

在可预见的未来，人工智能将极大地解放人类生产力与生产关系，极大地促进社会运转效率，促进所有人类自由且平等地发展。

然而随着现实的推进，世界正在逐渐走向这副乌托邦式的愿景的反面。人类正在加快失去对飞速发展的人工智能（Artificial Intelligence，即AI）的控制。西方国家赖以为继的民主制度将面临人工智能所带来的前所未有的巨大挑战。

计算机技术，何以颠覆人类社会？

纵观历史，我们可以看到每次引发工业革命的因子是某个特定的技术，而真正导致工业革命的爆发，最终落实的还是“人”这个唯一的因素。

• 在第一次工业革命中，资产阶级以机械代替手工劳动，将工厂制代替手工工场，使得劳动者失去了他的劳动资料，从而实现了资产阶级的快速发展，并实施了诸如“从摇篮到坟墓”等社会福利措施，使得全体人民的生活质量大幅提高。
• 在第二次工业革命中，电灯泡的发明改变了人类“日出而作，日落而息”的作息，夜晚大量的时间能够开始进行利用；电话的发明极大地促进了人类通讯的效率，指令能够在分毫间下达和执行。企业进行进一步融合形成了垄断组织，促进了世界殖民体系的形成。

而计算机所引发的信息技术革命与前两次著名的工业革命都不同，其主要原因是它可能做到两件了不起的事情：一是它自己可以做决定，二是它可以创造新的想法¹。计算机有潜力成为“硅基生物”，成为独立行为者，参与政治活动；同时，计算机也有可能独立找出策略来诱骗、误导人类作出错误的政治决定。

在以上的因素之下，西方赖以为继的民主制度，恐怕会变得不那么“民主”。

数据信息 vs 民主制度；人类有所对策

自由民主的一大优势，就在于拥有强大的自我修正机制，能够避免过度狂热，也保留了发现自身错误、改变行动方针的能力。²计算机的出现令政府（或者企业）有能力在宏观与微观上对社会进行全方位的掌控。在这种情况下，民主国家可以选择有节制地利用这种新型“全面监控技术”，须基于以下的民主原则：

为善

企业与政府须承诺通过计算机网络所收集到的关于我的个人信息是用来帮助，而非操纵。为什么人们甘愿让自己的一举一动暴露在监控探头下？这是因为我们相信在后台掌握监控数据的政府机构的目的是为了保护我们的人身安全，而非进行政治监控或迫害。如果部分企业无法承诺个人的信息安全，承担起受托人的责任，政府应要求它们回归传统的商业模式，回收它们的数字权利。

去中心化

民主制国家决不能允许所有的数据均集中在一处。虽然将数据集中一处可以提高社会运转的效率，但这撼动了民主国家的立国之本，使国家与社会投入集权制的怀抱。如何让计算机技术更好地服务民主、保护民主一直是一个让决策者头疼的问题，似乎除了将数据库与信息渠道互相独立，没有什么更为优雅地解决方案。然而实际上，民主制度所人为制作的这种隔离制度，不但能够更有效率地处理大量数据，而且如果某个机构做了错误的决定，其他机构也可以提出修正²

相互性

民主制度对于数据信息的监控不能是单方面地加强，想要加强对于民众数据的监控，就必须加强对于企业与政府的监控。

官僚制度（bureaucracy）³把现实分为一个个固定的抽屉，文件、档案、表格、许可、法规成为了政府用以控制社会的官方渠道，企业用以作出商业决策的保证，个人社会化的重要标的，从这角度来说，幸好我们有官僚制度，否则人类将难以建立如此大规模的社会和国家。但不可否认的是，官僚制度难以跟上现实产生进步和演化，即使牺牲真相，扭曲我们对世界的理解，也须维持秩序。在官僚社会，普通人常常因为某个让人难以理解的理由，被某个不清楚其职责的机构派出的身份不明的官员，把自己的生活搞得天翻地覆⁴。

当进入数字信息社会，企业与政府有着更多的数字分析工具，掌握更多的数字权利，人类社会的官僚性得到空前地加强，民众在其中是弱势的、消极被动的，无法控制自己数字信息的流向的；企业与政府是主动的，是能够控制数字信息的存储和处理流程的。民主制度想要争取到各个阶层的支持，就不能滥用自己的数字能力，侵犯选民的数字隐私，遭受选民的反感。

民主原则

由计算机系统所构成的监控系统必须保留让人改变与休息的空间。在人类历史上，压迫的形式分为两种：剥夺改变的能力和剥夺休息的机会。

在赛博朋克社会⁵实体国家通常已经消亡，由垄断公司掌控财富，城市化加剧、社会体系崩塌带来衰败与暴力。一边是闪烁着霓虹灯光的摩天大楼，富人们在此享受生活，但在阴暗的角落里，到处是黑帮、流氓、抢劫犯的身影，穷人们只能靠电子产品来麻痹自己。

民主国家为了不滑入赛博朋克社会的深渊，虽然一方面通过信息技术加剧对底层民众的剥削，但是另一方面也通过信息技术提高社会的运转效率并对这种行为进行粉饰和掩盖。最终效果是使得在民众的改变与休息的空间与时间大致不变，而生活压力与工作压力在通胀的走高下愈发加重。进一步如何权衡？每个民主国家或许会给出不同的答案。

人工智能 vs 民主制度；人类如何反击

当人工智能被西方民主国家召唤而来以捍卫自由民主的灯塔时，或许不会想到如今的人工智能正破坏他们花费百年所建立起来的经济与政治制度。

目前，计算机还没有强大到足以完全摆脱人类的控制，或是独力摧毁人类的文明。只要人类团结一心，就能打造出适当的机构制度，用来控制人工智能，找出并修正算法的错误。但遗憾的时，人类从未真正团结一心，总有些坏人在作乱，而好人也不见得都能达成共识。于是，人工智能兴起之所以会对人类构成生存威胁，并不是因为计算机真的抱有什么恶意，而是人类自己的缺陷问题²

曾经，极权的统治者往往由于信息的不流通而导致作出重大的错误决定，人工智能机器学习算法的出现使得科技力量的天平开始倒向极权制度的一方。通过算法高效率地分析并处理海量数据并给予科学的决策指导，拥有更大量的数据资源、算力资源、技术资源的巨头将在经济与政治上占有更大的话语权与主动权。用《智人之上》中一个生动的例子来说明：“（罗马皇帝将竞争对手盖塔的存在）这样大规模的（从世人的）记忆抹除，在当时要耗费大量人力，但在区块链⁶上，要改变过去就容易得多了。政府只要控制了51%的用户，轻轻一按，就能让某些人从历史中完全消失”。

小议极权主义

不难看出，人工智能的出现正在令民主主义逐渐甚至加速倒向极权主义，并不是那些政党或者企业集团相比历史更加渴望强大的政治地位与名望，而是民主制度的自调节机制正在人工智能的发展浪潮中出现失灵。

那么，极权主义会在人工智能时代中引领我们走向一个更加美好的世界吗？《智人之上》的作者在“第三部分-计算机政治学”中给出了精彩且清晰的分析与答复。

在我看来，人工智能所引发的社会变革之所以不同于前几次重大的工业技术革命，是因为人类第一次将权利从自己的手中转移到了其他物种手中，极权主义正在倾向于将人工智能塑造为一名“全知神”。在马克思主义哲学中“主观能动性”是人类所独有的特性，而该特性正在数字高度集权中被人工智能所肆意利用或者消磨殆尽，人类正在逐渐丧失解释决策的能力，当然也不再知道决策的正确性。

或许今天人工智能为我们创造了天堂，或许明天人工智能将我们贬入地狱，更糟的是我们甚至可能不知道自己正身处天堂还是地狱，人类历史可能在这场盛大的骗局中迈入终局。

文档信息

版权声明：署名—非商业性使用—禁止演绎 4.0 协议国际版