作者 | 本力 编辑 | 臧博

要接受和应对科学与人文这两种文化的对立，以及"逆全球化"加剧的事实，并看到"进步是不可避免的"长期趋势。

《当世界史的指针逆转之时》

【资料图】

（德）马库斯·加布里尔著，时晨译

广东人民出版社，2023年2月

微软公司创始人比尔·盖茨近日在其个人博客"Gates Notes"上发表了一篇题为《人工智能时代已经开启》的博文。一如当年预言互联网时代到来的《未来之路》，文中描绘的前景不免令人神往。

尤其让人心潮澎湃的是，比尔·盖茨说，"1980年首次看到图形用户界面以来，OpenAI的GPT人工智能模型是我所见过的最具革命性的技术进步。"当然，文中也提到了一些众所周知的风险："我明白为什么——它引发了关于劳动力、法律体系、隐私、偏见等一系列尖锐问题。同时人工智能也会犯事实性错误并产生幻觉。"

进步与退步之间

很少有人知道，就在这场人工智能（以下简称"AI"）新时代的狂欢到来之际，微软已然将其AI部门中的伦理和社会团队裁撤。本来，作为数字经济从未缺席的弄潮儿，微软一直以在技术伦理方面的远见卓识而为人称道。2018年，微软出版了《未来计算》一书，其中提出了人工智能开发的六大伦理原则：公平、可靠和安全、隐私和保障、包容、透明、责任。同年，微软公开发布了报告《未来基石——人工智能的社会伦理和角色》。为确保AI等新一代信息技术的发展更加负责且符合伦理道德方面的要求，微软长期拥有一支伦理和社会团队，并在2020年达到30人的规模。但在2022年10月，该团队已经缩减到7人，2023年被全部裁撤。

这种矛盾很像伟大的哲学家维特根斯坦所提出的：一方面，道德总是被人类当作梯子，得到好处就踢掉它；另一方面，人的一生就是一场道德拼争，就是一场与自己本性的战斗——努力去做一个更好的人。

毋庸讳言，这是个技术驱动、价值退缩的大时代，笔者早在2017年曾用"在进步与退步之间"来形容这种窘境。最近读到德国当代新锐哲学家马库斯·加布里尔教授的《当世界史的指针逆转之时》一书，更意识到这种变化并非局部，而是在全球范围、诸多领域都出现了逆转的趋势。

笔者"在进步与退步之间"一文中更多表达的是：要接受和应对科学与人文这两种文化的对立，以及"逆全球化"加剧的事实，并看到"进步是不可避免的"长期趋势。而加布里尔教授的判断简直石破天惊，那就是"欧洲各国正密切回望19世纪的模式，并不约而同地加快了回归的步伐"。至于美国，他认为本身就是"以各种方法效仿19世纪的欧洲模式"，这种奇迹般重现可以用"拟态"形容。当然，在他看来，日本等发达国家也概莫能外，都是"拟态"回归19世纪欧洲的优等生。

19世纪当然象征着人类文明的辉煌，科技进步、文化昌盛、秩序井然。不过不幸的是，这种发达和强大也孕育出了20世纪的两次世界大战。加布里尔的言下之意是，人类在汲取20世纪惨痛历史教训中所取得的巨大进步正在逐步丧失。

"数字化"是这个世界最近几十年最重要的潮流，信息技术带来的变革和进步正在深刻改变着人类社会。但是，在释放出巨大生产力和效率的同时，其负面影响也不容回避。例如，互联网广泛应用后，信息的真实性以及社交媒体对人的控制备受质疑，"我们与事实（或真实）之间的关系不断发生着变化，现实和非现实的界限已变得非常模糊"。

后真相所产生的问题不仅仅是人们得到了一些虚假的、带着情绪的，甚至包藏祸心、极端化的信息，更可怕的是人类在认知层面上的退化。出于迎合而不是启发人们，偏执、肤浅信息越来越多，社会越来越失去共识，公共空间越来越成为极端化言论的舞台。

凯文·凯利的《失控》被誉为互联网浪潮的经典之作，但"数字化"还带来了权力的"失控"。奈飞在2020年推出的热门纪录片《监视资本主义：智能陷阱》揭开了硅谷精英们良心遭受谴责的秘密。这其中除了虚假信息泛滥、大数据操纵公众、社交媒体上瘾等技术伦理问题，硅谷高科技公司利用平台优势，源源不断地收集和挖掘人们的原始行为数据，并从商业目的出发操弄用户的行为，也被认为是对社会的巨大威胁。不应忘记，技术也是一种权力，而且由于技术的复杂性，这是非常不易受约束的权力。在推崇企业技术赋能的同时，也需要多关注"用户失能"的问题。

多数人可能认为数字化的过程以及数字化背后的现代性是一种全面的进步。但是现代化其实很容易被权力滥用，这个进步背后有一个重大的破坏性问题。比如，两次世界大战就是系统地将工业化、现代化的进步成果用于战争。

重拾人的主体地位

《当世界史的指针逆转之时》一书认为，世界回归19世纪，表面原因似乎是信息技术和数字经济对现当代人类文明和社会进步的冲击，借"看不见的手"绕过了一个世纪以来形成的国际治理、隐私安全、劳工福利、媒体伦理甚至未成年人保护等方面的措施，但深层次的决定性因素还在于经济，尤其是唯科学论的统计型世界观。

当然，加布里尔对统计型世界观的批评并非对统计学有偏见，而是质疑当前无孔不入的指标、概率和算法思维。他认为将价值观置于统计学依据之下，这是一种纯粹的后现代主义思想，进而批评与之相关的新自由主义"是舍弃人存在的理论系统"。如此，假科学为名，人类不爱思考、惰性认同的问题便被盲目地无限放大。

该书给出的答案是重拾人的主体地位，经济制度的目标应该是提升人性而不是统计数字。具体的方向是重新思考道德意义，并明确指出"道德企业将决定22世纪的政治结构"。还提出了一个乌托邦式的建议："不能雇佣专用博弈论来利用消费者和生产者信息差的经济学者，必须雇佣伦理学者"。

这不免让人想起黄仁宇先生在《万历十五年》一书中所提出的一个根本问题："要从技术的角度看历史，而不是从道德的角度检讨历史"。如历史学家王家范先生所言：中国历代没有能"在数目字上管理"，缺乏中层的技术操作环节，是妨碍向现代化顺利转型的重要症结。

数目字管理不正是统计型世界观的一种说法吗？而与之相对应的被黄仁宇先生质疑的"道德的角度"，又恰恰成为加布里尔极力推崇的当务之急。黄仁宇的思路和加布里尔所推崇的方向可谓背道而驰，世界史的指针真的逆转了？

这里需要搞清楚两个问题。其一涉及对现代化与道德关系的理解。吉登斯认为，脱嵌是理解现代性的关键。与传统的狩猎时代以及游牧社会、农业社会不同，脱嵌机制把社会关系和信息交流从具体的时空情境中提取出来，但与此同时又为它们重新植入提供新的机会。这也正是我们今天的诸多幸福和很多不幸的来源。例如，货币就是一种典型的脱嵌机制，脱嵌制度极大地拓展了时间空间限制，但它需要建立在信任的基础上——对抽象能力的信任和专家系统的信任。这种信任正是以现代化了的道德为基础，而且有会计、法律、信息等制度和技术保障。这就不难理解，脱嵌机制为当今世界提供了大面积的安全，但是创造出来的新型风险也足以令人生畏。一言蔽之，类似启蒙运动与工业革命的关系，技术的现代化和道德的现代化并不矛盾，而是相互支持。

其二，人文思维和科学的导向并不一样。在近现代科学的大发展之前，人类其实长期生活在一个有着崇高意义和道德目的的生机勃勃的世界里。但是现在，需要赋予意义并且通过感官、情感、情绪体验理解的人文思维被推翻了。与我们在畅想未来的人工智能时代相映成趣的是，人文主义者认为，我们已经变成了神经连线、基因编码的机器人。只是，这些人文主义者全然没有影响力和话语权。因此，与把英国作为统计型世界观的反面教材不同，加布里尔认为，"除了纯粹统计、经济战争和博弈论，美国一直有着一整套非常保守的价值体系。从整体上看，美国委实是个强有力的保守国家。"

回到本文开篇谈到的，比尔·盖茨对人工智能时代的预言和微软公司裁撤伦理团队。虽然看起来有些矛盾，但也许这两个方面的言行正是一盘棋。只不过，一个是战略上的，另一个是战术上的。战略上需要为股东和利润负责，战术上是为人类和社会负责。战略上"形势比人强"，战术上却"从善如登"。这很难不让人想起茨威格说的那番话："我们共同的理想主义，我们进步中必然产生的那种乐观主义使得我们低估和忽视了我们共同的危险。"

在沸腾狂热之中，我们听到了另一种声音。近日，图灵奖得主约书亚·本吉奥和埃隆·马斯克为首的1000多位知名人士联名发公开信呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统。

他们提出了一系列问题："我们必须问自己：我们应该让机器充斥我们的信息渠道，散布宣传和不实信息吗？我们应该自动化所有工作，包括那些令人满意的工作吗？我们应该发展可能最终比我们更多、更聪明、更先进、取代我们的非人类智能吗？我们应该冒失去对文明的控制的风险吗？"

因此，笔者赞同《当世界史的指针逆转之时》一书对人工智能时代的伦理学转向的判断，普及伦理学与培养伦理人才刻不容缓，我们需要调整位置，把事关人类文明未来的伦理作为战略甚至成为更高的行动纲领，而把技术和利润置于其之下。

（作者为《香港国际金融评论》执行总编辑、香港中文大学（深圳）高等金融研究院政策研究员；编辑：臧博）

关键词：