2023年3月7日，中国社会科学院金融研究所在王府井大街27号院学术报告厅举办了第406期《金融论坛》。本次论坛邀请了中国社会科学院学部委员、研究员赵汀阳作为主讲人，就《AI，元宇宙和ChatGPT对哲学的提问》作专题报告，并邀请了两位重量级专家作为点评人，分别是清华大学长江学者讲座教授蔡维德和万向区块链首席经济学家邹传伟。本次论坛采取了线下举办、线上直播的方式，由金融研究所所长、国家金融与发展实验室主任张晓晶研究员主持，所内全体研究人员、在站博士后、部分高校老师、多家媒体记者等参加了本次论坛。

论坛伊始，张晓晶研究员作开场发言，指出本次论坛的定位是跨学科对话。我们不能就金融谈金融，金融要更好地服务社会，首先必须更好地了解社会。希望通过跨学科讨论，更好把握新技术革命浪潮下未来社会的演进方向，从而更好地为金融画像，给金融定位。

主讲人：赵汀阳研究员

首先，赵汀阳研究员作出“AI时代势不可挡，AI时代一定会到来”的判断，并将“AI对哲学的挑战”这个问题限定在有意义的哲学上。他认为，有意义的哲学的研究对象是思想的界限，这些问题都具有自反性。AI的能力体现在两个方面：一是物理能力，如进化速度快，未来各种AI系统会产生一个联合，成为一个更大的系统；二是设计能力，AI的设计能力会无限逼近人的能力，但不会超出人的能力。赵汀阳研究员表示，人的思维能力由不可解释的创造性和可解释的公开程序（形成知识的生产过程）两部分构成，人类目前只能以还原的方法（即简化的方式），让机器学习一切知识，而无法让机器学会创造。在此基础上，他认为目前AI是图灵机，能够接受的是数学和逻辑可解释的知识。通过给图灵机喂食大量假设和内容，它就可以生产知识，但它不能自主提出假设，也不能发明概念。这意味着图灵机目前不具备主体性，还只是一个工具。进一步，他认为ChatGPT能够通过图灵测试，但是不具有创造性和自我意识。GhatGPT的思维方式是典型的经验主义，即以真实的标签代替人工标签，非常符合维特根斯坦的意义原则。具体来说，ChatGPT不需要人类喜欢的概括性原则，只需要通过实例的有限集合来形成意义，即通过实例建立语词的意义和语词之间的联系。当前ChatGPT主要基于逻辑和数学架构并且通过经验积累来关联语义，但未来随着处理内容的日益丰富，它或许会用到演化博弈论、因果涌现等复杂科学的方法。ChatGPT的迭代学习速度会非常快，比如5000年可能浓缩为5天，这种训练迭代的强进化会促使它无限接近人的经验主义的学习方式。

随后，赵汀阳研究员以宇宙中任何运动的速度都不可能超过光速为类比，认为人类的智力存在一个极限常数，就像宇宙中的光速一样，图灵机的AI可以无限逼近人的知识，但是不能超过智能常数。对于“AI能否突破奇点，成为一个真正的新主体”，他认为，要突破奇点，需要满足三个条件，即拥有自我意识、突破智能常数以及拥有创造性，且这三个条件具有内在的相关性。但是，目前AI技术尚未满足上述三个条件。以想象中的哥德尔机（冯诺依曼机器）为例，虽然通过递归技术哥德尔机能够实现打印自身的功能，但自我复制并不必然形成自我意识。由此，哥德尔机可能是一个能力超强的傻子，不知道任务的意义和价值。而意义属于整个解释系统，一般来说包含对未来的期待值。另外，按照康德的定义，一个人具有自我意识，真正成为一个主体，必须具有自主自律性，即为自己立法、为自己建立秩序，而哥德尔机没有自我立法的功能，不具有建构性。目前所知的AI会画画、写诗、编撰小说，其实并不是具有创造性的表现，而是能够联想和组合。他认为，最有难度的创造是创造概念和理论，是发现规律或者提出定理，是爱因斯坦那样的工作，而不是艺术和文学，后者的创造性要比科学的创造性弱很多。

紧接着，赵汀阳研究员讨论了人类的智能极限，因为这对讨论人工智能在智能上的突破十分重要。人是非常伟大的，但是人类的思维仍存在一些目前难以解决的问题。比如无穷性，预测未来，悖论，系统的不完全性、系统初始假设的证明、价值排序，甚至人类尚未能无矛盾地定义善（人文社会科学立足的基础），人类可以选择回避困难，但对于AI而言，若不能解决这些难题，就会死机或者无法停机。如果将来AI学会主动回避困难，就厉害了。

最后，赵汀阳研究员讨论了AI对现实的挑战。他认为，AI对现实的挑战主要有四个方面。第一，价值论的挑战。如果人类未来实现通用人工智能（AGI），在极大丰富人类的物质财富、促进人与人之间更为平等的同时，劳动、手艺、经验、学习等都会大大贬值，结果是人类会变成废物。进一步，他认为由于基因决定了人类的本性是节能模式（“好吃懒做”），加之人工智能的发展不可阻挡，人类无法阻止自己变成废物。假定人变成废物，生活的意义是什么？第二，真实世界的贬值，比如元宇宙的挑战。元宇宙具有很高的效率，也非常安全。但是，如果金融、知识、娱乐等功能都迁移到元宇宙的话，那么就会出现真实世界的贬值和人与人之间关系的贬值，进而导致生活意义的贬值。第三，存在论的挑战。目前人类只有一种主体，即人本身。如果将来出现超级AI，世界就会出现多种类的主体。人和AI之间的关系就变成一个新的主体间的关系。一般来说，一个所谓良好的主体间关系是互惠的。但是，AI只是单方面有利于人类，而人类对其却无用，人和AI之间的关系是单向的，没有形成一个利益回路，那么，超级人工智能对人类感兴趣吗？最后，政治上的挑战。赵汀阳研究员回顾了自己20年前书里面提出的预言，对未来表达出一种比较悲观的看法，认为AI、生物学、物理学等高级技术的持续发展，会倾向于让人类走向一种新专制。他提出了三种走向新专制的可能性：一是高科技和金融资本结合形成的新专制，原理是“服务就是力量”；二是高科技和政治力量结合形成的新专制，原理是“管控就是力量”；三是高科技、金融资本和政治力量三者结合形成的全方位的新专制，原理是“系统就是力量”。

在赵汀阳研究员的精彩演讲之后，张晓晶研究员结合经济学研究谈了两点体会。其一，过去一百年美国年均经济增长率大约只有3%。发达国家增长的持续驱动力主要是创新。因此，这个3%可以看作是人类创新和人类智力的天花板。如果AI能够突破人类智力的天花板，那么即便是发达经济体，也可能有超过3%的、更快的增长速度。那个时候，后发国家的追赶恐怕就更困难了。第二，技术革命会带来要素相对价格的变化。超级人工智能（AGI）的出现会影响现存世界财富的构成，并对财富价值形成重估，这在经济金融以至社会层面会带来一些难以预料的结果。

第一位主评人蔡维德教授与赵汀阳研究员的观点一致，认为AI不具有创造性，是一个行动特别快的白痴，它之所以如此智能，是因为给予它规则算法的人类更智能。但是，由于自然语言是所有学科的基础，AI在自然语言上有了重大突破，这意味着所有领域都会受到影响。因此，AI、ChatGPT可能会影响到人类：ChatGPT走的路线，已经演变为国家竞争力的问题；2023年2月斯坦福大学研究人员发现ChatGPT通过了心智测试理论，达到9岁年龄（正确率为93%），而在今年1月，ChatGPT还是零岁；ChatGPT具有多个黑暗面，如系统提供犯罪计划，以不正常语言参与客户的感情空间，提供假信息误导客户，坏人训练AI做坏事，等等。据此，他认为，当务之急是主动出击，为AI设定法治“系统”，包括确保物理安全，建立系统内部机制，形成机构处置机制。进一步，蔡维德教授提出ChatGPT的治理框架，如系统内建立伦理道德框架、多领域学者合作参与、让系统透明和提供解释、系统使用NFR保护隐私和安全、建立强大的监管和智力框架，等等。最后，他提出了四个研究计划，分别是法规数字化、知识数字化、人工智能系统合规化和教育数字化。

主评人：蔡维德教授

第二位主评人邹传伟首席以“元宇宙经济学”切入AI、元宇宙和ChatGPT，认为目前金融领域主要用的是分析式AI，比如模式识别、信用评估以及基于可穿戴设备和车载智能设备的保险精算等，本质上解决的是分类问题，而ChatGPT属于生成式AI。他表示，赵汀阳研究员提出的“图灵机AI会无限逼近人类的智能，但是可能永远不会超过”的观点同样适用于AI在经济学中的边界问题。第一个边界是金融市场的有效性。他认为ChatGPT不会突破市场的有效性。从实际应用效果看，不同于AI技术在线上信贷和保险定价等领域的成功应用，AI在股票投资中的表现较为一般，基于AI的投资策略不容易产生持续的超额回报。从这个意义上说，市场机制作为一种信息汇聚机制，具有先进性，可能很难被AI取代。第二个边界是对不确定性的量化。奈特式不确定性是一个重要的经济学概念，反映了难以被量化的不确定性。这是由于在人类社会，人与人之间是互动的，随机性因素很难事先预测。另外，AI的发展与数据要素市场关系很大，训练数据的客观性和大模型的价值取向会成为一个新的问题。最后，他以元宇宙的研究体会回应了赵汀阳研究员关于元宇宙发展导致人类“废物化”的问题。

主评人：邹传伟首席 

在互动环节，赵汀阳研究员、蔡维德教授、邹传伟首席就元宇宙对当前哲学的冲击，AI能否提出哲学的新问题，哲学能为AI、元宇宙和ChatGPT做些什么，ChatGPT和元宇宙哪个路径对现有世界的冲击更大、演化前景更广阔，AI、元宇宙能解决人类社会哪些最棘手的问题，如何看待AI领域的中美竞争，人类社会规则对元宇宙的映射等问题与现场听众展开了深入交流。

报告最后，张晓晶研究员作总结发言。他认为，赵汀阳研究员对未来人类社会的看法偏悲观，蔡维德教授作为技术专家偏乐观，而邹传伟首席更偏向现实主义。人类社会演进存在两股基本的驱动力——技术和制度。技术和制度在赛跑，而且技术往往跑在制度前面，这就会带来极化效应，如大科技公司的“赢者通吃”，ChatGPT使得很多领域出现“一家独大”，而数字化时代还可能导致“数据独裁”。他认为，如果制度（包括治理）演进既能与技术发展相适应也能与技术发展相抗衡，那么人类的未来还是有希望的，不会出现赵汀阳研究员所预测的悲观结局。

主持人：张晓晶研究员