薛澜：如何防范人工智能的潜在风险？丨首席评论

当前，全球人工智能科技创新异常活跃，以ChatGPT和Sora为代表的大模型技术的重大突破，打开了迈向通用人工智能的序幕。但与此同时，人类如何与人工智能共存，并在保证其安全可控的前提下让其更好地造福人类社会，成为全球共同面对的重大挑战。就“人工智能发展与治理”的相关话题，第一财经《首席评论》专访了清华大学苏世民书院院长薛澜。

第一财经：人工智能的公共治理，成为中国发展高层论坛上的一个重要议题，这方面的问题主要有哪些？

薛澜：如果讲科技变革，大家常常讲的很多是第四次工业革命，人工智能技术又是第四次工业革命最有代表性的科技。所以我们就以人工智能为例，它的发展到底对社会有什么样的影响？哪些可能会引起公众的关注？第一个，发展科技当然是希望科技向善，能够造福人类。但在科技的发展过程中，又不可避免会带来一些风险，有的时候可能对我们的好比隐私产生一些影响，有的时候甚至给我们带来一些伤害，当然还有更大的风险，可能对整个人类的生存都带来影响。这一大类问题是我们可能最关注的。第二大类问题，科技的发展可能的确在短时期内带来很多好处，但长远来看，可能又会带来一些相对的负面影响。好比说手机给咱们带来巨大的便利，但是也可能依赖手机，可能上瘾。大部分的科技都面临这两类问题。

第一财经：从全球各国的对策角度来看，都有什么样的思路？

薛澜：以人工智能为例，前段时间也有人做了一些全球的问卷调查，来看各个国家对人工智能技术的态度。中国可能是态度最积极的国家之一，大概百分之七八十的受访者对人工智能的发展都是非常积极的，特别高兴能够看到它的广泛应用。相对来讲，可能欧美的一些国家，更多担心这些技术的应用对个人隐私可能带来的风险。所以他们可能是40%-50%左右，这还是有很大差别的。

第一财经：不同的政策和态度会导致各国在技术、前进步伐，以及发展赛道方面有什么差异？

薛澜：最前沿的技术出来后，都有一个在社会广泛推广应用的过程。这个过程，因为不同的社会、不同国家，它的经济体系不同，社会制度安排不同，公众态度、文化等等，这些差别都会导致这个技术推广应用过程在不同国家差别很大。在人工智能技术上，有一些是共同的，就是要防范它的一些重大风险，包括可能是对人类生存产生的危害。

第一财经：“对人类生存产生的危害”，是怎么发生的呢？

薛澜：大家在研究通用人工智能，这个人工智能会不会有一天产生自己的一些意识？一旦它有自己的意识，它要自我保护。大家原来说，不担心人工智能有问题，把电拔下来就行。但一旦它有很高智能的情况下，它可能就会想到这个问题，怎么能够去避免我的电源被你拔掉？或者它会怎么样来有意识欺骗你，让你信任它，这样来保护它自己。通用人工智能达到一定水平后，这方面的问题就至少是需要去考虑的。因为一旦它有自主的意识以后，如果哪天它说我不想总是被人类指挥，它就有可能运用它的智能成为人类的主宰，这时候就叫所谓碳基和硅基生命之间文明的竞争了，这是我们担心的。在ChatGPT出现前，大家总觉得通用人工智能还是比较遥远的。现在ChatGPT出来之后，很多专家都改变了他们的看法，觉得确实这是刻不容缓需要考虑的问题。

第一财经：目前技术界、法律界、政策界的决策者们，是否已经有一些您认为是比较“靠谱”的对策？

薛澜：中国在人工智能这个领域，可以说始终非常坚持两手抓。一方面推动人工智能的发展，另一方面也推动相关治理体系的建立。所以其实从2017年，《新一代人工智能发展规划》出台的时候，那个文件就说得非常明确，一方面要推动科技向善来造福人类，另一方面也要防范相关的风险，建立相应的体系。所以我们几步走的规划都有，中国的人工智能治理体系要怎么去发展。2019年，咱们国家成立了国家新一代人工智能治理专业委员会，出台了中国的《新一代人工智能治理原则——发展负责任的人工智能》。后来，又出台了中国的《新一代人工智能伦理规范》。所以做了大量的工作。现在中国可以说是有一个自上而下、自下而上结合的人工智能治理体系。自上就是刚才讲的这些原则，另外有相当一套比较完整的法律法规，对很多特别具体的应用进行相关的治理。自下而上的话，很多地方政府有很多政策去推动应用，好比自动驾驶、医疗服务的应用等等。另一方面也有很多相关的规则来防范风险。这样一种体系在与时俱进，在不断变化。

第一财经：技术和商业以及政策，它们的先后发展顺序，往往是技术和商业走在更前端，而法律法规、政策，是在相对滞后的一个位置。

薛澜：确实就是这样，所以我们研究治理的讲，这叫Pacing Problem，就是步调不一致。技术发展非常快，治理体系形成有一个所谓要不断地去利弊权衡，去探讨，要很慎重出台。所以这个过程应该说原来是非常慢的。所以这也是为什么强调人工智能的治理方面，要“敏捷治理”。传统治理方式要进行调整。原来我们说要把各种利弊权衡非常全面分析之后，再来出台相应政策。现在技术发展这么快，那么全面论证完了以后，要规制的技术早就已经不在了，新的技术出现了。所以这个时候就需要比较快速地反应。而且每次反应可能未见得是那么严格的，一下子全面的规制手段。可能也许所谓是叫助推，轻轻碰你一下，推你一下，提醒你一下，这方面可能有风险，需要去关注。同时政府的监管者和企业之间不是“猫和老鼠”的关系，大家是一个伙伴关系。要互相加强交流，把潜在的风险尽早识别，采取措施来防范。所以在这样一个敏捷治理的条件下，原来存在的一些问题可以被适当规避。

第一财经：不同国家对新技术适用的速度或者态度都是有非常显著差异的。我国是否可以去借鉴其他地方，比如欧洲，可能相对更谨慎一些，是否我们要中和一下？

薛澜：要具体情况具体分析。即使都是发达国家，也会有不同态度。像美国确实也是非常鼓励创新的，中国还是要立足中国的国情。但有一点，我们有人类命运共同体。真正涉及整个人类社会的生存，对这样的一些重大风险，必须得全球协调，步调一致，这就需要加强各个国家的沟通交流。

第一财经：关于就业，很多人担心人工智能会抢了我们的工作。人和人工智能之间“抢饭碗”这件事，人有多少胜算呢？

薛澜：科技的发展的确对于各行各业都会有很大的影响。有很多学者也做过一些估算。所有跟信息收集、整理、传播相关的行业都会受到影响。也许学校老师、医生、律师、文秘等等，可能都会受到影响。但是所有科技进步在发展过程中都会对现有的就业结构产生影响。所以，一般我们研究科技创新的人都在说，一方面它可能会替代很多就业岗位，但另外一方面会创造很多新的就业岗位。但是对人工智能技术来讲，我觉得至少目前真的不排除，可能它创造的就业机会不如它替代的就业机会多。这样的确有可能对人类社会未来的就业产生很大影响。另外，它可能还会带来一系列其他的问题，包括收入分配的极化。有这个技能的，可能收入特别高，但是没有相关技能的，工作被替代了，连收入都没有了。这种极化也会带来严重的各种社会问题。所以一方面要去更好地分析哪些工作不容易被替代，或者哪些技能是新的技能，需要更快掌握。另外，也很有意思，很多依靠劳动力的就业岗位，可能反倒不会被替代。

第一财经：服务业，是吗？

薛澜：服务业，有些以劳动力为基础的服务业被替代的可能性更小。我觉得要做这个分析。但另外一点，我们整个传统的社会分配方式可能也需要去探讨。

第一财经：分配方式会有哪些调整？

薛澜：可以有很多种方式，好比说有的人也在探索所谓叫Universal basic income（全民基本收入）。等于你什么事也不用干，我给你一定的基本工资、生活保障，类似于这样的一些机制，有些北欧国家在探讨。所以不光是要关注技术方面，同样社会制度安排怎么样适应这些技术变革，这是我们要去探讨的。

本期节目

主编 芮晓煜

制片人 尹淑荣

首席评论

随着人工智能的快速发展，一方面将提高工人的生产力和收入、促进经济增长，另一方面也导致了工作岗位流失和“不平等”。如何应对AI、自动化的快速发展对就业市场的冲击？第一财经《首席评论》专访伦敦政治经济学院经济学教授、2010年诺贝尔经济学奖获得者克里斯托弗·皮萨里德斯。