张亚勤呼吁：相关公司、科研机构把投资的10%用来做AI风险研究

张亚勤呼吁：相关公司、科研机构把投资的10%用来做AI风险研究_新浪财经_新浪网

专题：亚布力中国企业家论坛第24届年会

　　“亚布力中国企业家论坛第24届年会”于2024年2月21日-23日召开。清华大学智能产业研究院院长、中国工程院院士张亚勤出席并演讲。  

　　张亚勤说，过去五年中，大模型已经成为人工智能的主流趋势。过去一年半，特别是ChatGPT出来之后，发展速度呈现出跳跃性，不管国内也好，国外也好，都有很多新的创新和进展。

　　在其看来，人工智能的发展、大模型，最重要的基石是数字化。

　　“IT产业过去30年最重要的事情就是数字化。一开始是内容的数字化，然后是企业的信息化，到现在是物理世界的数字化和生物世界的数字化”，他说。

　　具体来看，物理世界中，家庭数字化、工厂机器数字化、电网数字化都已实现，汽车、交通、公路铁路也已经实现数字化。同时，生物世界也在全方位的数字化，包括细胞、蛋白质、基因、大脑、身体器官等都在数字化，“特别是最近新的芯片技术、新的传感器技术、脑机接口技术”。

　　在张亚勤看来，ChatGPT的出现代表了三个方面。

　　第一，第一次有一个智能体通过了图灵测试，“我们这么多年做计算机、人工智能都是希望能通过图灵测试”。

　　第二，ChatGPT开启了通向通用人工智能的亮光，“我们离真正的通用人工智能还有很多年，也许十年，也许二十年，ChatGPT给我们提供了一个方向，提供了一个道路”。

　　第三，真正有了人工智能的操作系统。张亚勤强调，“我们进入了一个新时代，就像在PC时代是windows、Linux，在移动时代是iOS、安卓。现在，我们有了大模型，开启了人工智能时代”。

　　张亚勤说，每次操作系统的变化都会改变生态。PC互联时代是intel芯片，在windows上面有浏览器，有各种各样的应用。iOS、安卓为代表的移动互联时代用的是ARM芯片，上面有各种商店，有各种app。在AI时代，有了横向大模型，芯片是XPU，特别是GPU，有垂直模型，上面又有新的商店、新的应用。

　　“目前趋势已经相对比较明显，GPT4、GPT4S、GPT4商店上个性的应用，上面开发各种各样新的垂直的模型。整个产业机会大很多，比PC时代至少大两个数量级，不管是整个设备的数目、整个影响力，都会大好几个数量级”，他说。

　　张亚勤业分享了AI大模型发展的技术方向。

　　第一，多模态。跨尺度、跨不同模态，不仅仅有语音，有文字，有图像和视频，未来多模态也会包括各种各样的结构，蛋白质结构，包括汽车里面激光雷达的信息，包括人脑生物电的信息，都是不同的模态，都会进入大模型的时代。

　　第二，新算法。现在有很多算法，但是这些算法在未来五年都会改变。“现在的算法看起来很聪明，但是效率很低，比起我们的大脑，至少效率低一千倍，如果把能耗算进去，把整个效率算进去。现在其实所有的产品，包括OpenAI、微软的，包括Google的，用的越多亏的越多。我昨天还在西雅图，和微软、OpenAI的很多同事都有交流，未来一定会有大的变化，效率会提高很多，需要新的算法的架构，需要新的技术的架构”，张亚勤说。

　　第三，自主智能。“现在我们把大模型作为一种工具，它也可以把别的模型作为工具，它可以制定目标、规划任务、自动升级，完成目标，已经有产品开始出现，完全是自主的，不需要人为在中间交付和控制”，他说。

　　第四，边缘智能。现在大模型用在云端，现在已经开始要放在手机上，要放在PC上，包括放在电视上，放到各种机器人上，放到各种IoT的边缘上，边缘也会有智能。

　　第五，物理智能或具身智能，把大模型用到物理世界去，包括无人车，包括各种机器人。

　　第六，生物智能。大模型用到人的大脑，用到生命体、生物体里，信息智能、物理智能和生物智能三个融合。

　　张亚勤还介绍，由于大模型的推出，加速了无人驾驶技术的发展。“在做无人车的时候，大的难点是长尾效应。不管有多少测试的数据，总有些场景是顾及不大的，这时安全性十分重要。长尾很多方面可以用大模型帮我们补足”。

　　“特别是生成式AI，可以让我们生成很多很多我们平时测试或者想象不到的场景，包括用新的多模态的一些生成的工具。以后的数据，不管车也好，机器人也好，90%以上都是要生成的，10%以下是真实的数据，而且生成的数据本身的效率和本身的质量会更高，以后我们会看到用自己生成的数据来训练自己”，张亚勤说。

　　张亚勤透露，自己一直在做无人车，可能两年左右，无人驾驶就会出现ChatGPT时刻。“因为现在无人车技术已经比有人驾驶安全N倍，安全很多，技术方面已经实现了，这个当然要商业运营，有很多别的方面的因素，但是我十分有信心看到在未来的两年，能看到一些无人驾驶的ChatGPT的时刻”。

　　张亚勤还介绍了强脑科技的脑机接口，“非植入式的，用了很高品质的传感器，用脑电的信号、行为的信号做脑机的接口，有空可以参观它在杭州的公司，我10月份去，十分震撼。这位工程师完全用了感知的信号，sensor信号，用了人工智能的算法，装了之后，他写的书法绝对比我写的好多，完全用意念、用信号控制。包括小女孩可以弹钢琴，包括对我这种睡眠有问题的，可以帮助我睡眠”。

　　不过，张亚勤指出，现在人工智能的大模型，不管是语言模型、视觉模型和多模态的模型，由于功能强大，未来发展可能带来的机会，但也蕴含很多风险。

　　第一个风险是信息方面的风险。“这个风险一直存在，但是由于大模型可以完全逼真模拟声音、模拟图片，现在可以模拟视频。美国现在马上总统竞选，已经有很多人在模仿拜登、川普，他们害怕影响选举的公正性，这确实是一个问题”，“现在的技术强大到这么一个时刻，我们要注意这个风险”。

　　第二个风险，当信息智能拓展到物理智能、生物智能的时候，如果大模型失控或者是被坏人所利用，会造成很大的风险。“以后，我相信大模型作为操作系统，作为工具，会用到所有的地方，包括我们的金融系统，包括我们的军事系统、决策系统，这个时候风险就会指数性地增加”。

　　第三个风险，生存风险。“前段时间大家可能注意到，大家谈到人工智能大模型所带来的可能和核武器、流行病一样的风险。我签署了一个呼吁，我自己是很乐观的，但是我们要有这样的一个意识。现在我们处于人工智能研究和产品比较早期，我们有很多办法可以去改变它的走向。但是如果我们没有这样的意识，永远不会去改进它的风险”。

　　张亚勤还给出了大模型发展的几点建议：

　　第一，要建立分级体系，特别是对前沿大模型。张亚勤说，对于一般的人工智能大模型不需要太多监管，但是对像Sora这样的大模型，一定要有监管，包括场景的约束，需要有评估体系。

　　第二，实体的映射。“我自己一直在做技术，喜欢创新，不希望被管。但第一次我认为前沿大模型需要更多地治理，包括AI产生内容的标识”。“至少你要让大家知道这是AI产生的。我们现在不管搜索也好，平台上做一个广告，要标识广告，尽管那个‘广告’两个字越来越淡，越来越看不见了，但至少要标识。我们做个数字人，做个AI的内容你是不知道的，你需要标识，这是基本要去做的”。

　　张亚勤强调，以后做智能体机器人，无论软件或者硬件，一定需要有一个对应的主体。“如果它犯了错误，出现问题，一定要能追溯到主体”。

　　第三，做前沿大模型的公司，包括国家基金会、科研机构，要把投资的10%用来做AI风险的研究。“不仅仅是政策的研究，还有很多很深的学术研究和技术研究，从事技术的人必须现在就开始对此进行研究，使得研究者和企业、政府共同前进，而不是对立的关系”。

　　“现在，我们进入了人工智能时代，从过去多个算法、多个任务、很多模型，走向相对统一的大算法、多模态，自训练、自监督和预训练的大模型”，张亚勤说，模型越大对物理世界的描述就越准确。据张亚勤预测，到2030年，全球数字经济会达到20万亿美元，其中约10%是由大模型、生成式AI所创造的。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

责任编辑：梁斌 SF055