图灵奖得主杨立昆：不喜欢AGI，让AI安全的长远方案是开源

卜淑情发表于 2023年07月06日 06:10

摘要：杨立昆认为，大语言模型只基于文本训练，不能理解物理世界，没办法规划、推理、实现目标，未来人工智能系统需要一个世界模型，主要通过观察来训练。

7月6日，2023 世界人工智能大会开幕式上，2018 年图灵奖得主、Meta AI基础人工智能研究院团队首席人工智能科学家杨立昆（Yann LeCun）直言，不喜欢AGI（通用人工智能）这个名词。

他解释称，每一个智能都是专项的，人类智能也是非常专业、专项的，但LLM（大语言模型）只基于文本训练，不是利用视频训练，因此它们不理解物理世界，没办法规划、推理，就没办法实现目标。

在近期关于AGI的辩论中，杨立昆多次表示，类ChatGPT产品并不能真正理解现实世界，更无从谈起实现人类智慧。

杨立昆认为，现在还没有一个足够智能的系统来处理各种事情，所以人工智能系统需要一个世界模型（World Model），这个模型主要通过观察来训练，并通过少量交互处理不确定性。

世界模型就像人类理解世界的方式一样，通过物理直觉等方式了解世界的一切，对于未来10年的人工智能研究来说，这是个巨大挑战。

对于如何实现AI的治理和规范，杨立昆称，他认为可以通过可控的方法，设置安全护栏等使它们不会出现欺骗和支配人们的行为。

杨立昆最后表示，他完全不同意“因为任何人可用人工智能做任何事，情况可能会非常危险，所以需要严格监管人工智能”的说法。

他认为，严格监管人工智能发展并不能保证AI安全，长远看开源才能让AI保持安全、良善。

未来每个人都能通过人工智能助手和数字世界沟通。如果人工智能只被少数人控制，这是不可以的。

风险提示及免责条款

市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。

AI全知道

Recommend