1

AI PC,大模型下一站

 1 month ago
source link: https://www.36kr.com/p/2745927925840647
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

AI PC,大模型下一站

36氪品牌·2024-04-23 11:05
AI时代带来的巨大机遇需要产业协同发力、生态协同发展。

随着大模型和生成式AI的发展,大语言模型ChatGPT、视频模型Sora等不断刷新能力边界,AI应用也层出不穷,越来越多的终端设备开始尝试集成生成式AI能力。

AI PC作为当下最受期待的智能硬件之一。生成式AI的训练和推理需求,让在智能硬件的算力和硬件存储单元上有着更多可能的电脑,成为行业期待。

4月18日,联想在其创新科技大会上发布了内置个人智能体“联想小天”的AI PC AI元启版,覆盖Thinkpad、YOGA和小新等多个产品线,实现了个人电脑新一次的代际升级。

interlace,1

但AI PC要想真正意义上对用户有使用价值,还需要有丰富的AI 应用生态,去提高用户的使用体验。而AI PC 与传统PC有着截然不同的产业生态,除了需要内嵌智能体,还需要AI算力支撑大模型的推理和训练需求,也需要AI原生的方案和服务丰富产品使用体验。

为此,在当日下午举办的AI终端产业生态创新论坛上,联想、信通院等近30家发起单位联合启动筹备AI终端产业生态联盟,联想创投公布20亿AI终端产业生态投资计划,希望就应用生态、算力、个人智能体、终端互联等话题形成产业共识,共同推动AI PC时代更好地到来。

“AI终端产业生态联盟将致力于促进多层次技术创新协同,推动规范的适配认证体系,降低AI应用创新门槛,促进AI应用生态繁荣,助力发展开放、共赢、可持续的中国AI终端产业生态。”联想集团副总裁联想中国首席战略官阿木说道。

interlace,1

大模型落地离不开AI PC

人工智能若想真正走入千家万户,仅靠云端公共大模型和云端算力,很难真正满足用户的需求。

从计算维度考量,云端计算存在运算成本过高等问题。随着生成式AI发展,大模型开始走向推理应用阶段,数据从本地传往云端计算,再将结果传导回本地的过程,会影响生成式AI的回答速度,最终影响用户体验。这也是当初Groq芯片横空出世时,能用速度惊艳全场的原因。

而从商业维度考量,当下用户尚未形成为AI 工具付费的意识,企业也存在运营层面的压力。

由此可见,能支撑大模型推理和运算的端侧AI终端,有着更快的训练、推理速度,和更低的运算成本优点。

此外,一些对数据安全和数据隐私较为敏感的用户,并不愿意将个人数据上传到云端,他们也不愿意将个人意图和个人意愿交给云端大模型,让自己在“AI”面前成为透明人。

而内置于智能装备中的智能体,则可以有效解决数据安全和个人隐私的问题,让数据和模型计算及结果都留存在本地。

联想认为,”混合式人工智能是必然路径。”从大模型角度来说,它可以同时调用公共大模型和端侧内置的大模型,在保证大模型信息广泛度的同时,可采用融合行业属性、企业数据、个人偏好的本地大模型;而从运算角度则是将工作负荷分布在公有云、私有云、边缘和终端上。

由此,在手机、电脑、手表等多种智能终端中,PC无疑是最佳的大模型落地智能终端场景。它具有较强的工具属性,拥有更大的算力空间、更多的存储空间,还有着多渠道的交互模式,有更大的屏幕等,可以支持更加复杂、多步骤的生产力工具,如剪辑、创作、编程等。

根据《AI PC产业(中国)白皮书》,当端侧混合AI算力达到10TOPS,可以在本地完成如设备智能管理、图像增强、游戏调优等等特定场景的 AI模型推理任务;AI算力达到 40TOPS 时,可以在与GPU或云端配合情况下,完成工作、学习、娱乐等场景的大部分 AI 创作类的需求;而当端侧算力进一步提高,独立模型推理能力也会增强,甚至能完成功耗控制、影像呈现、复杂运算、游戏体验等AI优化。

要想具有更强的性能,AI PC必须在硬件设施上有所升级,毕竟传统电脑已无法满足未来不断发展的AI应用需求。

而联想AI PC这一新物种具备了五大特性,即内嵌个人大模型与用户自然交互的智能体,个人知识库,本地异构AI算力(CPU/GPU/NPU),开放的人工智能应用生态,个人数据和隐私安全保护。

在此次联想创新科技大会上,联想所发布的系列AI PC AI元启版就配置了个性化的AI agent智能体—联想小天。小天内嵌个人大模型,可以和用户进行自然交互,理解用户的自然语言和意图,自行思考,总结经验。同时,小天还能很好地记忆用户习惯,为用户推荐符合其偏好的选择,通过形成逻辑严谨的推理链条,对复杂任务加以分解,从而做出规划。

interlace,1

终端异构算力是AI规模化落地的必然要求。联想AI PC所具备的异构算力能利用不同的指令集和体系架构的计算单元,对不同的AI工作负载提供灵活的解决方案。

而个人知识库中存储了用户行为和从本地数据中获取的相关信息。它可以将特定文件进行分块和向量化存储。AI PC执行任务时,知识库可以通过向量数据检索的方式,匹配并强化用户提供的关键词,来帮助AI PC更好地了解用户的意图,从而提供个性化、高准确度的反馈。同时,AI PC也可以通过本地知识库更加了解用户的个性化语言习惯及操作模式。

当然,开放的AI应用生态,是AI PC能完成各类人任务的关键,也是AI PC能力的补充和延伸。AI PC以个人智能库作为与用户的第一交互入口。个人智能体需要调动不同的模型和应用,来满足用户在不同场景下的需求。AI应用越多,对智能体越加开发,AI PC才能提供更加灵活、高效的服务,满足用户诉求。

不过最重要的,是AI PC需要做好个人数据和隐私安全保护。用户在使用AI PC时,会留下海量用户信息和痕迹,其中包括大量隐私数据。企业智能体想要简化工作流程,也需要接触大量企业机密信息,保证好设备级个人数据和隐私的安全性,不让其变成公众信息,是用户信任智能体的基础前提。

创新科技大会主会场上,杨元庆表示,“有了这五大特性,PC将不再是Personal Computer个人电脑, 而是AI Personalized Computer,人工智能个性化电脑。”

个人智能体,让AI PC成为个人助理

AI PC的时代已到来。

据Canalys研究预测数据,2024年出货的PC中,AI PC占比将会达20%;而到2027年,在换机动能和全新使用体验下,占比将增长至60%以上。

作为一个新兴事物,产业链各个玩家对于AI PC的定义尚未形成共识。目前部分厂商或第三方机构将AI PC定义为搭载神经处理单元(NPU)的电脑产品,或为搭载了一些AI应用的产品AI PC。但这种定义过于狭窄,难以与2022年之前出现的AI 电脑做区分。

AI PC与传统PC最大的不同,是它能针对工作、学习、生活等场景,提供个性化创作服务、私人秘书服务、设备管家服务在内的个性化服务。由于AI PC以本地推理为主,可以提供即时、可靠的服务响应,哪怕在离线状态下,本地化大模型也可以工作。

此外,全生命周期的本地免费推理服务,也能大大降低用户使用大模型的成本。AI PC的个性化本地知识库、隐私数据的本地推理机制和设备管家等服务,也会最大程度保障用户的个人数据和隐私,让用户能放心用AI PC。

如今,虽然大模型开启了人工智能发展历史上的新纪元,但大模型也存在着明显的局限性。大模型不懂物理规律,不具有真正的推理和规划能力,只能根据高维语义空间的联合概率分布,来连接碎片化信息,但他们并不了解自己能力的边界。

比如文字大模型在回答问题时常一本正经地回答错误信息,就连惊艳全球的OpenAI视频生成Sora,也会生成一幅在红色饮料杯子还没有倒出液体时,但桌子上已有液体流动的不合理画面。

智能体能很好地规避大模型这一问题——知道能力的边界在哪里,当超出能力边界时使用工具。

AI终端产业生态创新论坛上,联想集团副总裁、联想研究院人工智能实验室负责人范建平也表达了类似观点,“PC是人民用来做生产的工具,针对PC的大模型和云端大模型不同,要加强的是完成任务的能力,而不是云端QA的能力。”

interlace,1

联想小天是一个本地和云端混合的智能体,它内嵌了个人大模型,既可以通过云端通用AI获取公共信息,也可以查阅用户本地文档,给出回答和生成内容。

在科技创新大会上,联想也首次揭秘了端侧大模型及个人智能体联想小天的技术创新。

联想通过大模型压缩技术,让智能体在个人智能终端上运行,它可以通过自然交互接收指令,并执行推理它还具有一定的记忆功能,可以记住本地的个人旅行记录、购物偏好等信息,根据用户的喜好、思维模式、购物频率,给出个性化的建议;它也可以根据用户的思维和行为频率,预测下一个任务,并主动提出建议,自主寻找解决方案,比如制定家庭旅行计划、下单补充食品、日用品等等。

而在交互方式上,它可以打破过往单个搜索、打开APP的模式,从过去程序化的交互,变成以智能体为第一交互渠道,采用手写识别、语音识别等自然语言交互,直接理解用户意图,并拆解任务,在调用电脑中的不同应用。而通过不断加深对用户的了解,“联想小天”还可以给出更精准和个性化的服务。

关于AI PC的一切,都值得想象。例如,AI PC可以通过智能体支持文本、图片、音频、视频等多模态的交互方式,连接AI应用生态,实现订阅、广告、游戏、订购等多种商业模式的闭环。

在本地化运行模式下,AI PC几乎可以实现即时响应,无须等待数据传输带来的延迟;且用户搜集的个人信息、数据都可以安全保留在本地,无需上传到云端。

在使用场景上,AI PC可以在工作、学习、生活等场景为用户提供“助理服务”。例如,联想AI PC具有智会分身、AIPPT等功能,可以帮助企业用户简化工作流程,提高数据处理和决策质量。

“智会分身”应用场景为例,在开视频会议时,用户偶尔会有喝水等需要暂时离场的突发情况,“会议分身”可以通过“虚拟影像”代替用户开会,且实时记录会议内容。

在生活场景中,AI PC也有如AI画师功能,用户可以通过一个简绘图生成高质量的图片,化身创意“画家”。当用户想要购买产品时,可以通过“AI 识图”功能实现圈出图片并搜索,甚至一键完成产品购买。

interlace,1

而对于企业用户来说,联想还发布了企业智能,可以分布在企业的多个终端设备和基础设施中,对企业的大量数据进行学习和推理,来支持企业运营决策效率、提高管理效率、提高生产力。

以制造业企业为例,在台风等灾害天气,企业可以通过公共大模型了解台风准确的位置、风力的预测,再通过企业智能体了解产品供应链信息,如哪些订单的生产会因工厂关闭受影响,什么订单的运输会因陆路传输中断的影响,哪些订单的生产会因物料不到位而延误,再基于此给出优化运输或调整订单的建议,保障生产。

除了AI PC侧,联想在创新科技大会上还宣布,将依托“一体多端”突破“AI内嵌的智能终端”,即以天禧AS个人智能体系统为核心,将应用和体验延展到AI平板电脑、AI手机和各类智能IoT设备。

打通了不同渠道的智能终端后,智能体将成为用户的第一交互界面,跨设备、跨系统功能,可以连通多个设备间的内部系统,为用户提供更多场景化的融合体验。例如用户只说了一句话,智能体便搜索手机菜谱,并推荐到智能厨具,让厨具自行制作出美味的佳肴。

智能体可以成为交互入口,但要丰富AI PC产品的使用体验和产品应用生态丰富度息息相关。在AI终端产业生态创新论坛上,联想中国消费互联网服务事业部总经理陈学桂认为,“海量的AI应用会成为这个智能体提供的强大的工具库,也是智能体行动能力的实现关键。”

同在场的36氪CEO、董事会联席主席冯大刚也认为,当AI应用生态繁荣,将成为智能世界的又一奇点时刻。

如今,AI应用正处于快速发展阶段,每个月都会有大量应用出现,根据A16Z的数据显示,在其统计的全球TOP100生成式AI应用中,前50名AI优秀产品中的40%都来自于新公司。

而除了OpenAI的SORA,百度的文心一言,微软推出的AI助手Copilot等大厂软件产品以外,全球各地有大量创业公司涌入AI领域。AI技术的发展也让应用开发门槛不断降低,通过对模型进行简单适配调整就可以生成新应用,许多非专业的个人用户也开始参与AI应用的研发。

目前,AI应用方向主要集中在视频生成器、工作流程工具、创意工具、虚拟伴侣等方向,而随着大模型技术的发展,还出现了Suno等音乐工具或生产力工具等新品类。

不得不相信,这些不断出现的AI应用,未来都会成为智能体背后能被拉动的产品中的一环,丰富着AI PC产品的生态,从而改善用户体验。

超20亿投资,联想推动AI终端生态发展

PC领域已发生过两次“代际”升级,在多媒体和计算机结合时,联想率先推出家用电脑,推动PC进入千家万户。而在互联网和电脑融合时期,联想也迅速跟上时代潮流,并成为全球PC领域领军者。在这场AI PC的浪潮里,联想也是最坚定的呐喊者。

分析机构Sigmaintell预测,2024年将是AI PC规模性出货的元年。IDC预测,AI PC 2024年会快速增长至55%,并于2027年将达到85%。

而在这样一个AI时代,AI PC要想为用户提供全新的终端体验,需要大模型服务商、终端厂商、算力厂商、AI应用开发商等产业生态玩家,对设备芯片、端侧大模型、个人智能体、应用软件生态进行整合和创新,创造一个纯靠自然语言和个人意图驱动的使用体验。

在AI终端产业生态创新论坛上,联想邀请了30多位AI终端产业各个环节、链条当中的头部的企业,共同探讨如何开放、协作推动AI终端产业的建议。

interlace,1

联想集团副总裁联想中国首席战略官阿木在AI终端产业生态创新论坛提到,作为终端厂商需要承担起将大模型技术开发成个人智能体,并且将AI应用通过可靠、有效开放的平台整合AI算力,共同形成AI终端的解决方案交付给用户的使命。

终端厂商需要在硬件设计上满足生成式AI模型的需求,如内存容量、存储空间、电池续航等。此外,终端厂商还需要预装开发者和用户所使用的大模型训练部署平台和工具链,为智能体和其他AI应用提供接口,以利于开发者开发。

大模型厂商,则需要为AI应用开发商提供更多的便利,如AI原生应用开发环境的支持,云端大模型服务资源的支持,在混合架构下提供端侧模型的开发、调优,甚至直接终端AI应用。

AI芯片厂商也将因不同的AI 应用需求拥有新的发展机会。要知道,大模型需要部署在终端上,需要不断优化和压缩模型适应终端设备的资源限制,去通过大小模型配合来满足任务需求。

芯片厂商需要开发高性能、低功耗的AI芯片,从过往以通用计算为核心的架构,升级为混合架构,以支持终端设备运行复杂的生成式AI模型。在云端和本地端混合AI需求下,融合CPU、NPU、GPU的异构计算成为发展未来。

AI应用厂商,则需要全新的应用开发和调用方式,与智能体适配,为用户提供更加丰富和个性化的体验。

伴随着AI PC发展,用户的反馈也将不断对产品提出新诉求和改善意见,对此应用厂商则需要不断调整功能需求、交互体验等。

“AI时代带来的巨大机遇需要产业协同发力、生态协同发展。”联想集团执行副总裁兼中国区总裁刘军在创新科技大会主会场说道。

现有应用如何与智能体合作升级,也是一个值得思考的问题。智能体和应用的结合可以在更多场景下服务用户,如在用户不方便使用键盘时,智能体可以通过语音交互方式直接为用户推荐内容;智能体也可以通过唤醒小程序的方式,为没有安装PC客户端的用户,提供轻盈的用户体验。

在一个全新的行业,需要有垂直整合者。不同的操作系统、品牌、机型、SDK之间需要适配,行业发展需要AI PC各个产业链玩家在采用统一的技术标准,互通信息做产品设计。

AI PC的发展,离不开开放、协同的产业生态建设。在AI终端产业生态创新论坛上,联想、信通院等近30家机构和企业共同发起筹备AI终端产业生态联盟,希望协同产业合作伙伴一起打造AI解决方案,与各类玩家打通沟通渠道,共建同一套标准,实现软硬件产品的标准化,助力发展开放、共赢、可持续的中国AI终端产业生态。

interlace,1

作为重要的终端硬件集成厂商,联想还联合7家企业,发布AI应用开发者7大激励计划,激励更多的开发者开发AI应用,丰富应用生态。此外,在AI终端产业生态创新论坛上,联想创投还宣布,将投资20亿元在AI终端产业生态上,为创业企业的发展提供“弹药”。

毋庸置疑,AI PC即将迎来新的发展周期。上一次换机高峰期已是4年之前,用户有着新的升级换代需求,而AI PC带来的全新用户使用体验,将会成为新一波换机需求中的最强推动力。

2024年,预计AI PC产品也将会不断登场上市,掀起新一波换机潮。而AI PC真正的价值,也需要通过产品性能提升和生态丰富来证明。

本文由「36氪品牌」原创出品, 转载或内容合作请点击 转载说明 ;违规转载必究。

寻求报道

本文图片来自:企业授权


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK