1

现场体验联想 AI PC :真端侧智能体,表现如何?

 1 week ago
source link: https://www.geekpark.net/news/334226
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

现场体验联想 AI PC :真端侧智能体,表现如何?

2024/04/24
84634f7e7fbed7d38904a2edf1dde610.png

联想发布的第一款真正的 AIPC。

4月18日,联想一年一度的Tech World活动,在上海举行。

这是联想第十年举办类似的活动。在去年Tech World上,联想首次提出了AI PC的概念,而今年,发布会的亮点在于联想推出了中国用户可购买的一系列AI PC产品。

内置联想小天个人智能体,新的系列电脑被命名为“AI元启”系列。新的系列电脑中,最高端的是YOGA Book 9i系列,是全尺寸双OLED屏笔记本电脑,售价17999元,而最低端的联想小新Pro 16,只需要5999元。5月20日正式开售。

联想表示,此次发布的AI PC,满足五大特性,是“真正的AI PC。”

4f1a7cb9d4f75919ec6b0c10978af0ac.png

作为五大特性之首,此次发布的AI PC,标志为配备了AI Agent智能体——联想小天。

联想小天可以使用本地模型和算力进行推理回答问题,也可以使用云端模型和算力进行回答问题。在使用本地算力时,用户可以将自己本地的文档进行向量化,变成个人知识库,让小天根据个人文档回答问题,而不涉及文档泄密的问题。

端侧AI是近期消费电子的重点。端侧AI有个性化、耗电量低、和隐私向的优势,但是由于算力和模型大小的限制,能力相对于云端大模型限制更多。PC上的端侧模型相对于手机端的端侧模型,发展更快,而联想在AI PC方面,也是进展最快的厂商之一。那么此次联想的AI PC的小天能力如何?

极客公园参与了此次发布会,也在现场测试了联想的本地AI的智能体效果。

“小天”智能体实测

极客公园在现场实测了联想AI PC的小天助手回答问题的能力。

目前联想的小天助手,可以直接在计算机的右下角一栏里找到。进入界面后,可以选择使用本地模型回答问题,也可以选择使用云端模型回答问题。

现场实测,本地模型基本上也能正确回答问题,但是相对于云端内容更简短,适合在网络环境不佳的场合使用。

回答模型内置知识库的知识时,时间和网络模型的延时差不多。

e4feec7731fe191b0d72f1aacd799972.png
8d755de894adc4c5cedb04dbbbb6e525.png

作为AI PC的重要功能之一,小天可以把敏感文件直接做成本地数据库,从而能够轻松总结文档信息,用自然语言查找回答本地文档中的信息。记者也现场测试了一下,回答是正确的,但涉及到本地文档,加载时间要更长一些。

对于在意隐私的用户,查找本地文件内部信息的功能还是很实用的。

574c93e30bd4746b246f4ac97ddd5720.gif

另外,作为内置在终端的AI,小天可以执行配置查找、简单的设备任务等语言命令。

联想的小天助手还可以生成图片、帮助制作PPT,不过这些功能需要云端才可以实现。在这点上,小天还有一个很巧妙的设计。利用YOGA Book 9i的双屏,用户可以在一个屏幕上画画,而在另一个屏幕上,根据画的画生成相关的图片。

d4d697eb359498f93cdf421e83b2835f.png

在联想的发布会上,联想现场让一个小朋友画了一幅抽象的企鹅滑雪草图,但是配上“企鹅滑雪”的文字prompt后,模型最后生成出了相对合理的图片,赢得了现场的掌声。

AI PC 进展很快

随着算力的逐步提升,AI PC这一产品目前进展很快。

在发布会后的访谈中,联想集团董事长兼CEO杨元庆讲到,目前的AI PC产品中,使用的是NPU、CPU、GPU的混合算力。人们通常使用TOPS作为算力单位,1 TOPS 代表处理器每秒钟可进行一万亿次(10^12)操作。而此次的产品中,综合AI算力可以达到200 TOPS,其中NPU 算力可以达到10 TOPS。

不过,AI PC领域整个进境很快。在专门为AI算力进行优化的NPU方向,下半年联想接触到的芯片厂商,都将纷纷推出40-50TOPS的NPU产品,相当于这方面的算力一下子就能翻四到五倍。

算力的提升自然会使未来的AI PC产品有更大的提升。杨元庆提到,目前,受限于算力,AI PC仍然会先在较高端的版本中推出。随着算力的发展,逐渐扩展到全产品线。不排除之后会推出一些面向消费者的服务,让购买之前的设备的消费者,能够升级到AI PC上。

从去年联想推出AI PC的概念,到今年推出可使用的AI PC产品,联想本身在AI PC上也动作频频。

联想公司本身不做大模型,核心竞争力在于大模型在终端的优化,“同样参数的大模型,在谁的平台上能够跑的好,谁家的开放应用最多,都是技术和本事。”杨元庆讲到。

联想目前端侧使用7B的模型。“我们对于模型的优化能力,超过很多芯片厂商本身。”杨元庆讲到。

6月,联想还将发布AI手机和AI平板,也会内嵌大模型和智能体助手。结合AI PC,就可以实现跨端的AI体验。

值得注意的是,联想此次的AI PC,首先的产品发布放在了中国。联想中国区解释道:“其实很多联想的业务,都是先在中国区成功后再进行推广的。”同时他还宣布了一个数字,接下来,联想中国将有50%的PC产品升级为AI PC,全年下来,百分之八十九十都将升级为AI PC。

不过目前看来,此次发布的AI PC,除了查找文档信息等,应用仍然相对单薄,发布会上重点展示的,还是用AI做PPT的场景。

目前看来,AI PC的主要优势在于PC本来就应用于办公场景,端侧AI能够调用本地隐私文件进行操作。在电脑上,除了网速不好等极端场景,人们使用云端AI相对方便,如何为AI PC拓展更多优势场景,似乎是厂商应该进一步思考的问题。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK