当我们在谈论Kimi的时候，我们在谈什么？
source link: https://awtmt.com/articles/3710914
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
当我们在谈论Kimi的时候，我们在谈什么？
3月18日，月之暗面宣布在大模型长上下文窗口技术上再次取得突破。不到半年时间，Kimi智能助手无损上下文长度从20万汉字提升了一个数量级至200万汉字。
目前国外头部大模型中，GPT-4 Turbo上下文窗口为12.8万tokens；Gemini 1.5和Claude 3支持100万tokens上下文。1个汉字通常相当于1~2个token，也就是说Kimi上下文窗口为Gemini 1.5和Claude 3的两倍以上。现在的Kimi可以通过学习用户输入的大量资料，短时间内成为某个领域初级专家；或者作为一种效率工具，帮用户从大量冗杂数据中提取关键信息。未来，具备无损超长上下文能力的Kimi有望解锁更多AI应用场景。
终端应用是布局AI产品的必须路径。终端是让产品与用户建立联系、深化互动的桥梁，而轻量化程序具备“即用即走、无需安装卸载、永远最新”的特征，是触达客户和有效途径，也是产品增加曝光度和口碑传播的有力工具。Kimi不仅有网站和手机App，还能通过微信小程序形式接入，使得端侧用户体验大幅提升。
终端本地部署大模型将加速AI的应用。大模型本地化运行时，推理计算更多依赖终端设备的芯片，即计算成本转移到了端侧，总推理成本会大幅降低；再叠加本地部署大模型具有的保护隐私、快速响应、个性化服务等优势，将推动大模型相关应用的开发和规模化。
终端智能化的过程中，软件层面的变化相较于硬件层面更为关键和显著。尽管硬件升级很重要，但软件的进步，例如大模型赋能手机智能助手、新型AI应用涌现等，在终端智能化变革道路上显得尤为明显和必不可少。
高度专业化和定制化的垂类大模型也有巨大价值，关注具有法律、金融、医疗等垂直行业稀缺资源的软件公司。高在垂直领域深耕多年的公司往往积累了丰富的行业经验以及数据、场景、客户等资源，能够开发出更贴合实际业务需求的大模型产品。
AI技术突破不及预期、终端智能需求不及预期、宏观经济增长不及预期、国际环境变化。
本文作者：郑宏达（SAC执证编号：S0850516050002），来源：宏达说（ID:gh_ac6fdda7ac99），原文标题：《西部郑宏达 | 当我们在谈论Kimi的时候，我们在谈什么？》
Recommend
-
70
很多人在刚开始学 Java 的时候，会觉得多线程是一块难啃的骨头，特别是对于非科班的同学。究其原因，我想主要是因为没有将多线程建立起一种模型，不清楚多线程的问题到底是怎么产生的。在这里，我就和大家聊一下我对Java 多线程的一些想法...
-
62
一、简介 最近，很多人都在讨论Cosmos的上线，以及它对于以太坊生态的威胁。本文会深入讨论Cosmos和Polkadot的技术细节，但是也会首先讲述很多基础的知识（用图片作为辅助），以便于大家可以理解这些技术协议的含义。
-
43
又到了春暖花开的季节，连续两个冬季的强降雨让加利福尼亚山谷的罂粟花开得比往年更灿烂，也迎来了更汹涌的赏花人潮，准确来说，应该是 Ins 打卡人群。 网红出征，寸草不生 「寻求自拍的人们纷纷涌入该地区，Instagra...
-
30
什么是高并发? 高并发是互联网分布式系统架构的性能指标之一,它通常是指单位时间内系统能够同时处理的请求数, 简单点说，就是QPS(Queries per second)。 那么我们在谈论高并发的时候，究竟在谈些什么东西呢？...
-
30
Docker 在当下很火，那么，当我们谈 Docker ，谈容器的时候，我们在谈什么?或者说，你对 Docker ，对容器了解吗?容器，到底是怎么一回事儿? ...
-
16
最近跟部门同学一起分享了跨平台的事儿，写了将近200+页ppt，最后只讲了100+页，只把其中重点的内容讲了，但是，我认为对跨平台的学习，不止是重点的技术内容，还有很多值得探索的问题，比如历史背景，历史发展，那些事儿，那些人儿，往往不经意间，改变历史的...
-
2
当我们谈起伦敦的时候是在谈论什么 | 每周海外科技创业事件回顾2021/12/20 23:13|作者
-
4
当我们谈论效率的时候，我们在谈论什么 - 少数派 当我们谈论效率的时候，我们在谈论什么 编注：本文是少数派 2021 年度征文 活动 #效率 2...
-
3
当我们谈论本地化的时候我们是在谈论什么｜每周海外科技创业事件回顾2022/05/30 21:40|作者
-
7
「可持续」是我在过去几年非常感兴趣的话题。作为消费者我曾经也有过消费欲望的膨胀期，随着年龄增加，现在越来越多思考如何减少浪费，建立更可持续的消费与生活观念。而作为品牌营销从业者，工作又带给我不同的视角，去思考商业与品牌是如何通过产品供给，宣...
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK