0

马斯克将在本周,开源类ChatGPT产品Grok

 3 months ago
source link: https://www.aixinzhijie.com/article/6845092
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
2024-03-12 01:12

马斯克将在本周,开源类ChatGPT产品Grok

文章来源:AIGC开放社区

图片来源:由无界AI生成
图片来源:由无界AI生成

3月11日晚,马斯克在社交平台宣布,将在本周开源生成式AI产品——Grok。

Grok是马斯克旗下公司xAI在去年11月发布的,一款类ChatGPT产品,可以提供生成文本、代码、邮件、信息检索等功能。其测试性能超过GPT-3.5、LLaMA 2 70B,弱于GPT-4。

目前,该产品仅为X Premium+客户提供服务,至今没有大范围对外开放使用非常神秘。

FmvYJyHY5yRnJU6iNS_uZDcKy6zZ

Grok简单介绍

根据xAI在官网公布的早期模型卡显示,首先开发团队先训练了一个330亿参数的原始大模型Grok-0,其性能相当于700亿参数的LLaMA 2,但仅使用其一半的训练资源。

然后基于Grok-0进行蒸馏、微调开发了Grok-1,在GSM8k、MMLU、HumanEval等多个测试平台显示,其性能全面超过了LLaMA 2-70B、GPT-3.5。但与Claude 2、GPT-4还有较大的距离

FqsF1b0xPZKm1YP1ZbG2O7OHw9nn

由于这些基准测试是公开的,Grok-1的训练数据可能已经包含了测试答案。

随后,开发团队使用了2023年匈牙利全国高中决赛的数学题对Grok-1、Claude 2、GPT-4进行了人工测试。
结果显示,Grok-1 以 C (59%) 的成绩通过了考试,而 Claude-2取得了差不多的成绩 (55%),GPT-4 以 68% 的成绩获得了B,其推理能力还是挺不错的。

FoHUoBufxVBLrJ1C9tvRUJobaH0K

训练数据方面,Grok-1 发布版本所使用的训练数据截至 2023 年第三季度的互联网数据以及xAI人工智能导师提供的数据。

FjpLDawPmeRWRW2LFtpuxABMy-5E

局限性,虽然 Grok-1 在信息处理方面表现出色,但需要对 Grok-1生成的内容进行审核。Grok-1 语言模型不具备独立搜索网络的能力,不是一个多模态的产品。

马斯克为什么开源Grok

本月初,马斯克正式起诉了OpenAI以及其联合创始人Sam Altman和Greg Brockman。

原因是,OpenAI违反合同协议、违反信托义务和不公平的商业行为,在发布ChatGPT等爆火产品后转向闭源并开始盈利。这与最初的开放AI造福人类理念截然相反。

马斯克作为OpenAI最初创始人之一,表示Altman 和 Brockman 在 2015 年说服他帮助创立OpenAI并为其提供资金,同时承诺该公司将是一家非营利性AI研究机构,专注于对抗来自谷歌等科技公司的竞争。诉讼称,基于创始协议要求 OpenAI 向公众 免费提供 其技术成果。

但根据OpenAI最新发布的回应邮件来看,为了更好的开发AGI,获取更多资金壮大产品线走营利模式,当时马斯克是同意的。

所以,马斯克在这个时间点选择开源Grok,估计和前几天起诉OpenAI的案件有关,兑现自己当年联合创立OpenAI时的“开源”诺言。

关于xAI

xAI成立于2023年7月13日,隶属于马斯克旗下。其核心团队成员曾经分别在DeepMind、OpenAI、谷歌研究、微软研究、特斯拉等前沿公司或多伦多大学等学术机构任职过。

本文素材来源xAI官网,如有侵权请联系删除


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK