云厂商开卷Llama3！阿里云全方位支持训练推理，还提供免费算力
source link: https://www.qbitai.com/2024/04/136817.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
云厂商开卷Llama3！阿里云全方位支持训练推理，还提供免费算力
阿里云百炼平台上新
4月18日，Meta开源最新Llama 3系列，阿里云魔搭社区第一时间上架全部4款模型。今天，阿里云百炼大模型服务平台宣布在国内首家推出针对Llama 3系列的限时免费训练、部署、推理服务，企业和开发者即日起即可在阿里云上基于其打造自己的专属大模型。
Llama 3是Meta推出的新一代开源大语言模型，拥有80亿及700亿参数版本，训练数据较Llama 2扩大7倍，性能表现也大幅提升。不过，由于对特定语言或垂直领域能力的要求，企业和开发者往往需要对开源模型进行再训练或微调，过程较为繁琐。
为方便国内开发者，阿里云百炼平台推出针对Llama 3的一键训练、部署、推理方案，且限时免除模型开发和调用的算力费用。企业和开发者可在阿里云百炼模型广场申请使用，通过后即可快速体验Llama 3效果，并与其他模型进行直观比较。
希望直接进行推理应用的用户，可在百炼上点击模型调试、prompt模版等功能，快速基于Llama 3打造自己的AI助手。希望深度开发的企业，可结合企业数据集，一键启动SFT全参训练或LoRA高效训练，后续利用百炼RAG检索增强、智能体打造等能力进行应用开发。
百炼平台融合了阿里云强大的AI基础设施能力，企业和开发者能获得丰富的AI计算资源和极致弹性，轻松在云上完成对超大尺寸模型的深度开发、高效部署和高并发推理。在基础设施层，阿里云灵骏智算集群具备高达十万卡GPU的扩展性；在AI平台层，人工智能平台PAI提供了高效灵活的调度能力，可10倍提升大模型训练性能，并稳定运行千卡任务5周以上；在模型即服务层面，阿里云打造了国内最大规模的AI模型社区魔搭和模型服务平台百炼，提供从大模型选型、体验到再训练、部署、应用、推理的一站式服务。
作为中国云计算领导者，阿里云提出要做“AI时代最开放的云”，全面支持中国大模型生态繁荣。从去年起，阿里云全尺寸、全模态开源了自研通义千问大模型，并深度支持对Llama、Mistral、Stable Diffusion、ComfyUI等开源模型的开发应用，以及百川智能、智谱AI、零一万物、昆仑万维、vivo、复旦大学等众多国内机构大模型的训练推理。目前，阿里云已成为中国大模型的公共算力底座，超过一半中国主流大模型跑在阿里云上。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK