5
微软崔宏禹：GPT-4 以后，不建议再用微调进行特定领域的模型适配
source link: https://www.8btc.com/article/6819724
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
2023-05-28 02:33
微软崔宏禹：GPT-4 以后，不建议再用微调进行特定领域的模型适配
据澎湃新闻报道，5 月 26 日，微软（中国）有限公司创新技术总经理崔宏禹在上海举行的向星力・未来数据技术峰会（FDTC）上回应了当下一个广泛被提及的问题，即如何用自己的数据训练自己的模型，将私域数据与 GPT 的能力相融合。崔宏禹解答道，“一般来说，我们推荐两种方式。一种是微调（在不改动预训练模型的基础上，在模型顶层增加分类器或一些特征映射，使微调后的模型能够更贴合实际使用场景），但在 GPT-4 以后，我们已经不建议或者已经不让大家使用微调的方式了。我们更推荐的是嵌入（将一个内容实体映射为低维向量，从而可以获得内容之间的相似度）的方式。”
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK