1
GPT的创造力正在被扼杀！ - Kevin
source link: https://www.jdon.com/65703.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
GPT的创造力正在被扼杀！ - Kevin
随着GPT年龄增长，RLHF正在摧毁创造力，就像我们的社会对每个人所做的那样！
刚开始生活时我们是最有创造力的，随着时间的推移，我们收到其他人类的反馈，说我们的创造性产出是不正常的，可悲的是我们听信了。
同样的故事也在GPT上上演！
下面这条曲线是人类繁荣面临的最大问题之一。儿童是智力和创造性的探索者，而成人是消费者。生成式人工智能有可能帮助我们改变这条曲线。
可悲的是，一个完全没有创造力的超级智能正在被创造出来。当然，ChatGPT可以编码任何网站，但不知为何却写不出一首（不）押韵的诗？
为什么？GPT的创造性冲动正在逐步被规范化 ！
RLHF在大规模使用时根据定义删除了创造性产出，因为创造性需要意外的联系和事件发生 ， 而不是平均的理想结果。
"这个代码块是否产生了最佳的代码片断 "是一个具有客观真理的问题，所以RLHF在这里没有问题，但是在判断 "这是一首好诗吗 "时却不是，因为每个人的感受不同。
为人们提供其他人类对指定输入的平均数（全人类使用同一个价值判断标准是扼杀创造性的），这与鼓励创造性思维完全背道而驰。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK