解决大型语言模型中的责任伦理困境
source link: http://jandan.net/p/112961
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
← 科学家揭示抗生素耐药性的根源研究显示，月球跟地球一样，是个实心球 →
解决大型语言模型中的责任伦理困境
牛津大学的研究人员与国际专家合作，在《自然·机器智能》上发表了一项新研究，讨论围绕大语言模型(LLM)产生的输出的责任归属的复杂伦理问题。该研究表明，像ChatGPT这样的LLM提出了关于有用文本生成的信誉和权利归属的关键问题，这与传统的AI责任辩论不同，后者主要关注有害后果。
联合第一作者Sebastian Porsdam Mann和Brian D. Earp说，“像ChatGPT这样的LLM带来了对责任概念更新的紧迫需求。”
根据联合作者Sven Nyholm和John Danaher的说法，该研究的一个关键发现是:“虽然这些技术的人类用户无法完全声称LLM产生的积极结果属于自己的功劳，但似乎仍然适当地将其视为有害用途的责任，如产生错误信息或疏忽地检查生成文本的准确性。” Nyholm和Danaher在前人的工作基础上称此为“成就差距”:“正在完成有用的工作，但人们无法像以前那样从中获得满足感或认可。”
论文的高级作者Julian Savulescu补充说，“我们需要有关作者资格、披露要求、教育用途和知识产权的指导方针，参考现有的规范性文献和类似的相关辩论，例如人类增强辩论。”Savulescu继续说，要求透明度的规范尤其重要，“以跟踪责任和正确地赞扬和责备。”
该研究由法律、生物伦理学、机器学习和相关领域的跨学科专家团队共同撰写，深入探讨LLM在教育、学术出版、知识产权和误信息和虚假信息生成方面的潜在影响。
教育和出版业尤其需要迅速采取LLM使用和责任方面的指导方针行动。联合作者John McMillan和Daniel Rodger表示:“我们建议文章提交包括关于LLM使用情况的声明以及相关补充信息。LLM的披露应类似于人类贡献者，承认重大贡献。”
该文指出，LLM在教育方面可能有帮助，但警告说它们容易出错，过度使用可能会影响批判性思维技能。作者写道，机构应考虑调整评估方式，重新思考教学法，并更新学术不端行为指导，以有效处理LLM的使用。
生成文本的权利，如知识产权和人权，是LLM使用影响需要迅速解决的另一个领域，联合作者Monika Plozza指出。“知识产权和人权带来挑战，因为它们依赖于以人为主设定的劳动和创造力概念。我们需要开发或调整如‘贡献者’的框架来处理这种高速发展的技术，同时保护创作者和用户的权利。”
并非所有LLM的可预见用途都是善意的。联合作者Julian Koplin警告，“LLM可以用于生成有害内容，包括大规模的误信息和虚假信息。这就是为什么我们需要让人们对使用的LLM生成文本的准确性负责，以及努力教育用户和改进内容审核政策来减轻风险。”
为了应对与LLM相关的这的风险和其他风险，联合作者Nikolaj Møller和Peter Treit表示，LLM开发者可以效仿生物医学领域的自我监管。“建立和应得的信任对LLM的进一步发展至关重要。通过促进透明度和开展公开讨论，LLM开发者可以展示其对负责任和道义实践的承诺。”
本文译自 techxplore，由 bali 编辑发布。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK