19

文言文(古文)-现代文平行语料

 2 years ago
source link: https://mp.weixin.qq.com/s?__biz=MjM5ODkzMzMwMQ%3D%3D&%3Bmid=2650428941&%3Bidx=2&%3Bsn=363a380f6b436e881697f3a531d078ee
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
640?wx_fmt=jpeg

感谢小牛翻译团队的开源,项目地址:

https://github.com/NiuTrans/Classical-Modern

以下来自项目主页介绍:


文言文(古文)-现代文平行语料

非常全的文言文(古文)-现代文平行语料,基本涵盖了大部分经典古籍著作。

原始爬取的数据是篇章级对齐,经过脚本分句(按照句号分号感叹号问号划分)以及人工校对,形成共计约96万句对。目录bitext下是文言文-现代文对齐的平行数据。此外,目录source下是文言文单语数据,target下是现代文单语数据,这两个目录下的文件内容按行对齐。

以下为数据统计信息。其中,短篇章中包括了《论语》、《孟子》、《左传》等篇幅较短的古籍,已和《资治通鉴》合并。

书名句数短篇章和资治通鉴348727元史21182北史25823北书10947南史13838南齐书13137史记17701后汉书17753周书14930太平广记59358宋书23794宋史77853徐霞客游记22750新五代史10147新唐书12359旧五代史11377旧唐书29185明史85179晋书21133梁书14318水经注全11630汉书37622辽史9278金史13758陈书7096隋书8204魏书28178总计967257

《短篇章和资治通鉴》中各书籍统计如下(此部分数据量不完全准确):

书名句数资治通鉴7.95w左传1.09w大学章句集注86反经4211公孙龙子73管子6266鬼谷子385韩非子4325淮南子2669黄帝内经6162皇帝四经243将苑100金刚经193孔子家语138老子398了凡四训31礼记4917列子1735六韬693六祖坛经949论语988吕氏春秋2473孟子1654梦溪笔谈1280墨子2921千字文82清史稿1604三字经234山海经919伤寒论712商君书916尚书1048世说新语3044司马法132搜神记1963搜神后记540素书61孙膑兵法230孙子兵法338天工开物807尉缭子226文昌孝经194文心雕龙1388吴子136孝经102笑林广记1496荀子3131颜氏家训510仪礼2495易传711逸周书1505战国策3318贞观政要1291中庸206周礼2026周易460庄子1698百战奇略800论衡1.19w智囊2165罗织经188朱子家训31抱朴子217地藏经547国语3841容斋随笔2921幼学琼林1372三略268围炉夜话387冰鉴120

如果您使用该语料库,请注明出处:https://github.com/NiuTrans/Classical-Modern

感谢为该语料库做出贡献的成员:丁佳鹏、杨文权、刘晓晴、曹润柘、罗应峰。

0?wx_fmt=png
AINLP
一个有趣有AI的自然语言处理公众号:关注AI、NLP、机器学习、推荐系统、计算广告等相关技术。公众号可直接对话双语聊天机器人,尝试自动对联、作诗机、藏头诗生成器,调戏夸夸机器人、彩虹屁生成器,使用中英翻译,查询相似词,测试NLP相关工具包。
342篇原创内容
Official Account
进技术交流群请添加AINLP小助手微信(id: ainlper)
请备注具体方向+所用到的相关技术点
640?wx_fmt=jpeg

关于AINLP

AINLP 是一个有趣有AI的自然语言处理社区,专注于 AI、NLP、机器学习、深度学习、推荐算法等相关技术的分享,主题包括文本摘要、智能问答、聊天机器人、机器翻译、自动生成、知识图谱、预训练模型、推荐系统、计算广告、招聘信息、求职经验分享等,欢迎关注!加技术交流群请添加AINLPer(id:ainlper),备注工作/研究方向+加群目的。

640?wx_fmt=jpeg

阅读至此了,分享、点赞、在看三选一吧🙏


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK