用于汇总目前的开源中文对话数据集
语料库包含了来自6个领域的19.9K对话和400K话语,平均回合数为20.1。
引用论文:NaturalConv: A Chinese Dialogue Dataset Towards Multi-turn Topic-driven Conversation
下载链接:https://ai.tencent.com/ailab/nlp/dialogue/#datasets
下载脚本:https://github.com/naturalconv/NaturalConvDataSet
大规模的跨域Wizard-of-Oz面向任务的数据集。它包含6K对话会话和102K话语,涵盖5个领域,包括酒店、餐厅、景点、地铁和出租车。此外,该语料库还包含了丰富的对话状态注释,以及用户和系统两方面的对话行为。
-训练集:5012个对话,84692个utterance(句子)
-验证集:500个对话,8458个utterance(句子)
-测试集:500个对话,8400个utterance(句子)
- 5 domains: attraction, restaurant, hotel, metro, and taxi link
引用论文:https://arxiv.org/pdf/2002.11893.pdf
下载链接:https://github.com/thu-coai/CrossWOZ
KdConv是一个中文多领域知识驱动会话数据集,将多回合会话中的话题建立在知识图的基础上。KdConv包含了来自三个领域(电影、音乐和旅行)的4.5K对话和86K话语,平均回合数为19.0。这些对话包含了对相关主题的深入讨论和多个主题之间的自然过渡,同时语料库也可以用于迁移学习和领域适应的探索。
- 3 domains: file, music, travel link
引用论文:https://arxiv.org/pdf/2004.04100.pdf
下载链接:https://github.com/thu-coai/KdConv
开放领对话数据集,可以通过huggingface的datasets库加载
论文地址:A Large-Scale Chinese Short-Text Conversation Dataset
下载链接:https://github.com/thu-coai/CDial-GPT
豆瓣多轮对话
下载链接:https://github.com/MarkWuNLP/MultiTurnResponseSelection
中文医疗对话数据集由792099个问答对组成
下载链接:https://tianchi.aliyun.com/dataset/dataDetail?dataId=90163
论文引用:Modeling Multi-turn Conversation with Deep Utterance Aggregation
下载链接:https://github.com/cooelf/DeepUtteranceAggregation