mazicwong / Multiturn-chitchat-zh

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

开源多轮对话数据集汇总(中文)

用于汇总目前的开源中文对话数据集

NaturalConv (腾讯2021) ⭐️⭐️⭐️⭐️⭐️

语料库包含了来自6个领域的19.9K对话和400K话语,平均回合数为20.1。

引用论文:NaturalConv: A Chinese Dialogue Dataset Towards Multi-turn Topic-driven Conversation

下载链接:https://ai.tencent.com/ailab/nlp/dialogue/#datasets

下载脚本:https://github.com/naturalconv/NaturalConvDataSet

CrossWOZ (清华2020) ⭐️⭐️⭐️⭐️⭐

大规模的跨域Wizard-of-Oz面向任务的数据集。它包含6K对话会话和102K话语,涵盖5个领域,包括酒店、餐厅、景点、地铁和出租车。此外,该语料库还包含了丰富的对话状态注释,以及用户和系统两方面的对话行为。

  -训练集:5012个对话,84692个utterance(句子)

  -验证集:500个对话,8458个utterance(句子)

  -测试集:500个对话,8400个utterance(句子)

  • 5 domains: attraction, restaurant, hotel, metro, and taxi link

引用论文:https://arxiv.org/pdf/2002.11893.pdf

下载链接:https://github.com/thu-coai/CrossWOZ

KdConv (清华 2020) ⭐️⭐️⭐️⭐️

KdConv是一个中文多领域知识驱动会话数据集,将多回合会话中的话题建立在知识图的基础上。KdConv包含了来自三个领域(电影、音乐和旅行)的4.5K对话和86K话语,平均回合数为19.0。这些对话包含了对相关主题的深入讨论和多个主题之间的自然过渡,同时语料库也可以用于迁移学习和领域适应的探索。

  • 3 domains: file, music, travel link

引用论文:https://arxiv.org/pdf/2004.04100.pdf

下载链接:https://github.com/thu-coai/KdConv

LCCC (清华 2020) ⭐️⭐️⭐️

开放领对话数据集,可以通过huggingface的datasets库加载

论文地址:A Large-Scale Chinese Short-Text Conversation Dataset

下载链接:https://github.com/thu-coai/CDial-GPT

Douban Conversation Corpus (豆瓣2017) ⭐️⭐️

豆瓣多轮对话

引用论文:Sequential Matching Network: A New Archtechture for Multi-turn Response Selection in Retrieval-based Chatbots.

下载链接:https://github.com/MarkWuNLP/MultiTurnResponseSelection

特定领域对话

医疗对话

阿里天池医疗对话

中文医疗对话数据集由792099个问答对组成

下载链接:https://tianchi.aliyun.com/dataset/dataDetail?dataId=90163

客服对话

淘宝客服

论文引用:Modeling Multi-turn Conversation with Deep Utterance Aggregation

下载链接:https://github.com/cooelf/DeepUtteranceAggregation

京东对话挑战赛

下载链接:https://github.com/SimonJYang/JDDC-Baseline-Seq2Seq

Reference

https://github.com/YouTaoBaBa/Chinese-Dialogue-Dataset

About