zqf03118 / video-for-GPT2-chitchat

Video explanation for GPT2-chitchat in detail / 中文闲聊的GPT2模型(GPT2-chitchat)代码视频详解

视频讲解

链接 https://www.bilibili.com/video/BV1La4y1Y7ug
近2小时视频，免费教程

章节介绍

• 1.预处理与GPT2模型构建
• 2.模型训练与损失计算
• 3.利用模型生成对话结果
• 4.MMI模型训练与生成

说明

该项目拷贝于https://github.com/yangjianxin1/GPT2-chitchat
代码版权归原作者所有。
稍微修改了一点点，用于学习和讲解，并制作视频说明。

运行环境
python3.6、 transformers==2.1.1、pytorch==1.3.1、tensorboard==1.14.0

Reference

• The Curious Case of Neural Text Degeneration
• transformers
• GPT2-Chinese
• DialoGPT:Large-Scale Generative Pre-training for Conversational Response Generation
• GPT2-chitchat