中文闲聊 GPT2 模型 (GPT2-chitchat) 代码 视频 详细 解析 NLP 教程

文章结构概述

• 视频解析
  • 课程内容概要
  • 核心概念
  • 说明阐述
  • 参考文献

视频讲解

视频链接 https://www.bilibili.com/video/BV1La4y1Y7ug
时长约两小时的视频教程，可免费获取

章节内容概述

1. 数据预处理及GPT2模型架构搭建
2. 模型参数优化与损失函数计算过程
3. 借助模型实现对话内容生成
4. MMI模型的训练流程与结果生成

知识点

GPT2模型、对话式人工智能系统、MMI架构以及预训练与微调技术

说明

该项目源自 https://github.com/yangjianxin1/GPT2-chitchat
代码的知识产权归属于原作者。
对部分内容进行了细微调整，旨在用于学习与教学，并配合视频进行说明。https://github.com/JizhiXiang/video-for-GPT2-chitchat

环境配置要求
python3.6
transformers == 2.1.1
pytorch == 1.3.1
tensorboard == 1.14.0

Reference

• [The Curious Case of Neural