基于华为昇思MindSpore的GPT2文本摘要 华为昇思MindSpore上的GPT2文本摘要
发布时间
阅读量:
阅读量
基于MindSpore的GPT2文本摘要实现
安装所需依赖库的建议
pip install -i https://pypi.mirrors.ustc.edu.cn/simple mindspore==2.2.14
pip install mindnlp
获取数据集:
from mindnlp.utils import http_get
# download dataset
url = 'https://download.mindspore.cn/toolkits/mindnlp/dataset/text_generation/nlpcc2017/train_with_summ.txt'
path = http_get(url, './')
一、数据集加载与处理
本次实验所采用的数据集为nlpcc2017摘要数据,其中包含新闻正文与对应摘要内容,共计50000个样本。
from mindspore.dataset import TextFileDataset
# load
全部评论 (0)
还没有任何评论哟~
