920232796 / bert_seq2seq

pytorch实现 Bert 做seq2seq任务,使用unilm方案,现在也可以做自动摘要,文本分类,情感分析,NER,词性标注等任务,支持t5模型,支持GPT2进行文章续写。

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

关于生成摘要的使用

charlesyzk opened this issue · comments

您好
我想请问下关于生成摘要的模型使用,我想利用这个模型做一些新闻摘要,请问我应该怎么使用,我是需要每次把需要生成的文本放入testdata中进行二十轮的结训练得到结果,还是需要利用生成的bin文件来做,如果是后者,该怎么利用这个bin文件即bert_auto_title_model.bin

你如果训练好了一个模型的话 去test文件夹里面 有对应的利用训练好的模型进行预测的代码。

作者 您好! 我想问一下 如果还有其他模态的数据,怎么和文本一起放入这个pretrained模型里进行fine tune呢?刚接触这方面,有点迷糊,求大佬指点一二!谢谢!

你是说图片嘛

作者 您好! 我想问一下 如果还有其他模态的数据,怎么和文本一起放入这个pretrained模型里进行fine tune呢?刚接触这方面,有点迷糊,求大佬指点一二!谢谢!

你是说图片嘛

作者 您好! 我想问一下 如果还有其他模态的数据,怎么和文本一起放入这个pretrained模型里进行fine tune呢?刚接触这方面,有点迷糊,求大佬指点一二!谢谢!

对, 图片或者视频。因为没找到中文的多模态pretrain模型然后数据集特别小,想着能否可以从您这摘要模型改一下?

你是说图片嘛

作者 您好! 我想问一下 如果还有其他模态的数据,怎么和文本一起放入这个pretrained模型里进行fine tune呢?刚接触这方面,有点迷糊,求大佬指点一二!谢谢!

对, 图片或者视频。因为没找到中文的多模态pretrain模型然后数据集特别小,想着能否可以从您这摘要模型改一下?

多模态一起输入我也没试过,我只做过图片的transformer,切成n个patch进行输入,跟文字一起的话,这个还真没接触过,一时半会不能给你解答,抱歉呀。可以来群里细说~