请问生成结果中，经常有最后几个短句循环重复的情况，是为什么？
AltenLi opened this issue · comments
用了finetune，没用train。
自己标注了1w训练数据。
输入：首先我们点击菜单栏当中的文件右上角的，然后弹出的窗口当中，这边有一个选项，有的选项可能在在最下方，有的是在上面点哈，点击选项，然后我们选择笑对，一定是选择校队，校队里面，我们找着在word中订正拼写和语法时，这个位置，下面有个键入时检查拼写，键入时，标记语法错误，然后我们把这两个勾选给去掉，把这两个给勾选去掉，现在这两个勾选去了之后，下面这边它就会只有这个弹出的现，现在我把它勾选了，然后他就隐藏掉了，现在我们点击一下确定，
输出：点击菜单栏当中的文件右上角的，弹出的窗口当中，点击选项，选择字对，选择校队，键入时检查拼写，键入时标记语法错误，把两个勾选去掉，弹出的字勾选隐藏掉，点击确定，字对勾选有了，点确定，字对勾选没有了，点击确定，字对勾选没有了，点确定，字对勾选有了，点确定，字对勾选有了，点确定，字对勾选有了，点确定，字对勾选没有了
这个问题有解决吗？ 我也遇到了这样的问题。
自问自答：从逻辑上讲此类生成模型都会有同类问题，由不完备损失函数导致的。
很多
目测调节一下生成的repetition_penalty可以缓解。
多训练几个回合？