使用GLM-2b推理时生成无意义内容
ChristLBUPT opened this issue · comments
模型会生成大量重复无意义的内容（就像初始参数随机的模型一样）
比如
输入：The capital city of China is [MASK].
输出：[CLS] The capital city of China is [MASK].<|endoftext|> <|startofpiece|> K KparparReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloadedReloaded
使用的代码是repo主页的示例代码，模型使用的是THUDM/glm-2b
麻烦大佬们check一下