generate_samples.py问题
taofennanhai opened this issue · comments
1.glm10B-chinese的position_embeddings问题。为何从模型加载点获取的模型最大位置编码矩阵为[1025,4096]，而不是脚本定义的[1024,4096]?
2.通过更改最大位置编码为1025后，可以运行。但是输入一个句子预测后，发生piece id is out of range错误
我设置的模型参数如下
GLM (General Language Model)
taofennanhai opened this issue · comments
1.glm10B-chinese的position_embeddings问题。为何从模型加载点获取的模型最大位置编码矩阵为[1025,4096]，而不是脚本定义的[1024,4096]?
2.通过更改最大位置编码为1025后，可以运行。但是输入一个句子预测后，发生piece id is out of range错误
我设置的模型参数如下