多次请求接口，输出结果会出现异常的情况
luhairong11 opened this issue · comments
采用的模型是codegeex2-6b-int4，在有些请求中，会出现“问”“答”字眼，感觉这个输出有问题，“问”“答”不是在构造prompt的时候的吗，为何在输出的时候有时候也会出现这个情况，频率还挺高的
碰到了一样的问题
CodeGeeX2: A More Powerful Multilingual Code Generation Model
luhairong11 opened this issue · comments
采用的模型是codegeex2-6b-int4，在有些请求中，会出现“问”“答”字眼，感觉这个输出有问题，“问”“答”不是在构造prompt的时候的吗，为何在输出的时候有时候也会出现这个情况，频率还挺高的
碰到了一样的问题