Giters

THUDM / GLM

GLM (General Language Model)

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

关于GLM的有以下两个问题？1.为什么predict的时候没有加linear映射到词表维度，而是直接与word_embeddings相乘映射到词表维度了。 2.GLM加载使用AutoModelForSeq2SeqLM，而没有使用AutoModelForCausualLM，原因是什么？

macheng6 opened this issue · comments

commented

1.为什么predict的时候没有加linear映射到词表维度，而是直接与word_embeddings相乘映射到词表维度了。
2.GLM加载使用AutoModelForSeq2SeqLM，而没有使用AutoModelForCausualLM，原因是什么？