PKU-YuanGroup / ChatLaw

ChatLaw:A Powerful LLM Tailored for Chinese Legal. 中文法律大模型

Home Page:https://chatlaw.cloud/

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

关键词向量和用户问题向量加权的权重是多少呢?

liuweie opened this issue · comments

您好,阅读了您的技术报告,请问一下:在对关键词向量和用户问题向量进行标准化后求和的时候,α作为权重将会与标准化后的问题向量相乘,请问关于α的大小设置有什么经验吗?
image

这是一个超参数,自己可以调调。你初始化可以定1.0