ziwang-com / AGM

AGM阿格姆:AI基因图谱模型,从token-weight权重微粒角度,探索AI模型,GPT\LLM大模型的内在运作机制。

Home Page:http://www.m-f.vip

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

上下文嵌入和模型加权

ziwang-com opened this issue · comments

https://github.com/leoleoasd/MLP-based-weighting
论文“通过融合生物医学问答领域知识的上下文嵌入和模型加权”的代码。

上下文嵌入和模型加权策略。

BioBERT在AoA Reader中用于提供生物医学上下文词嵌入。然后将 AoA 阅读器的结果与 SciBERT 的结果进行加权,以获得更好的性能。

我们在BIOMRC LITE数据集上实现了88.00%的准确率,以8.03%的大幅优势优于最先进的系统。