ziwang-com / AGM

AGM阿格姆:AI基因图谱模型,从token-weight权重微粒角度,探索AI模型,GPT\LLM大模型的内在运作机制。

Home Page:http://www.m-f.vip

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

HF可视化工具

ziwang-com opened this issue · comments

https://github.com/davidheineman/decoding-vizualizer
解码算法可视化工具
可视化光束搜索或任何拥抱面模型的采样!您可以看到光束假设的模型可能性,以及它们的相对BERTScore(对MBR解码等有用)。
Huggingface不会返回我们需要可视化的可能性或假设信息。因此,您需要直接修改变压器的安装。我仍在尝试找出将其放入 github 的最佳方法,但现在您可以将函数从 复制到 .唯一的区别是返回所有光束假设的分数。beam_searchutils.pytransformers/src/transformers/generation/utils.pybeam_seq_scores

在 中指定模型。默认情况下,它将安装和使用 .backend/server.pygoogle/mt5-base

image