bertviz在 NLP 模型中可视化注意力

[www.ziwang.com]

https://github.com/jessevig/bertviz
伯特维兹
在 NLP 模型中可视化注意力
快速浏览 • 入门 • Colab 教程 • 论文
BertViz是一个交互式工具，用于在BERT，GPT2或T5等Transformer语言模型中可视化注意力。它可以通过支持大多数Huggingface模型的简单Python API在Jupyter或Colab笔记本中运行。BertViz扩展了Llion Jones的Tensor2Tensor可视化工具，提供了多个视图，每个视图都为注意力机制提供了一个独特的视角。