thuml / Flowformer

About Code release for "Flowformer: Linearizing Transformers with Conservation Flows" (ICML 2022), https://arxiv.org/pdf/2202.06258.pdf

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

如何执行causal的生成任务

pixas opened this issue · comments

作者您好,FlowFormer是个精彩的工作,我有一个关于代码上的问题想请教您:
问题:我看您的代码有一个判断attn_mask是否为空的操作,但是在inference的时候,即使是causal的task也是没有这个attn_mask的,请问我要如何在attn_mask为空的时候进行生成(例如,机器翻译,语音合成等任务)