TinyZeaMays / CircleLoss

Pytorch implementation of the paper "Circle Loss: A Unified Perspective of Pair Similarity Optimization"

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

请问circle_loss.py中最后要用softplus操作?

CloudHerods opened this issue · comments

你好,感谢你的实现,请教一个问题:
loss = self.soft_plus(torch.logsumexp(logit_n, dim=0) + torch.logsumexp(logit_p, dim=0)),
这里直接用括号里的作为损失函数不可以吗?

你好,
softplus可以视作平滑的relu,实际上当
torch.logsumexp(logit_n, dim=0) + torch.logsumexp(logit_p, dim=0)
高于阈值时是当作线性函数处理的,
关于理论原理,论文中有比较详细的推导说明,也可以关注知乎上作者的解读