Why is loss rising

[zqnnn]

I trained on my own dataset, the reg loss is rising , and loss is a negative number. Why does this happen？

[zqnnn]

请问一下，我想在自己的数据上训练，是不是应该先训练基础的Sphere64，再固定之前的训练不确定模块？Sphere64网络的训练有代码可以参考吗？

[Ontheway361]

从数学公式上来看，negMLS不能保证非负。老铁，加个微信讨论下细节哈，我wechat：On_theway24，备注一下是PFE模型讨论哈。

[twmht]

@Ontheway361

從 PAPER 的 Equation(3) 來看，會導致出現負號的原因是因為加了 log 嗎

[twmht]

只要可以保證 log(σ2(l)i+σ2(l)j) 為正的話，基本上就是 negMLS 就是恆正了

[Ontheway361]

@twmht , 事实上，不能保证 log(σ2(l)i+σ2(l)j) > 0!

[twmht]

@Ontheway361

我覺得應該 log 裡面要加個 exp?

[Ontheway361]

坦白来说，我认为论文中的公式（3）是错误的，我自己没有推导出来，然后发邮件咨询作者，作者也不回复邮件。所以，我觉得这篇文章就是垃圾，推荐你看CVPR-2020的一篇paper ：Data Uncertainty Learning in Face Recognition.

[twmht]

@Ontheway361

那篇我知道呀! 但目前沒有 source code 不好複製

[twmht]

PFE 的 similarity 沒有上限，但作者似乎也沒給一個實驗建議值

[hungsing92]

推不出来公式3+1