Circle Loss
本文是对旷视所提出的论文:Circle Loss: A Unified Perspective of Pair Similarity Optimization
的个人解读。
本文是对旷视所提出的论文:Circle Loss: A Unified Perspective of Pair Similarity Optimization
的个人解读。
最近准备把自己写的训练框架全部升级到支持分布式以及混合精度训练,发现如果其中对于自定义层的改动还真不少。这里分享一个支持分布式以及混合精度训练的Spectral Normalization
实现。
NOTE:
这里遇到一个问题,发现混合精度训练之后GPU
使用率只有20%不到,查找一番之后发现果然有issue,貌似对于DepthwiseConv2d
的支持不好,可能要等到tf2.2
之后才可以更新了。
SimCLR
实际上是Geoffrey Hinton
和谷歌合作的论文A Simple Framework for Contrastive Learning of Visual Representations
,严格来说他是一个自监督算法,不过我这里也把他归入半监督中了,他实际上是先无监督预训练然后进行监督微调的。
对音频数据训练我认为还是对数Mel
谱图的方式比较好一下,需要一个音频版的RandAugment
,借此机会把一下Mel
谱图的增强方式汇总一下。