最近看insightface深受启发，他的人脸识别在训练时可以训练softmax的，还可以训练triplet loss的，并且在验证时是对图像pair进行验证的。这几天弄论文顺便先给tf里面的模型写个骨架出来。这里的主要难点在于如何用tf.keras自带Model类实现训练和测试时不同的行为，今天尝试了一下，做个总结。

PFLD算法是我今年8月复现的,当时没有写总结,现在补上.

  本次主要总结一下retinaface和Ultra-Light-Fast-Generic-Face-Detector-1MB。

  实际上retinaface和Ultra-Light-Fast-Generic-Face-Detector-1MB的思路都是基于SSD的，本来我做yolo之后准备学习一下SSD的，做完这两个模型也算是学习到了。由于我目前不开源基于tensorflow的训练代码，下面的代码大家仅供参考～

在yolo中计算了单层的anchor与全局的gt间的iou score，但是我需要在其中过滤出单层的anchor对应单层的gt的iou score。目前有单一层的gt的loc_mask，以及全局的gt的glob_mask，其中loc_mask中有效区域是glob_mask的子集，因此需要找到loc_mask在glob_mask的对应索引。

用了挺久的tensorflow，目前也尝试了一些别的框架，感觉最让我难受的一点就是没法很方便的按索引赋值。

原因主要有： 1. tensorflow的索引方式与numpy不同，写起来别扭。 2. 必须要变量类型才可以进行赋值。 我写完这篇文章后找到对普通tensor的赋值方式了

这次就来说下一些数组操作在tensorflow里面的写法。

哇,今天真的好累,就写了个动态多尺度训练(差点又被tensorflow劝退.),下面写几个要注意的点.

要给yolo添加多尺度训练,因为tf.keras无法对dataset对象进行callback操作这也就算了,但是我没法得知dataset对象目前在生成训练数据还是测试数据,这个就很蛋疼,需要能在尽量不大改代码的同时添加多尺度训练方式,所以还得看tf.keras.callback.

我今天运行个模型,跑着跑着内存就泄漏了,我很奇怪,然后用memory_profiler分析了下内存泄漏的点.发现是skimage的resize中出现了泄漏.

升级了tensorflow到1.15,发现一个用tf.keras中TensorBoard的时候就会报错的问题.

论文《Lookahead Optimizer: k steps forward, 1 step back》的tf.Keras实现.

参考自苏剑林的repo