tf.keras多输出模型自定义loss

自从看了苏剑林的博客之后,我对keras是越来越喜欢了,但是我更喜欢在tensorflow中使用keras,今天就来看看如何在tf.keras中自定义多输出模型的loss,并且搭配高效的tf.dataset.

NOTE: tensorflow==2.0.0b0

阅读全文

numpy中动态范围切片

今天想把两个不同的形状的数组进行赋值,因为数组形状是动态的,所以要想一个办法进行动态的范围切片.

阅读全文

L softmx -> A softmx -> AM softmax

本篇文章是对Large Margin Softmax loss,Angular Margin to Softmax Loss,Additive Margin Softmax Loss的学习记录。公式我尽量按照原文来写,并加入一点注释。

阅读全文

tf.keras中分析性能

tensorflowkeras的结合太好了,今天训练模型超级慢,我准备使用tensorflow中的timeline来进行分析,一番寻找发现根本不需要以前那么麻烦。

阅读全文

tf.Keras完美使用tf.data API

最近看了苏剑林的几篇博客, 我忽然对keras不是那么抵触了,才发现之前认为Keras使用不灵活完全是因为的认识不够深入。所以我准备使用Tensorflow 2.0中的tf.Keras来 构建Yolo v3,在tensorflow中我们可以更加灵活的优化我们的数据输入管道,这次介绍一下多输入的model如何结合tf.data,基础的使用方式在这里学习。

阅读全文

变分自编码器(VAE)学习

我看了VAE之后忽然对神经网络的非监督学习以及概率模型很感兴趣,但是无奈概率模型真的好难懂啊. 今天尝试一边描述VAE一边真正的理解他. 参考总结自:https://spaces.ac.cn/archives/5253

阅读全文

python返回值进行unpack

最近在写yolov3,因为yolov3的多输出性质,所以我打算写适配多输出的工具函数,在numpy中可以在一个array中包含多个不同维度的array,但在tensorflow中一个tensor只能保存相同维度的矩阵,这就十分蛋疼了.下面记录一下我是如何解决的.

阅读全文

Tensorflow 2.0中使用global steps

用了一段时间的tensorflow 2.0,总的来说默认eager模式操作数据十分的方便,并且可以适当的转为tf.function加快速度.但是和keras的结合还是不够灵活,比如可以单独用fit可以执行,但是想用更加灵活的方式训练有时候就会出现莫名其妙的问题,让人抓狂.

阅读全文

python实现stft

以后还是要自己实现k210中的代码,所以准备还是在python中先实现一下.下面记录两种stft谱图的实现方式

阅读全文

k210中使用core1

记录一下在k210中使用core1遇到的错误.

阅读全文