今天又在研究我的那个激活函数，研究发现：之前之所以出现非数nan是因为loss的计算方式有问题。
不是说loss的计算方式错误。之前的j的计算方式也是正确的，但是由于hidden layer中的某一项会变得非常大，从而该项会变成非数，由于之前j的计算过程中，会用到这一项，因此就会连带着loss也变成非数。
今天我修改了下loss的计算方法，用了这个新的方法可以正常地显示出loss的大小。
下面这是我用matplotlib画出来的图，可以清晰地看到，loss呈现减小的趋势，train_accuracy也呈现出增大的趋势，而且只训练了500epoch就达到了93%的准确率，这是之前调试的过程中所有的激活函数，包括(tanh,ReLU)所没有达到的效果。也许是我调试的参数不准确，导致之前的激活函数都没有像这个一样很好的效果，但是这确实说明了，我的激活函数可以用，而且可以用的很好。

#易烊千玺少年的你# 在带着易烊千玺老婆对他的爱观影后，再次表达我对中戏新生代演技的青睐，比如易烊千玺的上上上上届师哥张新成。诚邀Jackson Yee参演我作为导演编剧和制片人的新作《你的少年…们》，不用挨打没有血腥暴力，只需要跟出品人(易烊千玺老婆想要做出品人)谈一场甜甜的恋爱。真的，什么“南南”(他老婆名字里有nan)“北北”的爱情想想都令人动容。没有成为中戏的学生，也要成为中戏的家属亲戚！

睡不着的时候时常思考人生的意义 然后想着想着就容易把自己带抑郁 永远的死循环 知道大家都不容易 也没太多的得偿所愿 可是还是觉得自己的生活太nan了 自以为感动了自己的努力其实自己清楚都是骗自己其实自己什么都没做 人前得保持积极乐观的生活态度 实在太累了 其实我很丧 对以后也没什么打算 自身也没什么技能 可能以后养活自己都麻烦 怎么人生就走到了这一步