对于交叉熵函数的学习规则,如果输出节点的激活函数是sigmoid,那么增量等于输出误差.
e = d - y;
delta = e;
与前面的示例代码不同，这里不再使用sigmoid函数的导数。
Unlike the previous example code, the derivative of the sigmoid function no longer exists.
这是因为，对于交叉熵函数的学习规则，如果输出节点的激活函数是sigmoid，那么增量等于输出误差。
请问下，这个delta=e是怎么通过sigmoid函数以及交叉熵计算出来的

交叉熵前的值为y的话，交叉熵为真的那个项的结果的梯度传到前面是-1/y，sigmoid输出也是y，正好在交叉熵前,往前传梯度，sigmoid输入端梯度是y(1-y),对二分类来说，链式传播应相乘，-1/y*y*(1-y)=-(1-y)=y-1，对多分类来说，分析复杂些，但最后结果是仍是y-1，这里y是预测值，楼主那个y是one-hot标签，在对应项上仍应为1，d是预测值，意思是一样的。