实施softmax回归

用户名

我正在尝试使用softmax回归制作一个神经网络。我正在使用以下回归公式:

在此处输入图片说明

可以说我有1000x100的输入。换句话说,假设我有1000张图片,每张图片的尺寸均为10x10。现在,假设图像是来自A,B,C,D,E,F,G,H,I,J的字母的图像,而我正试图对此进行预测。我的设计如下:具有100个输入(每个图像)和10个输出。

我有以下疑问。鉴于n是x ^ n的上标(对于分子),我应该执行w的点积(w =权重,其权重为10x100-10表示输出数量,100表示​​输入数量) x(单个图像)还是所有想象的组合(1000x100)?我正在用python进行编码,因此如果我将w和x ^ T(10x100点100x1000)做点积,那么我不确定如何使该指数成为指数。我正在使用numpy。我很难围绕这些矩阵思考如何将它们提高为指数。

Shubham

如果您正在训练神经网络,那么我们值得花些时间检查Theano库。它具有tanhsoftmax各种输出阈值功能,并允许在GPU上训练神经网络。

同样,x ^ n是上式中最后一层的输出,而不是将输入提高到某个指数。您不能将矩阵放在指数中。

您应该检查有关softmax回归的更多信息。可能会有帮助。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章