这个字段是Autoencoder什么？
它的意义是什么？
layer {
name: "encode1"
type: "InnerProduct"
bottom: "data"
top: "encode1"
param {
lr_mult: 1
decay_mult: 1
}
param {
lr_mult: 1
decay_mult: 0
}
inner_product_param {
num_output: 1000
weight_filler {
type: "gaussian"
std: 1
sparse: 15
}
bias_filler {
type: "constant"
value: 0
}
}
}
这是一种空间类型autoencoder吗？（它是自动K-sparse编码器吗？）
如果您查看权重填充代码，它用于计算用于初始化 a 的非零权重概率bernoulli random number generator。
non_zero_probability = sparse / num_output
最终它被用来掩盖由 生成的原始权重gaussian distribution。它与K-sparse自动编码器没有任何关系。
本文收集自互联网，转载请注明来源。
如有侵权，请联系[email protected] 删除。
我来说两句