很久以前,我就在Encog库中研究反向传播神经网络的预测系统,现在我正在研究支持向量机领域,我发现它比NN效率高得多,我的目标是测试预测在SVM中的行为方式并将其与BPN进行比较。
我有两个二维数组,一个数组是INPUT,一个数组是IDEAL。数组的每一行都由3个元素组成(实数在1/9和9之间)。INPUT中有800行,对应的IDEAL。另外还有2个TEST数组,每个数组有200行。
使用BPN没问题,我用输入层中的3个神经元,中间层中的50个神经元和输出层中的3个神经元训练网络(在5分钟内收敛,误差小于0.01),并且测试工作正常。
另一方面,在SVM中,我有一个问题。我训练了网络,在3秒内收敛,并且看起来工作正常,但是当我测试数据时,它预测每行输出中只有1个元素,而BPN中没有3个asi。
我不知道我在做什么错,我复制了一个简化的代码和运行的输出。
JAVA代码
/* SVM Structure */
SVM svm = new SVM(3, true);
/* Training Set */
BasicMLDataSet trainingSet = new BasicMLDataSet(INPUT_ARRAY, IDEAL_ARRAY);
/* Train SVM */
SVMSearchTrain train = new SVMSearchTrain(svm, trainingSet);
int epoch = 1;
do {
train.iteration();
System.out.println("Epoch #" + epoch + " Error:" + train.getError());
epoch++;
} while(train.getError() > 0.01);
// Test the SVM
BasicMLDataSet testSet = new BasicMLDataSet(INPUT_TEST_ARRAY, IDEAL_TEST_ARRAY);
//Normalize/Denormalize class -> 0.11111111111111111 - 9 into 0 - 1
NormalizedField norm = new NormalizedField(NormalizationAction.Normalize, null,9,0.11111111111111111,1,0);
for(MLDataPair dataPair: testSet ) {
final MLData output = svm.compute(dataPair.getInput());
System.out.print("Input: [ ");
int elementos = (orden*(orden-1))/2;
for(int i=0; i<elementos; i++){
System.out.print(norm.deNormalize(dataPair.getInput().getData(i))+" ");
}
System.out.print("] - ");
System.out.print("Ideal: [ ");
for(int i=0; i<elementos; i++){
System.out.print(norm.deNormalize(dataPair.getIdeal().getData(i))+" ");
}
System.out.print("] - ");
System.out.print("Ideal: [ ");
for(int i=0; i<output.size();i++){
System.out.print(norm.deNormalize(output.getData(0))+" ");
}
System.out.print("]\n");
}
Encog.getInstance().shutdown();
输出
Epoch #1 Error:0.0040788759553631255
Input: [ 0.1111111111111111 0.14285714285714285 4.0 ] - Ideal: [ 0.1111111111111111 0.16666666666666666 4.0 ] - Actual: [ -0.41164113104867955 ]
Input: [ 0.125 0.125 4.0 ] - Ideal: [ 0.125 0.5 3.0 ] - Actual: [ -0.4085939985232357 ]
Input: [ 1.0 1.0 0.25 ] - Ideal: [ 1.0 0.5 0.25 ] - Actual: [ 1.6604401446928032 ]
.
.
.
Input: [ 8.0 4.0 0.16666666666666666 ] - Ideal: [ 8.0 4.0 0.2 ] - Actual: [ 7.545661375461256 ]
任何帮助将不胜感激,感谢您的阅读!
我认为这是一个回归问题,您在SVM中输入一个数字,而不是一个分类。
神经网络在模型之间有些独特,因为它们可以有多个输出。支持向量机用于回归时,只有一个输出。您可以使用SVM将其分类为多个类,但是,为了进行回归,您只能使用一个输出。
如果要尝试预测两个不同的数字,则需要使用两个SVM。如果要分类为多个类别,请在此处获取更多信息:http : //www.heatonresearch.com/content/encog_svm_multiclass.html
本文收集自互联网,转载请注明来源。
如有侵权,请联系[email protected] 删除。
我来说两句