scikit-learnのSVCとLinearSVCはどのパラメーターで同等ですか?

シドニー

私が読んで、このスレッドの違いについてSVC()LinearSVC()でscikitを学びます。

これで、二項分類問題のデータセットができました(このような問題の場合、両方の関数間の1対1/1対レストの戦略の違いは無視できます)。

これらの2つの関数で同じ結果が得られるパラメーターを試してみたいと思います。まず、もちろん、設定kernel='linear'する必要SVC()がありますが、両方の関数から同じ結果を得ることができませんでした。ドキュメントから答えを見つけることができませんでした。誰かが私が探している同等のパラメータセットを見つけるのを手伝ってくれませんか?

更新:scikit-learn Webサイトの例から次のコードを変更しましたが、明らかに同じではありません。

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm, datasets

# import some data to play with
iris = datasets.load_iris()
X = iris.data[:, :2]  # we only take the first two features. We could
                      # avoid this ugly slicing by using a two-dim dataset
y = iris.target

for i in range(len(y)):
    if (y[i]==2):
        y[i] = 1

h = .02  # step size in the mesh

# we create an instance of SVM and fit out data. We do not scale our
# data since we want to plot the support vectors
C = 1.0  # SVM regularization parameter
svc = svm.SVC(kernel='linear', C=C).fit(X, y)
lin_svc = svm.LinearSVC(C=C, dual = True, loss = 'hinge').fit(X, y)

# create a mesh to plot in
x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1
y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1
xx, yy = np.meshgrid(np.arange(x_min, x_max, h),
                     np.arange(y_min, y_max, h))

# title for the plots
titles = ['SVC with linear kernel',
          'LinearSVC (linear kernel)']

for i, clf in enumerate((svc, lin_svc)):
    # Plot the decision boundary. For that, we will assign a color to each
    # point in the mesh [x_min, m_max]x[y_min, y_max].
    plt.subplot(1, 2, i + 1)
    plt.subplots_adjust(wspace=0.4, hspace=0.4)

    Z = clf.predict(np.c_[xx.ravel(), yy.ravel()])

    # Put the result into a color plot
    Z = Z.reshape(xx.shape)
    plt.contourf(xx, yy, Z, cmap=plt.cm.Paired, alpha=0.8)

    # Plot also the training points
    plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.Paired)
    plt.xlabel('Sepal length')
    plt.ylabel('Sepal width')
    plt.xlim(xx.min(), xx.max())
    plt.ylim(yy.min(), yy.max())
    plt.xticks(())
    plt.yticks(())
    plt.title(titles[i])

plt.show()

結果:前のコードからの出力図

lejlot

数学的な意味では、次のように設定する必要があります。

SVC(kernel='linear', **kwargs) # by default it uses RBF kernel

そして

LinearSVC(loss='hinge', **kwargs) # by default it uses squared hinge loss

簡単に固定することができない他の要素、増加しているintercept_scaling中でLinearSVC、この実施バイアスで(SVCに当てはまらないやSVMに真であるべきである-このように正規化されるように、これはSVMはない) -従って、彼らはだろう決して正確に等しくならない(バイアスない限り= 0)、2つの異なるモデルを想定しているため)

  • SVC: 1/2||w||^2 + C SUM xi_i
  • LinearSVC: 1/2||[w b]||^2 + C SUM xi_i

個人的には、LinearSVCはsklearn開発者の間違いの1つだと思います。このクラスは、単に線形SVMではありません

切片のスケーリングを(に10.0増やした後

SVM

ただし、スケールアップしすぎると、許容範囲と反復回数が重要になるため、失敗します。

要約すると、LinearSVCは線形SVMではないため、必要がない場合は使用しないでください。

この記事はインターネットから収集されたものであり、転載の際にはソースを示してください。

侵害の場合は、連絡してください[email protected]

編集
0

コメントを追加

0

関連記事

分類Dev

scikit-learn TSNE の random_state パラメータとは何ですか?

分類Dev

scikit-learnのSVCとSVMの違いは何ですか?

分類Dev

scikit-learn:SVCとSGDの違いは何ですか?

分類Dev

Scikitでは、パラメーターが必要かどうかを意味するものは何ですか?

分類Dev

scikit-learnとOpenCV(デシジョンツリー)間のパラメーターの同等性

分類Dev

scikit-learnで `coef_`やその他の推定パラメータに安全に割り当てることはできますか?

分類Dev

scikit-learnのclass_weightパラメータはどのように機能しますか?

分類Dev

scikit-learnでのMLPRegressorのハイパーパラメータ最適化

分類Dev

scikit-learnパイプラインでパラメーターをバインドするにはどうすればよいですか?

分類Dev

scikit-learn SVM.SVC()が非常に遅いのはなぜですか?

分類Dev

scikit-learnの正則化パラメーターとSGDClassifierの反復

分類Dev

Scikit-learnのDictVectorizerで利用できるのと同等のCountVectorizerの「制限」メソッドを作成することは可能ですか?

分類Dev

scikit-learn-LinearSVCで少なくとも1つのラベルを強制的に選択する方法

分類Dev

「OneVsRestClassifier」(Scikit-learn)と「BinaryRelevance」(Scikit-multilearn)の違いは何ですか?

分類Dev

SciKit-Learn PythonのKNNモデルで各クラスター内のレコードを識別するにはどうすればよいですか?

分類Dev

SVC、scikit-learnで意味する詳細なログの略語

分類Dev

scikit-multiflow EvaluatePrequentialクラスで、パラメーターn_waitとbatch_sizeの違いは何ですか?

分類Dev

LinearSVC sklearn(scikit-learn)でのCの動作

分類Dev

scikit learnのOneVsRestClassifierとMultiOutputClassifierの違いは何ですか?

分類Dev

メソッド "train_test_split"(scikit Learn)のパラメーター "stratify"

分類Dev

scikit learn documentation in PDF

分類Dev

Scikit-Learnの.fit()メソッドはどのようにデータを.predict()に渡しますか?

分類Dev

scikit-learnのDecisionTreeRegressorでノードのMSEを取得するにはどうすればよいですか?

分類Dev

scikit-learn.predictメソッドのパラメーターとして受け入れられるタイプ

分類Dev

Scikit-learn:「yで最も人口の少ないクラスのメンバーは1人だけです」

分類Dev

Scikit-learn GridSearchCV-grid.fit()を実行するとデータ型エラーが発生するのはなぜですか?

分類Dev

Scikit-Learnまたはパラメータ最適化のための他のPythonツール

分類Dev

scikitのGridSearchCVはどのようにしてk倍に最適なパラメーターを選択することを学習しますか

分類Dev

scikit-learnパイプラインで中間データの状態を取得する

Related 関連記事

  1. 1

    scikit-learn TSNE の random_state パラメータとは何ですか?

  2. 2

    scikit-learnのSVCとSVMの違いは何ですか?

  3. 3

    scikit-learn:SVCとSGDの違いは何ですか?

  4. 4

    Scikitでは、パラメーターが必要かどうかを意味するものは何ですか?

  5. 5

    scikit-learnとOpenCV(デシジョンツリー)間のパラメーターの同等性

  6. 6

    scikit-learnで `coef_`やその他の推定パラメータに安全に割り当てることはできますか?

  7. 7

    scikit-learnのclass_weightパラメータはどのように機能しますか?

  8. 8

    scikit-learnでのMLPRegressorのハイパーパラメータ最適化

  9. 9

    scikit-learnパイプラインでパラメーターをバインドするにはどうすればよいですか?

  10. 10

    scikit-learn SVM.SVC()が非常に遅いのはなぜですか?

  11. 11

    scikit-learnの正則化パラメーターとSGDClassifierの反復

  12. 12

    Scikit-learnのDictVectorizerで利用できるのと同等のCountVectorizerの「制限」メソッドを作成することは可能ですか?

  13. 13

    scikit-learn-LinearSVCで少なくとも1つのラベルを強制的に選択する方法

  14. 14

    「OneVsRestClassifier」(Scikit-learn)と「BinaryRelevance」(Scikit-multilearn)の違いは何ですか?

  15. 15

    SciKit-Learn PythonのKNNモデルで各クラスター内のレコードを識別するにはどうすればよいですか?

  16. 16

    SVC、scikit-learnで意味する詳細なログの略語

  17. 17

    scikit-multiflow EvaluatePrequentialクラスで、パラメーターn_waitとbatch_sizeの違いは何ですか?

  18. 18

    LinearSVC sklearn(scikit-learn)でのCの動作

  19. 19

    scikit learnのOneVsRestClassifierとMultiOutputClassifierの違いは何ですか?

  20. 20

    メソッド "train_test_split"(scikit Learn)のパラメーター "stratify"

  21. 21

    scikit learn documentation in PDF

  22. 22

    Scikit-Learnの.fit()メソッドはどのようにデータを.predict()に渡しますか?

  23. 23

    scikit-learnのDecisionTreeRegressorでノードのMSEを取得するにはどうすればよいですか?

  24. 24

    scikit-learn.predictメソッドのパラメーターとして受け入れられるタイプ

  25. 25

    Scikit-learn:「yで最も人口の少ないクラスのメンバーは1人だけです」

  26. 26

    Scikit-learn GridSearchCV-grid.fit()を実行するとデータ型エラーが発生するのはなぜですか?

  27. 27

    Scikit-Learnまたはパラメータ最適化のための他のPythonツール

  28. 28

    scikitのGridSearchCVはどのようにしてk倍に最適なパラメーターを選択することを学習しますか

  29. 29

    scikit-learnパイプラインで中間データの状態を取得する

ホットタグ

アーカイブ