一些上下文:在R中使用文本分类和大型稀疏矩阵
我一直在使用text2vec
package和来解决文本多类分类问题caret
。该计划text2vec
用于构建文档术语矩阵,修剪词汇表和各种预处理内容,然后尝试使用不同的模型,caret
但是在训练时我无法获得结果,插入符号会引发一些类似于以下内容的错误:
+ Fold02.Rep1: cost=0.25
predictions failed for Fold01.Rep1: cost=0.25 Error in as.vector(data) :
no method for coercing this S4 class to a vector
所有的折叠和重复都会发生这种情况。我认为将产生的文档项矩阵转换text2vec
为向量时会出现问题,因为插入符号需要进行一些计算,但是老实说我不确定,这是此问题的主要原因。
所使用的代码以及部分跳过的内容如下所示。请注意,我caret
提供的是text2vec
返回的文档期限矩阵的直接结果,但我不确定这是否可以。
library(text2vec)
library(caret)
data("movie_review")
train = movie_review[1:4000, ]
test = movie_review[4001:5000, ]
it <- itoken(train$review, preprocess_function = tolower, tokenizer = word_tokenizer)
vocab <- create_vocabulary(it, stopwords = tokenizers::stopwords())
pruned_vocab <- prune_vocabulary(vocab, term_count_min = 10, doc_proportion_max = 0.5, doc_proportion_min = 0.001)
vectorizer <- vocab_vectorizer(pruned_vocab)
it = itoken(train$review, tokenizer = word_tokenizer, ids = train$id)
dtm_train = create_dtm(it, vectorizer)
it = itoken(test$review, tokenizer = word_tokenizer, ids = test$id)
dtm_test = create_dtm(it, vectorizer)
ctrl.svm.1 <- trainControl(method="repeatedcv",
number=10,
repeats=5,
summaryFunction = multiClassSummary,
verboseIter = TRUE)
fit.svm.1 <- train(x = dtm_train, y= as.factor(train$sentiment),
method="svmLinear2",
metric="Accuracy",
trControl = ctrl.svm.1,
scale = FALSE, verbose = TRUE)
如我所说,启动train()函数时出现问题。dtm_train对象属于以下类:
[1] "dgCMatrix"
attr(,"package")
[1] "Matrix"
结构看起来像这样:
str(dtm_train)
> Formal class 'dgCMatrix' [package "Matrix"] with 6 slots
..@ i : int [1:368047] 2582 2995 3879 3233 2118 2416 2468 2471 3044 3669 ...
..@ p : int [1:6566] 0 0 3 4 4 10 10 14 14 22 ...
..@ Dim : int [1:2] 4000 6565
..@ Dimnames:List of 2
.. ..$ : chr [1:4000] "5814_8" "2381_9" "7759_3" "3630_4" ...
.. ..$ : chr [1:6565] "floriane" "lil" "elm" "kolchak" ...
..@ x : num [1:368047] 1 1 1 1 1 1 2 2 1 3 ...
..@ factors : list()
我究竟做错了什么?如果文档中暗示可以插入符,为什么插入符不能使用此类数据?
如果您将S4类dtm_train转换成一个简单的矩阵,则代码将起作用。
fit.svm.1 <- train(x = as.matrix(dtm_train), y= as.factor(train$sentiment),
method="svmLinear2",
metric="Accuracy",
trControl = ctrl.svm.1,
scale = FALSE, verbose = TRUE)
不要忘记对dtm_test做同样的事情,否则预测函数也会抱怨。
pred <- predict(fit.svm.1, newdata = as.matrix(dtm_test)
本文收集自互联网,转载请注明来源。
如有侵权,请联系[email protected] 删除。
我来说两句