我想将我的数据框（以cpu有效的方式编辑）减少为具有对c3，c4对的唯一值的行，同时保留所有列。换句话说，我想转换我的数据框
> df <- data.frame(c1=seq(7), c2=seq(4, 10), c3=c("A", "B", "B", "C", "B", "A", "A"), c4=c(1, 2, 3, 3, 2, 2, 1))
c1 c2 c3 c4
1 1 4 A 1
2 2 5 B 2
3 3 6 B 3
4 4 7 C 3
5 5 8 B 2
6 6 9 A 2
7 7 10 A 1
到数据框
c1 c2 c3 c4
1 1 4 A 1
2 2 5 B 2
3 3 6 B 3
4 4 7 C 3
6 6 9 A 2
其中c1和c2的值可以是出现在唯一的一对c3，c4上的任何值。同样，所得数据帧的顺序也不重要。
编辑：我的数据框大约有25万行和12列，应该按2列分组–因此，我需要一个CPU效率高的解决方案。
我解决了这个问题
> library(sqldf)
> sqldf("Select * from df Group By c3, c4")
但是为了加速和并行化我的程序，我必须消除对sqldf的调用。
编辑：当前sqldf解决方案的时钟为3.5秒。我认为这是一个体面的时光。问题是我无法并行启动各种查询，因此我正在寻找另一种方法。
> df[duplicated(df, by=c("c3", "c4")),]
[1] c1 c2 c3 c4
<0 rows> (or 0-length row.names)
选择重复的行，而不选择仅c3和c4列重复的行。
> aggregate(df, by=list(df$c3, df$c4))
Error in match.fun(FUN) : argument "FUN" is missing, with no default
集合要求将函数应用于所有具有相同c3和c4值的行
> library(data.table)
> dt <- data.table(df)
> dt[,list(c1, c2) ,by=list(c3, c4)]
c3 c4 c1 c2
1: A 1 1 4
2: A 1 7 10
3: B 2 2 5
4: B 2 5 8
5: B 3 3 6
6: C 3 4 7
7: A 2 6 9
不踢出具有c3和c4的非唯一值的行，而
> dt[ ,length(c1), by=list(c3, c4)]
c3 c4 V1
1: A 1 2
2: B 2 2
3: B 3 1
4: C 3 1
5: A 2 1
确实舍弃了c1和c2的值并将它们减小为所传递函数指定的一维length。
这是一个data.table解决方案。
library(data.table)
setkey(setDT(df),c3,c4) # convert df to a data.table and set the keys.
df[,.SD[1],by=list(c3,c4)]
# c3 c4 c1 c2
# 1: A 1 1 4
# 2: A 2 6 9
# 3: B 2 2 5
# 4: B 3 3 6
# 5: C 3 4 7
您建议的SQL似乎提取了具有（c3，c4）给定组合的第一行-我认为这就是您想要的。
编辑：对OP的评论的回应。
您引用的结果看起来确实很奇怪。下面的基准测试在具有12列和2.5e5行的数据集上显示，data.table解决方案在不设置键的情况下运行约25毫秒，在设置键的情况下运行约7毫秒。
set.seed(1) # for reproducible example
df <- data.frame(c3=sample(LETTERS[1:10],2.5e5,replace=TRUE),
c4=sample(1:10,2.5e5,replace=TRUE),
matrix(sample(1:10,2.5e6,replace=TRUE),nc=10))
library(data.table)
DT.1 <- as.data.table(df)
DT.2 <- as.data.table(df)
setkey(DT.2,c3,c4)
f.nokeys <- function() DT.1[,.SD[1],by=list(c3,c4)]
f.keys <- function() DT.2[,.SD[1],by=list(c3,c4)]
library(microbenchmark)
microbenchmark(f.nokeys(),f.keys(),times=10)
# Unit: milliseconds
# expr min lq median uq max neval
# f.nokeys() 23.73651 24.193129 24.609179 25.747767 26.181288 10
# f.keys() 5.93546 6.207299 6.395041 6.733803 6.900224 10
您的数据集与该数据集有何不同？
本文收集自互联网，转载请注明来源。
如有侵权，请联系[email protected] 删除。
我来说两句