R:如何快速对子集的子集进行转换(优化或替代ddply)?

我有一个较大的数据集(784,932行/项目,27,492个唯一ID)。对于每个项目中的每个ID,我试图创建一个虚拟变量等于1,如果日期之间的差小于60秒。

程式化的数据和代码:

ID <- c(1,1,1,1,1,1,3,3,3,3,3,3)
Item <- c(10,10,10,20,20,20,10,20,10,10,10,20)
Date <- c("19/11/13 18:58:00","19/11/13 18:58:21","19/11/13 20:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 19:58:00")
df <- data.frame(ID, Item, Date)
df <- df[order(ID, Date), ]
df[, "Date"] = lapply(df["Date"],function(x){strptime(x, "%d/%m/%y %H:%M:%S")})

# less than 60 sec difference = 1 (first item set to 999 -> 0)
fnDummy <- function(date) { ifelse(c(999, diff(date))<60, 1, 0) }

library(plyr)
ddply(df, .(ID, Item), transform, Dummy=fnDummy(Date) )

输出:

   ID Item                Date Dummy
1   1   10 2013-11-19 18:58:00     0
2   1   10 2013-11-19 18:58:21     1
3   1   10 2013-11-19 20:58:00     0
4   1   20 2013-11-19 18:58:00     0
5   1   20 2013-11-19 18:58:00     1
6   1   20 2013-11-19 18:58:00     1
7   3   10 2013-11-19 18:58:00     0
8   3   10 2013-11-19 18:58:00     1
9   3   10 2013-11-19 18:58:00     1
10  3   10 2013-11-19 18:58:00     1
11  3   20 2013-11-19 18:58:00     0
12  3   20 2013-11-19 19:58:00     1

从输出中,您可以看到第一行和第二行具有相同的ID和Item,并且Date之间的差异仅为21秒,因此虚拟对象为1。第二行和第三行也具有相同的ID和Item,但是此处的区别在于日期远大于60秒,因此哑元为0。

我设法获得了想要的输出,但是操作很慢。对于1000行,大约需要40秒(请参见system.time下面的结果)。这相当于大约。整个数据集需要180分钟的时间(我的计算机用尽了内存,并在此之前崩溃了很长时间)。

   user  system elapsed 
 36.485   3.328  39.800 

如何使此操作更快?我可以使用完成相同的输出data.table吗,速度更快吗?

贾斯汀

您可以data.table按照建议使用您必须将转换POSIXltPOSIXct

library(data.table)
df$Date <- as.POSIXct(df$Date)
DT <- as.data.table(df)

DT[, dummy_date := fnDummy(Date), by=c('ID', 'Item')]

但是,减慢的很大一部分可能是在ifelse函数中,因为创建了布尔值,所以您实际上并不需要它:

as.integer(c(FALSE, diff(date) < 60))

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章