我有一个较大的数据集(784,932行/项目,27,492个唯一ID)。对于每个项目中的每个ID,我试图创建一个虚拟变量等于1,如果日期之间的差小于60秒。
程式化的数据和代码:
ID <- c(1,1,1,1,1,1,3,3,3,3,3,3)
Item <- c(10,10,10,20,20,20,10,20,10,10,10,20)
Date <- c("19/11/13 18:58:00","19/11/13 18:58:21","19/11/13 20:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 18:58:00","19/11/13 19:58:00")
df <- data.frame(ID, Item, Date)
df <- df[order(ID, Date), ]
df[, "Date"] = lapply(df["Date"],function(x){strptime(x, "%d/%m/%y %H:%M:%S")})
# less than 60 sec difference = 1 (first item set to 999 -> 0)
fnDummy <- function(date) { ifelse(c(999, diff(date))<60, 1, 0) }
library(plyr)
ddply(df, .(ID, Item), transform, Dummy=fnDummy(Date) )
输出:
ID Item Date Dummy
1 1 10 2013-11-19 18:58:00 0
2 1 10 2013-11-19 18:58:21 1
3 1 10 2013-11-19 20:58:00 0
4 1 20 2013-11-19 18:58:00 0
5 1 20 2013-11-19 18:58:00 1
6 1 20 2013-11-19 18:58:00 1
7 3 10 2013-11-19 18:58:00 0
8 3 10 2013-11-19 18:58:00 1
9 3 10 2013-11-19 18:58:00 1
10 3 10 2013-11-19 18:58:00 1
11 3 20 2013-11-19 18:58:00 0
12 3 20 2013-11-19 19:58:00 1
从输出中,您可以看到第一行和第二行具有相同的ID和Item,并且Date之间的差异仅为21秒,因此虚拟对象为1。第二行和第三行也具有相同的ID和Item,但是此处的区别在于日期远大于60秒,因此哑元为0。
我设法获得了想要的输出,但是操作很慢。对于1000行,大约需要40秒(请参见system.time
下面的结果)。这相当于大约。整个数据集需要180分钟的时间(我的计算机用尽了内存,并在此之前崩溃了很长时间)。
user system elapsed
36.485 3.328 39.800
如何使此操作更快?我可以使用完成相同的输出data.table
吗,速度更快吗?
您可以data.table
按照建议使用。您必须将转换POSIXlt
为POSIXct
:
library(data.table)
df$Date <- as.POSIXct(df$Date)
DT <- as.data.table(df)
DT[, dummy_date := fnDummy(Date), by=c('ID', 'Item')]
但是,减慢的很大一部分可能是在ifelse
函数中,因为创建了布尔值,所以您实际上并不需要它:
as.integer(c(FALSE, diff(date) < 60))
本文收集自互联网,转载请注明来源。
如有侵权,请联系 [email protected] 删除。
我来说两句