data.table

1.生成一个data.table对象

生成一个data.table对象,记为DT.

library(data.table)
:],V3=round(rnorm(),),V4=:)
DT
##     V1 V2      V3 V4
##  :    A  
##  :    B -
##  :    C -
##  :    A -
##  :    B  
##  :    C -
##  :    A -
##  :    B -
##  :    C  
## :    A -
## :    B -
## :    C -

2.通过i来筛选数据集的行

通过数字来筛选数据集的行

选取第三行到第五行

DT[:,] #or DT[:]
##    V1 V2      V3 V4
## :    C -
## :    A -
## :    B  

基于使用快速自动索引条件,使用列名选择行i

在V2这一列,选择所有值为A的行

DT[V2 == "A"]
##    V1 V2      V3 V4
## :    A  
## :    A -
## :    A -
## :    A -

选择多个值

选择在这一列中包含value1或value2的所有值

DT[column %in% c("value1","value2")]

选择V2这列中包含值A或C的所有行

DT[V2 %in% c("A","C")]
##    V1 V2      V3 V4
## :    A  
## :    C -
## :    A -
## :    C -
## :    A -
## :    C  
## :    A -
## :    C -

3.通过j来操作列

通过j来选择一列

DT[,V2]
##  [] "A" "B" "C" "A" "B" "C" "A" "B" "C" "A" "B" "C"

注意到V2这一列是以向量的形式返回的

通过j来选择多列

DT[,.(V2,V3)]

##     V2      V3
##  :  A  :  B -:  C -:  A -:  B  :  C -:  A -:  B -:  C  :  A -:  B -:  C -0.7460

V2与V3这两列以data.table的形式返回

.()为list()的一个别名。如果使用.(),返回的为一个data.table对象。如果不使用.(),结果为返回一个向量。

在j上调用函数

DT[,sum(V1)]

## [] 

以向量的形式返回V1列中所有元素的总和

在多列上进行计算

以data.table的形式,返回V1这列的所有元素之和与V3这列的标准差

DT[,.(sum(V1),sd(V3))]

##    V1        V2
## :  0.4546055

指定计算列的列名

类似上例,但有一个新的列名

DT[,.(Aggregate = sum(V1), Sd.V3 = sd(V3))]

##    Aggregate     Sd.V3
## :         0.4546055

若列的长度不一,则会循环对齐

选择V1这一列,并计算V3这列的标准差,将会得到一个标准差的值并循环补齐

DT[,.(V1, Sd.V3 = sd(V3))]

##     V1     Sd.V3
##  :   :   :   :   :   :   :   :   :   :   :   :   0.4546055

多个表达式可以包裹在花括号中

输出V2这一列并绘制V3这一列

DT[,{print(V2) 
  plot(V3) 
  NULL}]

##  [] "A" "B" "C" "A" "B" "C" "A" "B" "C" "A" "B" "C"

## NULL

4.根据分组来操作j

根据分组来操作j

对V1中的每一类来计算V4列的和

DT[,.(V4.Sum = sum(V4)),by=V1]

##    V1 V4.Sum
## :       
## :       

通过使用.()控制多个列来操作j

与上例类似,但每一个分组包含V1和V2两列

DT[,.(V4.Sum = sum(V4)),by=.(V1,V2)]

##    V1 V2 V4.Sum
## :    A      
## :    B     
## :    C     
## :    A     
## :    B     
## :    C     

在by中调用函数

以sign(V1-1)为分组,计算各个分组中V4列的和:

DT[,.(V4.Sum = sum(V4)),by=sign(V1-)]

##    sign V4.Sum
## :         
## :         

通过指定i行子集的分组进行操作

在前5行数据集中,通过V1列的分组来计算V4列的总和:

DT[:,.(V4.Sum = sum(V4)),by=V1]

##    V1 V4.Sum
## :        
## :        

使用函数.N来得到每个类别的总观测数

在V1列中计算每个分组的观测数

DT[,.N,by=V1]

##    V1 N
## :   
## :   

5.使用:=引用来添加或更新一列

在一行中使用:=引用来添加或更新列.

注意: 额外的指定 (DT <- DT[…])是多余的 使用:=来更新V1列:

DT[, V1 := round(exp(V1),)]

这段代码没有显式的返回结果,而V1列从[1] 1 2 1 2 … 变成了 [1] 2.72 7.39 2.72 7.39 …

使用:=引用来添加或更新多列

使用:=更新V1列和V2列:

DT[, c(), LETTERS[:])]

同样没有显式的返回结果,V1列的结果与上相同,V2列从[1] “A” “B” “C” “A” “B” “C” … 变成: [1] “D” “E” “F” “D” “E” “F” …

使用函数:=

上例的另一种写法,但会在书写时更易并齐。而且,当添加[]时,结果会返回在屏幕中

DT[, ),V2 = LETTERS[:])][]

##          V1 V2      V3 V4
##  :   D  
##  :     Inf  E -
##  :   F -
##  :     Inf  D -
##  :   E  
##  :     Inf  F -
##  :   D -
##  :     Inf  E -
##  :   F  
## :     Inf  D -
## :   E -
## :     Inf  F -

与上例变化相同,但是由于在语句最后添加了[],这一结果会返回至屏幕

通过使用:=来移除一列

移除V1列

DT[, V1 := NULL]

无显式的返回结果,但V1列变为NULL

通过使用:=来移除多列

移除V1列与V2列

DT[, c("V1","V2") := NULL]

## Warning in `[.data.table`(DT, , `:=`(c("V1", "V2"), NULL)): Adding new
## column 'V1' then assigning NULL (deleting it).

无显式的返回结果,但V1列与V2列变为NULL

将一个包含列名的变量用小括号包裹起来,变量所传递的内容将会被删除

注意:列名为Cols.chosen的列将会被删除,这里不是删除“V1”,“V2”列

Cols.chosen = c("V1","V2")
DT[, Cols.chosen := NULL]

## Warning in `[.data.table`(DT, , `:=`(Cols.chosen, NULL)): Adding new column
## 'Cols.chosen' then assigning NULL (deleting it).

无显式的返回结果,列名为Cols.chosen的列将会被删除

删除指定变量Cols.chosen包含的V1列和V2列

DT[, (Cols.chosen) := NULL]

## Warning in `[.data.table`(DT, , `:=`((Cols.chosen), NULL)): Adding new
## column 'V1' then assigning NULL (deleting it).

## Warning in `[.data.table`(DT, , `:=`((Cols.chosen), NULL)): Adding new
## column 'V2' then assigning NULL (deleting it).

无显式的返回结果,列名为V1和V2的列变为NULL?

索引与键值

使用setkey()函数设置键值

setkey()函数可以在数据集DT上设置键值。当我们设置好key后,data.table会将数据按照key来排序。 在V2列上设置一个键值

:],V3=round(rnorm(),),V4=:)
DT

##     V1 V2      V3 V4
##  :    A  
##  :    B -
##  :    C -
##  :    A -
##  :    B  
##  :    C -
##  :    A -
##  :    B -
##  :    C  
## :    A -
## :    B -
## :    C -

setkey(DT,V2)

无显示返回结果

使用键值来选择行

使用键值可以更加有效地选择行,由于已将V2设置了键值,将会返回该列中所有包含变量值A的行

DT[:    A  
## :    A -
## :    A -
## :    A -

返回键值所在列(V2列)包含变量值A或变量值C的所有行

DT[c(:    A  
## :    A -
## :    A -
## :    A -
## :    C -
## :    C -
## :    C  
## :    C -

mult参数

mult参数是用来控制i匹配到的哪一行的返回结果默认情况下会返回该分组的所有元素

返回匹配到键值所在列(V2列)所有行中的第一行

DT[:    A 

返回匹配到键值所在列(V2列)所有行中的最后一行

DT[:    A -

nomatch参数

nomatch参数用于控制,当在i中没有到匹配数据的返回结果,默认为NA,也能设定为0。0意味着对于没有匹配到的行将不会返回。 返回匹配到键值所在列(V2列)所有包含变量值A或D的所有行:

DT[c(:    A  
## :    A -
## :    A -
## :    A -
## : NA  D      NA NA

变量值A匹配到了,而变量值D没有,故返回NA。

返回匹配到键值所在列(V2列)所有包含值A或D的所有行:

DT[c(]

##    V1 V2      V3 V4
## :    A  
## :    A -
## :    A -
## :    A -

因为nomatch参数,值D没有匹配到故不返回。

by=.EACHI参数

by=.EACHI允许按每一个已知i的子集分组,在使用by=.EACHI时需要设置键值

返回键值(V2列)中包含A或C的所有行中,V4列的总和。

DT[c(] 

返回键值所在列(V2列)中包含A的行在V4列总和与包含C的行在V4列的总和。

DT[c(:  A 
## :  C 

使用setkey()设置一个多列主键

任意列都能使用setkey()来设置主键,这种方式可以选择2个列作为一个主键。以下是一个等值连接V1列的每个组先根据V1排序,再根据V2排序。

setkey(DT,V1,V2)

无显式返回结果

选择键值1(V1列)为2且键值2(V2列)为C的行。

DT[.(,:    C -
## :    C -

选择键值1(V1列)为2且键值2(V2列)为A或C的行

DT[.(,c(:    A -
## :    A -
## :    C -
## :    C -

6.data.table高级操作

.N

.N可以用来表示行的数量或者最后一行

在i处使用:

DT[.N-]

##    V1 V2      V3 V4
## :    C -

返回每一列的倒数第二行 在j处使用:

DT[,.N-]

## [] 

返回倒数第二行所在的行数。 ### .()

.()是list()的一个别名,他们在data.table中是等价的。当只有一个元素的位置j或者by中,是不需要.()的。

在j中使用:

DT[,.(V2,V3)] #or DT[,list(V2,V3)]

##     V2      V3
##  :  A  :  A -:  B  :  B -:  C -:  C  :  A -:  A -:  B -:  B -:  C -:  C -0.7460

在by中使用:

DT[, mean(V3),by=.(V1,V2)]

##    V1 V2       V1
## :    A -:    B -:    C -:    A -:    B -:    C -0.72465

以V1,V2为分组,对V3求均值 ### .SD参数

.SD是一个data.table,他包含了各个分组,除了by中的变量的所有元素。.SD只能在位置j中使用:

DT[, print(.SD), by=V2]

##    V1      V3 V4
## :    
## :   -
## :   -
## :   -
##    V1      V3 V4
## :    
## :   -
## :   -
## :   -
##    V1      V3 V4
## :   -
## :    
## :   -
## :   -

## Empty data.table ( rows) of  col: V2

以V2为分组,选择每组的第一和最后一列:

DT[,.SD[c(,.N)], by=V2]

##    V2 V1      V3 V4
## :  A    
## :  A   -
## :  B    
## :  B   -
## :  C   -
## :  C   -

以V2为分组,计算.SD中所有元素的和:

DT[, lapply(.SD, sum), by=V2]

##    V2 V1     V3 V4
## :  A   -
## :  B   -
## :  C   -

.SDcols

.SDcols常于.SD用在一起,他可以指定.SD中所包含的列,也就是对.SD取子集:

DT[, lapply(.SD,sum), by=V2,.SDcols = c(:  A -
## :  B -
## :  C -

.SDcols也可以是一个函数的返回值:

DT[, lapply(.SD,sum), by=V2,.SDcols = paste0(:)]

##    V2     V3 V4
## :  A -
## :  B -
## :  C -

结果与上一个是相同的。

7.串联操作可以把表达式聚合在一起并避免多余的中间变量

把多个操作串联起来,这等价于SQL中的having

:],V3=round(rnorm(),),V4=:)
DT<-DT[, .(V4.Sum = sum(V4)),by=V1]
DT[V4.Sum > ] #no chaining

##    V1 V4.Sum
## :       
## :       

这个是不使用串联的方法,先以V1为分组,对V4求和,然后再把分组总和大于35的取出来。 使用串联的方法:

DT <- data.table(V1=c(:],
                 V3=round(rnorm(),),
                 V4=:)
DT[, .(V4.Sum = sum(V4)),by=V1][V4.Sum >  ]

##    V1 V4.Sum
## :       
## :       

分组求和之后对V1进行排序:

DT[, .(V4.Sum = sum(V4)),by=V1][order(-V1)]

##    V1 V4.Sum
## :       
## :       

8.使用set()家族

set()

set()通常用来更新给定的行和列的值,要注意的是,他不能跟by结合使用。

DT <- data.table(V1=c(:],
                 V3=round(rnorm(),),
                 V4=:)
rows = list(:,:)
cols = :
:    A  
##  :    B -
##  : NA  C -
##  : NA  A  
##  :   NA  
##  :   NA -
##  :    A -
##  :    B  
##  :    C  
## :    A -
## :    B -
## :    C  

以上程序把给定的一组行和列都设置为了NA ### setname()

与set()同理,setname()可以修改给定的列名和行名,以下程序是

# 把名字为:     A  
##  :     B -
##  :  NA  C -
##  :  NA  A  
##  :    NA  
##  :    NA -
##  :     A -
##  :     B  
##  :     C  
## :     A -
## :     B -
## :     C  

# 把:            A      
##  :            B     -
##  :  NA         C     -
##  :  NA         A      
##  :           NA      
##  :           NA     -
##  :            A     -
##  :            B      
##  :            C      
## :            A     -
## :            B     -
## :            C      

setcolorder()

setcolorder()可以用来修改列的顺序。

DT <- data.table(V1=c(:],
                 V3=round(rnorm(),),
                 V4=:)
setcolorder(DT,c(:  A      :  B      :  C      :  A     -:  B      :  C      :  A      :  B     -:  C      :  A     :  B     :  C    -0.2730

原文来自DataCamp课程的data.table官方速查表 原文链接:https://www.datacamp.com/community/tutorials/data-table-cheat-sheet

本文转载自雪晴数据网(有修改):http://www.xueqing.tv/cms/article/246


转载请注明本文链接:http://www.cnblogs.com/homewch/p/5683589.html

//

//

data.table包的更多相关文章

  1. R语言数据分析利器data.table包 —— 数据框结构处理精讲

        R语言data.table包是自带包data.frame的升级版,用于数据框格式数据的处理,最大的特点快.包括两个方面,一方面是写的快,代码简洁,只要一行命令就可以完成诸多任务,另一方面是处理 ...

  2. data.table包简介

    data.table包主要特色是:设置keys.快速分组和滚得时序的快速合并.data.table主要通过二元检索法大大提高数据操作的效率,同时它也兼容适用于data.frame的向量检索法. req ...

  3. R︱高效数据操作——data.table包(实战心得、dplyr对比、key灵活用法、数据合并)

    每每以为攀得众山小,可.每每又切实来到起点,大牛们,缓缓脚步来俺笔记葩分享一下吧,please~ --------------------------- 由于业务中接触的数据量很大,于是不得不转战开始 ...

  4. 使用 data.table 包操作数据

    在第一节中,我们回顾了许多用于操作数据框的内置函数.然后,了解了 sqldf 扩展包,它使得简单的数据查询和统计变得更简便.然而,两种方法都有各自的局限性.使用内置函数可能既繁琐又缓慢,而相对于各式各 ...

  5. R语言data.table包fread读取数据

    R语言处理大规模数据速度不算快,通过安装其他包比如data.table可以提升读取处理速度. 案例,分别用read.csv和data.table包的fread函数读取一个1.67万行.230列的表格数 ...

  6. R语言数据分析利器data.table包—数据框结构处理精讲

    R语言数据分析利器data.table包-数据框结构处理精讲 R语言data.table包是自带包data.frame的升级版,用于数据框格式数据的处理,最大的特点快.包括两个方面,一方面是写的快,代 ...

  7. data.table包使用应该注意的一些细节

    fread中nThread 参数的使用   注意默认nThread=getDTthreads(),即使用所有能用的核心,但并不是核心用的越多越好,本人亲自测试的情况下,其实单核具有较强的性能,只有在数 ...

  8. R读取大数据data.table包之fread

    >library(data.table)>data=fread("10000000.txt")>Read 9999999 rows and 71 (of 71) ...

  9. R语言学习笔记(十七):data.table包中melt与dcast函数的使用

    melt函数可以将宽数据转化为长数据 dcast函数可以将长数据转化为宽数据 > DT = fread("melt_default.csv") > DT family_ ...

随机推荐

  1. Redis内存管理(二)

    上一遍详细的写明了Redis为内存管理所做的初始化工作,这篇文章写具体的函数实现. 1.zmalloc_size,返回内存池大小函数,因为库不同,所以这个函数在内部有很多的宏定义,通过具体使用的库来确 ...

  2. 两个viewport的故事(第二部分)

    原文:http://www.quirksmode.org/mobile/viewports2.html 在这个迷你系列的文章里边我将会解释viewport,以及许多重要元素的宽度是如何工作的,比如&l ...

  3. mysql的事务处理

    事务用于保证数据的一致性,它由一组相关的DML语句组成,该组的DML语句要么全部成功,要么全部失败. 示例: 银行账单 $mysqli=new mysqli("localhost" ...

  4. python中获取当前日期在当月是第几天

  5. stat file 查看文件的 最新的被访问时间 最近的修改时间 最近的状态改变时间

    [root@NB ~]# stat /media/6FE5-D831/git-data/IT-DOC/web收藏.txt File: `/media/6FE5-D831/git-data/IT-DOC ...

  6. 微软MSMQ消息队列的使用

    首先在windows系统中安装MSMQ 一.MSMQ交互 开发基于消息的应用程序从队列开始.MSMQ包含四种队列类型: 外发队列:消息发送到目的地之前,用它来临时存储消息. 公共队列:在主动目录中公布 ...

  7. python列表分组的技巧

    今天项目上需要到的. 如,将并行部署的机器分批次. 一次十台机器,如果分3次并行部署,则第一次123,第二次456,第三次789,第四次10. #coding=utf-8 a=[1,2,3,4,5,6 ...

  8. [LeetCode] Happy Number

    Happy Number Total Accepted: 35195 Total Submissions: 106936 Difficulty: Easy Write an algorithm to ...

  9. LSM-Tree (BigTable 的理论模型)(转)

    Google的BigTable架构在分布式结构化存储方面大名鼎鼎,其中的MergeDump模型在读写之间找到了一个较好的平衡点,很好的解决了web scale数据的读写问题. MergeDump的理论 ...

  10. Angular JS [Draft]

    AngularJS应用是完全运行在客户端的应用.没有后端的支持,我们只能展示随页面一起加载进来的数据.AngularJS提供了几种方式从服务器端获取数据. $http服务 $http 封装了浏览器原生 ...