data.table包
data.table
1.生成一个data.table对象
生成一个data.table对象,记为DT.
library(data.table) :],V3=round(rnorm(),),V4=:) DT
## V1 V2 V3 V4 ## : A ## : B - ## : C - ## : A - ## : B ## : C - ## : A - ## : B - ## : C ## : A - ## : B - ## : C -
2.通过i来筛选数据集的行
通过数字来筛选数据集的行
选取第三行到第五行
DT[:,] #or DT[:]
## V1 V2 V3 V4 ## : C - ## : A - ## : B
基于使用快速自动索引条件,使用列名选择行i
在V2这一列,选择所有值为A的行
DT[V2 == "A"]
## V1 V2 V3 V4 ## : A ## : A - ## : A - ## : A -
选择多个值
选择在这一列中包含value1或value2的所有值
DT[column %in% c("value1","value2")]
选择V2这列中包含值A或C的所有行
DT[V2 %in% c("A","C")]
## V1 V2 V3 V4 ## : A ## : C - ## : A - ## : C - ## : A - ## : C ## : A - ## : C -
3.通过j来操作列
通过j来选择一列
DT[,V2] ## [] "A" "B" "C" "A" "B" "C" "A" "B" "C" "A" "B" "C"
注意到V2这一列是以向量的形式返回的
通过j来选择多列
DT[,.(V2,V3)] ## V2 V3 ## : A : B -: C -: A -: B : C -: A -: B -: C : A -: B -: C -0.7460
V2与V3这两列以data.table的形式返回
.()为list()的一个别名。如果使用.(),返回的为一个data.table对象。如果不使用.(),结果为返回一个向量。
在j上调用函数
DT[,sum(V1)] ## []
以向量的形式返回V1列中所有元素的总和
在多列上进行计算
以data.table的形式,返回V1这列的所有元素之和与V3这列的标准差
DT[,.(sum(V1),sd(V3))] ## V1 V2 ## : 0.4546055
指定计算列的列名
类似上例,但有一个新的列名
DT[,.(Aggregate = sum(V1), Sd.V3 = sd(V3))] ## Aggregate Sd.V3 ## : 0.4546055
若列的长度不一,则会循环对齐
选择V1这一列,并计算V3这列的标准差,将会得到一个标准差的值并循环补齐
DT[,.(V1, Sd.V3 = sd(V3))] ## V1 Sd.V3 ## : : : : : : : : : : : : 0.4546055
多个表达式可以包裹在花括号中
输出V2这一列并绘制V3这一列
DT[,{print(V2) plot(V3) NULL}] ## [] "A" "B" "C" "A" "B" "C" "A" "B" "C" "A" "B" "C"
## NULL
4.根据分组来操作j
根据分组来操作j
对V1中的每一类来计算V4列的和
DT[,.(V4.Sum = sum(V4)),by=V1] ## V1 V4.Sum ## : ## :
通过使用.()控制多个列来操作j
与上例类似,但每一个分组包含V1和V2两列
DT[,.(V4.Sum = sum(V4)),by=.(V1,V2)] ## V1 V2 V4.Sum ## : A ## : B ## : C ## : A ## : B ## : C
在by中调用函数
以sign(V1-1)为分组,计算各个分组中V4列的和:
DT[,.(V4.Sum = sum(V4)),by=sign(V1-)] ## sign V4.Sum ## : ## :
通过指定i行子集的分组进行操作
在前5行数据集中,通过V1列的分组来计算V4列的总和:
DT[:,.(V4.Sum = sum(V4)),by=V1] ## V1 V4.Sum ## : ## :
使用函数.N来得到每个类别的总观测数
在V1列中计算每个分组的观测数
DT[,.N,by=V1] ## V1 N ## : ## :
5.使用:=引用来添加或更新一列
在一行中使用:=引用来添加或更新列.
注意: 额外的指定 (DT <- DT[…])是多余的 使用:=来更新V1列:
DT[, V1 := round(exp(V1),)]
这段代码没有显式的返回结果,而V1列从[1] 1 2 1 2 … 变成了 [1] 2.72 7.39 2.72 7.39 …
使用:=引用来添加或更新多列
使用:=更新V1列和V2列:
DT[, c(), LETTERS[:])]
同样没有显式的返回结果,V1列的结果与上相同,V2列从[1] “A” “B” “C” “A” “B” “C” … 变成: [1] “D” “E” “F” “D” “E” “F” …
使用函数:=
上例的另一种写法,但会在书写时更易并齐。而且,当添加[]时,结果会返回在屏幕中
DT[, ),V2 = LETTERS[:])][] ## V1 V2 V3 V4 ## : D ## : Inf E - ## : F - ## : Inf D - ## : E ## : Inf F - ## : D - ## : Inf E - ## : F ## : Inf D - ## : E - ## : Inf F -
与上例变化相同,但是由于在语句最后添加了[],这一结果会返回至屏幕
通过使用:=来移除一列
移除V1列
DT[, V1 := NULL]
无显式的返回结果,但V1列变为NULL
通过使用:=来移除多列
移除V1列与V2列
DT[, c("V1","V2") := NULL] ## Warning in `[.data.table`(DT, , `:=`(c("V1", "V2"), NULL)): Adding new ## column 'V1' then assigning NULL (deleting it).
无显式的返回结果,但V1列与V2列变为NULL
将一个包含列名的变量用小括号包裹起来,变量所传递的内容将会被删除
注意:列名为Cols.chosen的列将会被删除,这里不是删除“V1”,“V2”列
Cols.chosen = c("V1","V2") DT[, Cols.chosen := NULL] ## Warning in `[.data.table`(DT, , `:=`(Cols.chosen, NULL)): Adding new column ## 'Cols.chosen' then assigning NULL (deleting it).
无显式的返回结果,列名为Cols.chosen的列将会被删除
删除指定变量Cols.chosen包含的V1列和V2列
DT[, (Cols.chosen) := NULL] ## Warning in `[.data.table`(DT, , `:=`((Cols.chosen), NULL)): Adding new ## column 'V1' then assigning NULL (deleting it). ## Warning in `[.data.table`(DT, , `:=`((Cols.chosen), NULL)): Adding new ## column 'V2' then assigning NULL (deleting it).
无显式的返回结果,列名为V1和V2的列变为NULL?
索引与键值
使用setkey()函数设置键值
setkey()函数可以在数据集DT上设置键值。当我们设置好key后,data.table会将数据按照key来排序。 在V2列上设置一个键值
:],V3=round(rnorm(),),V4=:) DT ## V1 V2 V3 V4 ## : A ## : B - ## : C - ## : A - ## : B ## : C - ## : A - ## : B - ## : C ## : A - ## : B - ## : C - setkey(DT,V2)
无显示返回结果
使用键值来选择行
使用键值可以更加有效地选择行,由于已将V2设置了键值,将会返回该列中所有包含变量值A的行
DT[: A ## : A - ## : A - ## : A -
返回键值所在列(V2列)包含变量值A或变量值C的所有行
DT[c(: A ## : A - ## : A - ## : A - ## : C - ## : C - ## : C ## : C -
mult参数
mult参数是用来控制i匹配到的哪一行的返回结果默认情况下会返回该分组的所有元素
返回匹配到键值所在列(V2列)所有行中的第一行
DT[: A
返回匹配到键值所在列(V2列)所有行中的最后一行
DT[: A -
nomatch参数
nomatch参数用于控制,当在i中没有到匹配数据的返回结果,默认为NA,也能设定为0。0意味着对于没有匹配到的行将不会返回。 返回匹配到键值所在列(V2列)所有包含变量值A或D的所有行:
DT[c(: A ## : A - ## : A - ## : A - ## : NA D NA NA
变量值A匹配到了,而变量值D没有,故返回NA。
返回匹配到键值所在列(V2列)所有包含值A或D的所有行:
DT[c(] ## V1 V2 V3 V4 ## : A ## : A - ## : A - ## : A -
因为nomatch参数,值D没有匹配到故不返回。
by=.EACHI参数
by=.EACHI允许按每一个已知i的子集分组,在使用by=.EACHI时需要设置键值
返回键值(V2列)中包含A或C的所有行中,V4列的总和。
DT[c(]
返回键值所在列(V2列)中包含A的行在V4列总和与包含C的行在V4列的总和。
DT[c(: A ## : C
使用setkey()设置一个多列主键
任意列都能使用setkey()来设置主键,这种方式可以选择2个列作为一个主键。以下是一个等值连接V1列的每个组先根据V1排序,再根据V2排序。
setkey(DT,V1,V2)
无显式返回结果
选择键值1(V1列)为2且键值2(V2列)为C的行。
DT[.(,: C - ## : C -
选择键值1(V1列)为2且键值2(V2列)为A或C的行
DT[.(,c(: A - ## : A - ## : C - ## : C -
6.data.table高级操作
.N
.N可以用来表示行的数量或者最后一行
在i处使用:
DT[.N-] ## V1 V2 V3 V4 ## : C -
返回每一列的倒数第二行 在j处使用:
DT[,.N-] ## []
返回倒数第二行所在的行数。 ### .()
.()是list()的一个别名,他们在data.table中是等价的。当只有一个元素的位置j或者by中,是不需要.()的。
在j中使用:
DT[,.(V2,V3)] #or DT[,list(V2,V3)] ## V2 V3 ## : A : A -: B : B -: C -: C : A -: A -: B -: B -: C -: C -0.7460
在by中使用:
DT[, mean(V3),by=.(V1,V2)] ## V1 V2 V1 ## : A -: B -: C -: A -: B -: C -0.72465
以V1,V2为分组,对V3求均值 ### .SD参数
.SD是一个data.table,他包含了各个分组,除了by中的变量的所有元素。.SD只能在位置j中使用:
DT[, print(.SD), by=V2] ## V1 V3 V4 ## : ## : - ## : - ## : - ## V1 V3 V4 ## : ## : - ## : - ## : - ## V1 V3 V4 ## : - ## : ## : - ## : - ## Empty data.table ( rows) of col: V2
以V2为分组,选择每组的第一和最后一列:
DT[,.SD[c(,.N)], by=V2] ## V2 V1 V3 V4 ## : A ## : A - ## : B ## : B - ## : C - ## : C -
以V2为分组,计算.SD中所有元素的和:
DT[, lapply(.SD, sum), by=V2] ## V2 V1 V3 V4 ## : A - ## : B - ## : C -
.SDcols
.SDcols常于.SD用在一起,他可以指定.SD中所包含的列,也就是对.SD取子集:
DT[, lapply(.SD,sum), by=V2,.SDcols = c(: A - ## : B - ## : C -
.SDcols也可以是一个函数的返回值:
DT[, lapply(.SD,sum), by=V2,.SDcols = paste0(:)] ## V2 V3 V4 ## : A - ## : B - ## : C -
结果与上一个是相同的。
7.串联操作可以把表达式聚合在一起并避免多余的中间变量
把多个操作串联起来,这等价于SQL中的having
:],V3=round(rnorm(),),V4=:) DT<-DT[, .(V4.Sum = sum(V4)),by=V1] DT[V4.Sum > ] #no chaining ## V1 V4.Sum ## : ## :
这个是不使用串联的方法,先以V1为分组,对V4求和,然后再把分组总和大于35的取出来。 使用串联的方法:
DT <- data.table(V1=c(:], V3=round(rnorm(),), V4=:) DT[, .(V4.Sum = sum(V4)),by=V1][V4.Sum > ] ## V1 V4.Sum ## : ## :
分组求和之后对V1进行排序:
DT[, .(V4.Sum = sum(V4)),by=V1][order(-V1)] ## V1 V4.Sum ## : ## :
8.使用set()家族
set()
set()通常用来更新给定的行和列的值,要注意的是,他不能跟by结合使用。
DT <- data.table(V1=c(:], V3=round(rnorm(),), V4=:) rows = list(:,:) cols = : : A ## : B - ## : NA C - ## : NA A ## : NA ## : NA - ## : A - ## : B ## : C ## : A - ## : B - ## : C
以上程序把给定的一组行和列都设置为了NA ### setname()
与set()同理,setname()可以修改给定的列名和行名,以下程序是
# 把名字为: A ## : B - ## : NA C - ## : NA A ## : NA ## : NA - ## : A - ## : B ## : C ## : A - ## : B - ## : C # 把: A ## : B - ## : NA C - ## : NA A ## : NA ## : NA - ## : A - ## : B ## : C ## : A - ## : B - ## : C
setcolorder()
setcolorder()可以用来修改列的顺序。
DT <- data.table(V1=c(:], V3=round(rnorm(),), V4=:) setcolorder(DT,c(: A : B : C : A -: B : C : A : B -: C : A : B : C -0.2730
原文来自DataCamp课程的data.table官方速查表 原文链接:https://www.datacamp.com/community/tutorials/data-table-cheat-sheet
本文转载自雪晴数据网(有修改):http://www.xueqing.tv/cms/article/246
//
//
data.table包的更多相关文章
- R语言数据分析利器data.table包 —— 数据框结构处理精讲
R语言data.table包是自带包data.frame的升级版,用于数据框格式数据的处理,最大的特点快.包括两个方面,一方面是写的快,代码简洁,只要一行命令就可以完成诸多任务,另一方面是处理 ...
- data.table包简介
data.table包主要特色是:设置keys.快速分组和滚得时序的快速合并.data.table主要通过二元检索法大大提高数据操作的效率,同时它也兼容适用于data.frame的向量检索法. req ...
- R︱高效数据操作——data.table包(实战心得、dplyr对比、key灵活用法、数据合并)
每每以为攀得众山小,可.每每又切实来到起点,大牛们,缓缓脚步来俺笔记葩分享一下吧,please~ --------------------------- 由于业务中接触的数据量很大,于是不得不转战开始 ...
- 使用 data.table 包操作数据
在第一节中,我们回顾了许多用于操作数据框的内置函数.然后,了解了 sqldf 扩展包,它使得简单的数据查询和统计变得更简便.然而,两种方法都有各自的局限性.使用内置函数可能既繁琐又缓慢,而相对于各式各 ...
- R语言data.table包fread读取数据
R语言处理大规模数据速度不算快,通过安装其他包比如data.table可以提升读取处理速度. 案例,分别用read.csv和data.table包的fread函数读取一个1.67万行.230列的表格数 ...
- R语言数据分析利器data.table包—数据框结构处理精讲
R语言数据分析利器data.table包-数据框结构处理精讲 R语言data.table包是自带包data.frame的升级版,用于数据框格式数据的处理,最大的特点快.包括两个方面,一方面是写的快,代 ...
- data.table包使用应该注意的一些细节
fread中nThread 参数的使用 注意默认nThread=getDTthreads(),即使用所有能用的核心,但并不是核心用的越多越好,本人亲自测试的情况下,其实单核具有较强的性能,只有在数 ...
- R读取大数据data.table包之fread
>library(data.table)>data=fread("10000000.txt")>Read 9999999 rows and 71 (of 71) ...
- R语言学习笔记(十七):data.table包中melt与dcast函数的使用
melt函数可以将宽数据转化为长数据 dcast函数可以将长数据转化为宽数据 > DT = fread("melt_default.csv") > DT family_ ...
随机推荐
- Redis内存管理(二)
上一遍详细的写明了Redis为内存管理所做的初始化工作,这篇文章写具体的函数实现. 1.zmalloc_size,返回内存池大小函数,因为库不同,所以这个函数在内部有很多的宏定义,通过具体使用的库来确 ...
- 两个viewport的故事(第二部分)
原文:http://www.quirksmode.org/mobile/viewports2.html 在这个迷你系列的文章里边我将会解释viewport,以及许多重要元素的宽度是如何工作的,比如&l ...
- mysql的事务处理
事务用于保证数据的一致性,它由一组相关的DML语句组成,该组的DML语句要么全部成功,要么全部失败. 示例: 银行账单 $mysqli=new mysqli("localhost" ...
- python中获取当前日期在当月是第几天
- stat file 查看文件的 最新的被访问时间 最近的修改时间 最近的状态改变时间
[root@NB ~]# stat /media/6FE5-D831/git-data/IT-DOC/web收藏.txt File: `/media/6FE5-D831/git-data/IT-DOC ...
- 微软MSMQ消息队列的使用
首先在windows系统中安装MSMQ 一.MSMQ交互 开发基于消息的应用程序从队列开始.MSMQ包含四种队列类型: 外发队列:消息发送到目的地之前,用它来临时存储消息. 公共队列:在主动目录中公布 ...
- python列表分组的技巧
今天项目上需要到的. 如,将并行部署的机器分批次. 一次十台机器,如果分3次并行部署,则第一次123,第二次456,第三次789,第四次10. #coding=utf-8 a=[1,2,3,4,5,6 ...
- [LeetCode] Happy Number
Happy Number Total Accepted: 35195 Total Submissions: 106936 Difficulty: Easy Write an algorithm to ...
- LSM-Tree (BigTable 的理论模型)(转)
Google的BigTable架构在分布式结构化存储方面大名鼎鼎,其中的MergeDump模型在读写之间找到了一个较好的平衡点,很好的解决了web scale数据的读写问题. MergeDump的理论 ...
- Angular JS [Draft]
AngularJS应用是完全运行在客户端的应用.没有后端的支持,我们只能展示随页面一起加载进来的数据.AngularJS提供了几种方式从服务器端获取数据. $http服务 $http 封装了浏览器原生 ...