注意:可排序的列表内元素不可以是字典等复杂数据类型   比较容易记忆的是用内置的set l1 = ['b','c','d','b','c','a','a']l2 = list(set(l1))print l2   还有一种据说速度更快的,没测试过两者的速度差别 l1 = ['b','c','d','b','c','a','a']l2 = {}.fromkeys(l1).keys()print l2   这两种都有个缺点,祛除重复元素后排序变了: ['a', 'c', 'b', 'd']    

DISTINCT 方法用于返回唯一不同的值 官方文档给出的示例: $Model->distinct(true)->field('userName')->select(); 解析的SQL:SELECT DISTINCT `userName` FROM `table` 去重统计: $totalRows = $this->where($where)->count('DISTINCT mobilePhone') 解析的SQL:SELECT COUNT(DISTINCT mobileP

利用Linux命令进行文本按行去重并按重复次数排序   linux命令行提供了非常强大的文本处理功能,组合利用linux命令能实现好多强大的功能.本文这里举例说明如何利用Linux命令行进行文本按行去重并按重复次数排序.主要用到的命令有sort,uniq.其中,sort主要功能是排序,uniq主要功能是实现相邻文本行的去重. 用于演示的测试文件内容如下: Hello World.     Apple and Nokia.     Hello World.     I wanna buy an A

先写一个命令: cut -d' ' -f1 ~/.bash_history|sort -d | uniq -c|sort -nr|head 这个命令可以统计你历史上输入的命令的次数的前十条 整个命令基于管道 1.cut cut -d' ' -f1 ~/.bash_history 从~/.bash_history这个文件中剪出第一列(参数-f1,多行则为-f1,3等等) -d' ' 表示分隔符.此时分隔符为空格.如果分隔符为冒号,则为“-d:” 2.sort sort -d按字典序排序剪出来的第一

一.背景说明 在Flink中对流数据进行去重计算是常有操作,如流量域对独立访客之类的统计,去重思路一般有三个: 基于Hashset来实现去重 数据存在内存,容量小,服务重启会丢失. 使用状态编程ValueState/MapState实现去重 常用方式,可以使用内存/文件系统/RocksDB作为状态后端存储. 结合Redis使用布隆过滤器实现去重 适用对上亿数据量进行去重实现,占用资源少效率高,有小概率误判. 这里以自定义布隆过滤器的方式,实现Flink窗口计算中独立访客的统计,数据集样例如下:

当统计一个有重复的字段可以用这个方法 $count = $model->where($map)->count('distinct(id)'); 转自 http://www.thinkphp.cn/code/185.html

表名:parkUserCost id: patkId: userId: phone: costVal: 适合特定条件下,对某些字段进行去重筛选.(比如限定抢购) 第一种,使用\(first操作符.\)first 会把数组的第一个元素取出,作为一个对象. // 第一种(可转java版本) db.getCollection('parkUserCost').aggregate([ {"$match" : { "$and" : [ // {"name"

package com.iexecloud.cloud.casemanager;import redis.clients.jedis.Jedis;import java.text.SimpleDateFormat;import java.util.Date;public class UVDemo { private Jedis jedis=new Jedis("127.0.0.1"); /** * 添加一次用户访问记录 * @param userid */ public void ad

最近刚在搞一个BI的项目,里面需要大量的sql 数据统计相关运用,加深了我又对SQL的理解与使用. 所以,分享几个数据统计时常用的sql 语句总结: 1. 统计各个条件下的数据 select BatchId,sum(CardSum) 总金额, sum( then CardSum end) as 已使用, sum( then CardSum end) as 已冻结 from GiftCard group by BatchId 2. 统计每日,每月,每年的数据 ) 数量,sum(CardSum) 销

转:http://www.cnblogs.com/zhangweizhong/p/5577842.html 最近刚在搞一个BI的项目,里面需要大量的sql 数据统计相关运用,加深了我又对SQL的理解与使用. 所以,分享几个数据统计时常用的sql 语句总结: 1. 统计各个条件下的数据 select BatchId,sum(CardSum) 总金额, sum(case when Status=1 then CardSum else 0 end) as 已使用, sum(case when Stat

1.前言 Elasticsearch有没有类似mysql的distinct的去重功能呢? 1)如何去重计数? 类似mysql: select distinct(count(1)) from my_table; 2)如何获取去重结果. 类似mysql:SELECT DISTINCT name,age FROM users; 2.需求 1)对ES的检索结果进行去重统计计数. 2)对ES的检索结果去重后显示 3.分析 1)统计计数需要借助ES聚合功能结合cardinality实现. 2)去重显示结果有

1.去重统计数据表行数: select count(distinct col_name) from table_name; 2.统计行数 select count(*) from table_name; 3.可以使用mysql的数据库INFORMATION_SCHEMA查询关于数据库或者数据表的各类信息 4.还有个默认的数据库PERFORMANCE_SCHEMA,主要用于收集数据库服务器性能参数 数据库INFORMATION_SCHEMA,提供了访问数据库元数据的方式. 元数据是关于数据的数据,

有一个数据文件  yue.csv  是这样的   #head yue.csv  日期,商家名称,要求在线数,当天在线数,要求在线时长,在线时长达标数,   ……"2017-12-31","唐河馆","10","3","09:00-17:00","1",……"2017-12-15","唐河馆","10","3"

awk与sed.grep一样都是为了加工数据流而做成的文本加工过滤器命令.awk会事先把输入的数据根据字段单位进行分割.在没有制定分割单位的情况下,以输入数据中的空格或Tab为分隔符.与sed相比,它以更接近编程语言的文法记述处理,还包括了通过正则表达式进行的字符串操作.简单的数学函数功能等. sed的基本形式 sed 启动选项 '地址 命令/查找字符串/替换字符串/标志' 输入.txt > 输出.txt 启动选项 ​ -e '单行脚本': -f 脚本文件: -g 整个文章作为对象(global

2015年,随着移动智能设备的普及,移动端用户的增速明显放缓:相比之下,由于云服务.众筹平台.推广平台等基础设施和服务的不断改善,极大降低了创业的门槛,越来越多人投身于移动应用的创新创业中. 想让用户在数百万应用中爱上你的产品,开发者除了要满足用户的需求外,还必须要在快速迭代的过程中保证产品比竞争对手有更好的质量. 在这份报告中,腾讯Bugly和腾讯优测会对2015年Android和iOS平台上的应用质量进行详细盘点,帮助你了解你的产品质量在行业中处于什么位置. 首先,让我们从整体上,回顾一下2

  在互联网笔试中,常遇到数据库的问题,遂来简单总结,注意,以 Sql Server 数据库为例. 数据库 数据库系统,Database System,由数据库和数据库管理系统组成. 数据库,DataBase ,是计算机应用系统中的一种专门管理数据资源的系统,按照数据结构来组织.存储和管理数据的仓库.数据表是最基本的数据库对象,是存储数据的逻辑单元. 数据库管理系统,DataBase Management System,DBMS,管理数据库,负责数据的存储.安全.一致性.并发.恢复和访问. 数据

应用设计请求之初,对于url有一定的规划.因此,请求的url格式类似如下: /**/school/****?token=a66cb2a3-e0b7-4f0a-b332-********* token唯一代表一个用户,因此,解析出token,就可以精确计算出UV. 每一个请求都算一个PV,因此,统计所有请求,即可计算出PV. PV的计算比较简单,直接通过请求纪录的统计即可计算出来. PV如下图所示: UV稍微复杂一些,需要用到logstash的KV处理. 如下所示: filter { kv { s

指定命令别名 alias ..='cd ..' 命令连接符 持续的执行命令,不管错误 [命令1]; [命令2]; [命令3];   前一个正确才执行下一个 [命令1] && [命令2] && [命令3];   前一个错误,就执行下一个 [命令1] || [命令2] || [命令3]; 限制用户进程数 vim /etc/security/limits.conf      *       hard    nproc   200 给予用户sudo权限 vim /etc/sudoe

近期在学习的时候,常常看到使用Trie树数据结构来解决这个问题.比方" 有一个1G大小的一个文件.里面每一行是一个词.词的大小不超过16字节,内存大小限制是1M. 返回频数最高的100个词. " 该怎样解决? 有一种方案就是使用Trie树加 排序实现 . 什么是Trie 树呢?也就是常说的字典树,网上对此讲得也非常多,简单补充一下个人理解: 它实际上相当于把单词的公共部分给拎出来.这样一层一层往上拎直到得到每一个节点都是不可分的最小单元! 比方网上一个样例 一组单词,inn, int,

---------------------MongoDB基本操作--------------------- 1.MongoDB创建数据库     use 数据库名:切换到指定的数据库中,在插入第一个条数据的时候,创建对应的数据库.     show dbs:显示所有的数据库名.     db:查看当前数据库的名称.     show collections:查看当前db所有的collections.     db.集合名.insert({"name":"python"

第1章 awk命令基础 1.1 awk命令执行过程 1.如果BEGIN 区块存在,awk执行它指定的动作. 2.awk从输入文件中读取一行,称为一条输入记录.如果输入文件省略,将从标准输入读取 3.awk将读入的记录分割成字段,将第1个字段放入变量$1中,第2个字段放入$2,以此类推.$0表示整条记录.字段分隔符使用shell环境变量FS或由参数指定. 4.把当前输入记录(数据行)依次与每一个awk命令中awk条件比较,看是否匹配,如果相匹配,就执行对应的动作.如果不匹配,就跳过对应的动作,直到