Hbase之过滤器的使用

一、过滤器概念

基础API中的查询操作在面对大量数据的时候是非常物无力的，这里Hbase提供了高级的查询方法:Filter（过滤器）。过滤器可以根据簇、列、版本等更多的条件来对数据进行过滤，基于Hbase本身提供的三维有序（主键有序、列有序、版本有序），这些Filter可以高效的完成查询过滤的任务。带有Filter条件的RPC查询请求会把Filter分发到各个RegionServer,是一个服务器端的过滤器，这样可以减少网络传输的压力。

二、数据准备

二、Hbase过滤器的分类

比较过滤器

1、行键过滤器——Rowfilter，过滤rowkey=104以前的行

  Filter rowFilter = new RowFilter(CompareFilter.CompareOp.GREATER, new BinaryComparator("104".getBytes()));

  scan.setFilter(rowFilter);

package com.laotou;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.*;

import org.apache.hadoop.hbase.client.*;

import org.apache.hadoop.hbase.filter.BinaryComparator;

import org.apache.hadoop.hbase.filter.CompareFilter;

import org.apache.hadoop.hbase.filter.Filter;

import org.apache.hadoop.hbase.filter.RowFilter;

import org.apache.hadoop.hbase.util.Bytes;

/**

 * @Author:

 * @Date: 2019/5/17

 */

public class Test {

    private static final String ZK_CONNECT_KEY = "hbase.zookeeper.quorum";

    private static final String ZK_CONNECT_VALUE = "192.168.200.100,192.168.200.101,192.168.200.102";

    private static final String ZK_CONNECT_CLIENT = "hbase.zookeeper.property.clientPort";

    private static final String ZK_CONNECT_CLIENT_PORT = "2181";

    private static Configuration conf = new Configuration();

    private static Connection connection = null;

    public static void main(String[] args) throws Exception {

        conf.set(ZK_CONNECT_CLIENT,ZK_CONNECT_CLIENT_PORT);

        conf.set(ZK_CONNECT_KEY,ZK_CONNECT_VALUE);

        connection = ConnectionFactory.createConnection(conf);

        scanData();

    }

    private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        Filter rowFilter = new RowFilter(CompareFilter.CompareOp.GREATER, new BinaryComparator("104".getBytes()));

        scan.setFilter(rowFilter);

//        //调一次返回50的cell，可以减少请求次数

//        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell)));

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

}

运行结果部分截图

2、列簇过滤器 FamilyFilter (将列簇为info的行全部取出来)

Filter familyFilter = new FamilyFilter(CompareFilter.CompareOp.EQUAL, new BinaryComparator("info".getBytes()));
scan.setFilter(familyFilter);

package com.laotou;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.*;

import org.apache.hadoop.hbase.client.*;

import org.apache.hadoop.hbase.filter.*;

import org.apache.hadoop.hbase.util.Bytes;

/**

 * @Author:

 * @Date: 2019/5/17

 */

public class Test {

    private static final String ZK_CONNECT_KEY = "hbase.zookeeper.quorum";

    private static final String ZK_CONNECT_VALUE = "192.168.200.100,192.168.200.101,192.168.200.102";

    private static final String ZK_CONNECT_CLIENT = "hbase.zookeeper.property.clientPort";

    private static final String ZK_CONNECT_CLIENT_PORT = "2181";

    private static Configuration conf = new Configuration();

    private static Connection connection = null;

    public static void main(String[] args) throws Exception {

        conf.set(ZK_CONNECT_CLIENT,ZK_CONNECT_CLIENT_PORT);

        conf.set(ZK_CONNECT_KEY,ZK_CONNECT_VALUE);

        connection = ConnectionFactory.createConnection(conf);

        scanData();

    }

    private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        Filter familyFilter = new FamilyFilter(CompareFilter.CompareOp.EQUAL, new BinaryComparator("info".getBytes()));

        scan.setFilter(familyFilter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell)));

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

}

3、列过滤器 QualifierFilter

Filter valueFilter = new ValueFilter(CompareFilter.CompareOp.EQUAL, new SubstringComparator("boy"));
scan.setFilter(valueFilter);

 private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        Filter valueFilter = new ValueFilter(CompareFilter.CompareOp.EQUAL, new SubstringComparator("boy"));

        scan.setFilter(valueFilter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell)));

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

4、时间戳过滤器 TimestampsFilter

List<Long> list = new ArrayList<>();
list.add( Long.valueOf("1558072555745").longValue());
TimestampsFilter timestampsFilter = new TimestampsFilter(list);
scan.setFilter(timestampsFilter);

private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        List<Long> list = new ArrayList<>();

        list.add( Long.valueOf("1558072555745").longValue());

        TimestampsFilter timestampsFilter = new TimestampsFilter(list);

        scan.setFilter(timestampsFilter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell))+

                        ","+cell.getTimestamp());

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

专用过滤器

1、单列值过滤器 SingleColumnValueFilter ----会返回满足条件的整行

SingleColumnValueFilter singleColumnValueFilter = new SingleColumnValueFilter(
        "info".getBytes(), //列簇
        "name".getBytes(), //列
        CompareFilter.CompareOp.EQUAL,
        new SubstringComparator("lisi"));

 private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        SingleColumnValueFilter singleColumnValueFilter = new SingleColumnValueFilter(

                "info".getBytes(), //列簇

                "name".getBytes(), //列

                CompareFilter.CompareOp.EQUAL,

                new SubstringComparator("lisi"));

//如果不设置为 true，则那些不包含指定 column 的行也会返回

        singleColumnValueFilter.setFilterIfMissing(true);

        scan.setFilter(singleColumnValueFilter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell))+

                        ","+cell.getTimestamp());

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

2、单列值排除器 SingleColumnValueExcludeFilter

SingleColumnValueExcludeFilter singleColumnValueExcludeFilter = new SingleColumnValueExcludeFilter(

                "info".getBytes(),

                "name".getBytes(),

                CompareOp.EQUAL,

                new SubstringComparator("lisi"));

singleColumnValueExcludeFilter.setFilterIfMissing(true);

scan.setFilter(singleColumnValueExcludeFilter);

  private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        SingleColumnValueExcludeFilter singleColumnValueExcludeFilter = new SingleColumnValueExcludeFilter(

                "info".getBytes(),

                "name".getBytes(),

                CompareFilter.CompareOp.EQUAL,

                new SubstringComparator("lisi"));

        singleColumnValueExcludeFilter.setFilterIfMissing(true);

        scan.setFilter(singleColumnValueExcludeFilter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell))+

                        ","+cell.getTimestamp());

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

与上面单列值过滤器相比结果中排除了打印lisi这个字段和值

3、前缀过滤器 PrefixFilter----针对行键,将rowkey以12开头的打印出来

PrefixFilter prefixFilter = new PrefixFilter("12".getBytes());

scan.setFilter(prefixFilter);

package com.laotou;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.hbase.*;

import org.apache.hadoop.hbase.client.*;

import org.apache.hadoop.hbase.filter.*;

import org.apache.hadoop.hbase.util.Bytes;

import java.util.ArrayList;

import java.util.List;

/**

 * @Author:

 * @Date: 2019/5/17

 */

public class Test {

    private static final String ZK_CONNECT_KEY = "hbase.zookeeper.quorum";

    private static final String ZK_CONNECT_VALUE = "192.168.200.100,192.168.200.101,192.168.200.102";

    private static final String ZK_CONNECT_CLIENT = "hbase.zookeeper.property.clientPort";

    private static final String ZK_CONNECT_CLIENT_PORT = "2181";

    private static Configuration conf = new Configuration();

    private static Connection connection = null;

    public static void main(String[] args) throws Exception {

        conf.set(ZK_CONNECT_CLIENT,ZK_CONNECT_CLIENT_PORT);

        conf.set(ZK_CONNECT_KEY,ZK_CONNECT_VALUE);

        connection = ConnectionFactory.createConnection(conf);

        scanData();

    }

    private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        PrefixFilter prefixFilter = new PrefixFilter("12".getBytes());

        scan.setFilter(prefixFilter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell))+

                        ","+cell.getTimestamp());

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

4、列前缀过滤器 ColumnPrefixFilter

ColumnPrefixFilter columnPrefixFilter = new ColumnPrefixFilter("name".getBytes());

scan.setFilter(columnPrefixFilter);

  private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        ColumnPrefixFilter columnPrefixFilter = new ColumnPrefixFilter("name".getBytes());

        scan.setFilter(columnPrefixFilter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell))+

                        ","+cell.getTimestamp());

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

5、分页过滤器 PageFilter

每一页打印两条数据

Filter filter = new PageFilter(2);

private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        Filter filter = new PageFilter(2);

        scan.setFilter(filter);

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell))+

                        ","+cell.getTimestamp());

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

6、行键范围过滤 [startkey,endkey）,结果为左闭右开

 scan.setStartRow(Bytes.toBytes("115"));

 scan.setStopRow(Bytes.toBytes("117"));

private static void scanData() throws Exception {

        //拿到表

        Table table = connection.getTable(TableName.valueOf("filtertest"));

        Scan scan=new Scan();

        scan.setStartRow(Bytes.toBytes("115"));

        scan.setStopRow(Bytes.toBytes("117"));

//        //调一次返回50的cell，可以减少请求次数

        scan.setCaching(50);

        ResultScanner scanner = table.getScanner(scan);

        //是通过迭代器的方式，每调用 一次next，将光标向下移动一个，所以需要动态修改next对象的值

        Result next = scanner.next();

        while (next!=null){

            //将一个Result中的对象转为一个cell数组

            Cell[] cells = next.rawCells();

            for(Cell cell:cells){

                System.out.println(Bytes.toString(CellUtil.cloneRow(cell))+

                        ","+Bytes.toString(CellUtil.cloneFamily(cell))+

                        ","+ Bytes.toString(CellUtil.cloneQualifier(cell))+

                        ","+Bytes.toString(CellUtil.cloneValue(cell))+

                        ","+cell.getTimestamp());

            }

            System.out.println();

            //每循环一次，修改next的值一次

            next=scanner.next();

        }

        scanner.close();

        table.close();

    }

Hbase之过滤器的使用的更多相关文章

Hbase Filter过滤器查询详解
过滤器查询引言:过滤器的类型很多,但是可以分为两大类——比较过滤器,专用过滤器过滤器的作用是在服务端判断数据是否满足条件,然后只将满足条件的数据返回给客户端: hbase过滤器的比较运算符: LE ...
HBase - Filter - 过滤器的介绍以及使用 | 那伊抹微笑
博文作者:那伊抹微笑 csdn 博客地址:http://blog.csdn.net/u012185296 itdog8 地址链接 : http://www.itdog8.com/thread-214- ...
HBase之过滤器
filter ==> SQL 中的Where filter的执行流程: 过滤器在客户端创建,然后通过RPC发送到服务器上,由服务器执行基础过滤器: 比较器: Comparator D ...
HBase - Filter - 过滤器的介绍以及使用
1 过滤器HBase 的基本 API,包括增.删.改.查等.增.删都是相对简单的操作,与传统的 RDBMS 相比,这里的查询操作略显苍白,只能根据特性的行键进行查询(Get)或者根据行键的范围来查询( ...
hbase 自定义过滤器
1.首先生成自定义过滤器,生成jar包,然后拷贝到服务器hbase目录的lib下. 1.1 自定义过滤器CustomFilter import com.google.protobuf.InvalidP ...
Hbase(四) 过滤器查询
引言:过滤器的类型很多,但是可以分为两大类——比较过滤器,专用过滤器过滤器的作用是在服务端判断数据是否满足条件,然后只将满足条件的数据返回给客户端: 一.hbase过滤器的分类 1.比较过滤器行键过 ...
HBase之八--(3)：Hbase 布隆过滤器BloomFilter介绍
布隆过滤器( Bloom filters) 数据块索引提供了一个有效的方法,在访问一个特定的行时用来查找应该读取的HFile的数据块.但是它的效用是有限的.HFile数据块的默认大小是64KB,这个大 ...
大数据笔记（十四）——HBase的过滤器与Mapreduce
一. HBase过滤器 1.列值过滤器 2.列名前缀过滤器 3.多个列名前缀过滤器 4.行键过滤器5.组合过滤器 package demo; import javax.swing.RowFilter; ...
HBase Filter 过滤器概述
abc 过滤器介绍 HBase过滤器是一套为完成一些较高级的需求所提供的API接口. 过滤器也被称为下推判断器(push-down predicates),支持把数据过滤标准从客户端下推到服务器,带有 ...

随机推荐

第14.18节爬虫实战4： request+BeautifulSoup+os实现利用公众服务Wi-Fi作为公网IP动态地址池
写在前面:本文相关方法为作者独创,仅供参考学习爬虫技术使用,请勿用作它途,禁止转载! 一. 引言在爬虫爬取网页时,有时候希望不同的时候能以不同公网地址去爬取相关的内容,去网上购买地址资源池是大部分人 ...
JAVA课堂作业（2019.10.14）
一. (1)代码 package class20191014; import java.util.Scanner; public class ClassHomework { public static ...
自学linux——22.粘滞位的了解及使用
粘滞位的了解及使用一.权限 1.文件的权限 r (read) :可读取该文件的实际内容w(write):可以编辑,新增或者修改该文件的内容(但不含删除该文件)x(execute):代表该文件可以被系 ...
团队作业4-Day4
团队作业4-Day4 项目git地址 1. 站立式会议 2. 项目燃尽图 3. 适当的项目截图 4. 代码/文档签入记录(部分) 5. 每人每日总结吴梓华:完成了排位模式与练习模式的界面实现,整合代 ...
题解-CF1389F Bicolored Segments
题面 CF1389F Bicolored Segments 给 $n$ 条线段 $[l_i,r_i]$,每条有个颜色 $t_i\in\{0,1\}$,求最多选出多少条线段,使没有不同颜色的 ...
SpringBoot如何利用Actuator来监控应用？
目录 Actuator是什么? 快速开始引入依赖 yml与自动配置主程序类测试 Endpoints 官方列举的所有端点列表启动端点暴露端点配置端点发现页面跨域支持实现一个定义的端点 ...
如何将 Dapper 换成 SqlSuagr ORM
为什么要写这篇文章因数我看到很多人虽然用着SqlSugar,但是同时也用着Dapper,因为SqlSugar兼容了Dapper所有API,所以既然你用了SqlSugar那么就没有必要在同一个项目中使 ...
log4j配置获取系统属性及默认值
一.使用场景 1.因某些原因,我们可能将log4j中的配置变量化,进行动态获取 2.动态获取内容不存在时,我们希望能够赋上通用的值二.语法单变量: ${前缀:变量:-默认值} 如: ${sys:i ...
多任务-python实现-死锁，银行家算法（2.1.5）
@ 目录 1.死锁 2.避免死锁的方式-银行家算法 1.死锁死锁是指两个或两个以上的进程在执行过程中,由于竞争资源或者由于彼此通信而造成的一种阻塞的现象,若无外力作用,它们都将无法推进下去.此时称系 ...
python2与python3共存后，如何使用
借用py的一个参数 py -2 与py -3调用不同是的python版本所以运行的时候只要 py -2 文件名可以用python2来运行脚本 py -3 文件名就是用python3 来运行脚本参考 ...

Hbase之过滤器的使用

Hbase之过滤器的使用的更多相关文章

随机推荐

热门专题