日期

2017年3月17日

HBase建模记录

OLTP 应用场景:

OLAP 应用场景:

语音分析系统的应用场景

基于HBase的建模考虑

1.话单为主来考虑hbase的rowkey的生成规则:

1.1 原始语音文件的命名规则

dxaudio_$(ID)_$(CallNum)_$(CalledNum)_$(starttime)_$(stoptime)_$(Type)_$(rec).voc

表示规则:

$(ID)表示通话唯一标识;

$(CallNum)表示主叫号码

$(CalledNum)表示被叫号码

$(starttime)为通话开始时间;

  • 型如:YYYYmmddHHMMSS,例:20100801120123表示2010年8月1日12点1分23秒创建。

$(stoptime)为通话结束时间,型同$(starttime)

$(datetime)为文件生成时间,型同$(starttime),文件入库时间

$(Type)表示信道类型,见附录B

$(rec)为流水号,从00000至99999循环使用

相同$(datetime)的各个文件的$(rec)不相同

1.2业务上支持的字段

1.3 如何支持一条记录对不同结构的查询

1.4 倒排索引&搜索引擎

关键词查找的方法已经到了极限

互联网上的资料生成索引,总共分为三步

1)把资料编号;

2)把每篇资料内容切分成词

3)把词和资料编号的对应关系处理成
词è编号列表的形式

需考虑的问题:

1)资料(网页)收集的全、快、稳、新、

2)建立索引时要考虑质量、效率、赋权、周期、时效性、资源消耗问题

3)query的时候要考虑的问题 query分析、排序、筛选、展示、性能、、广告、推荐、个性化、

统计

4)整体上要考虑地域性、容灾、国际化、当地法律、返作弊、垂直需求、移动互联网等

1.5开源搜索引擎技术

1)Lucene,

他不是一个引擎产品而是一个类库,至今开源搜索引擎最好没有之一

使用java语音开发

基本涵盖了搜索引擎中的索引和检索两个核心部分的全部功能

抽象程度较好

2)solr

一个完整的搜索引擎产品

底层是基于Lucene

3) elasticSearch

产品级开源项目,

底层基于Lucene

提供Restful API的服务

Restful 就是直接通过HTTP协议收发请求和响应,接口比较清晰简单,是一种架构规则

 

结论:

搜索类应用程序的检索可以通过es来进行检索。

 
 
 
 
 
 
 
 
 
 

Hbase建模选择的更多相关文章

  1. Hbase建模

    转自:http://blog.itpub.net/28912557/viewspace-1119865/ 什么情况下使用Hbase?1,成熟的数据分析主题,查询模式已经确定并且不易轻易改变.(主要还是 ...

  2. Hbase写入hdfs源码分析

    版权声明:本文由熊训德原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/258 来源:腾云阁 https://www.qclo ...

  3. Hbase的安装测试工作

    Hbase的安装测试工作: 安装:http://www.cnblogs.com/neverwinter/archive/2013/03/28/2985798.html 测试:http://www.cn ...

  4. Hadoop集群中Hbase的介绍、安装、使用

    导读 HBase – Hadoop Database,是一个高可靠性.高性能.面向列.可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群. 一.Hbase ...

  5. HBase的安装与使用

    1.安装 由于还是学习阶段,所以没有在生产环境练习,就在本地建了个虚拟机进行HBase的安装. 下载地址http://www.apache.org/dyn/closer.cgi/hbase/,选择一个 ...

  6. HBase安装inAction

    在安装Hbase之前,需要有hadoop的运行环境,关于hadoop的安装过程,请查看我之前的blog:hadoop安装笔记:或者另一个博主的超详细文章http://weixiaolu.iteye.c ...

  7. 阿里云HBase携X-Pack再进化,重新赋能轻量级大数据平台

    一.八年双十一,造就国内最大最专业HBase技术团队 阿里巴巴集团早在2010开始研究并把HBase投入生产环境使用,从最初的淘宝历史交易记录,到蚂蚁安全风控数据存储.持续8年的投入,历经8年双十一锻 ...

  8. 阿里云HBase全新发布X-Pack 赋能轻量级大数据平台

    一.八年双十一,造就国内最大最专业HBase技术团队 阿里巴巴集团早在2010开始研究并把HBase投入生产环境使用,从最初的淘宝历史交易记录,到蚂蚁安全风控数据存储.持续8年的投入,历经8年双十一锻 ...

  9. HBase案例:HBase 在人工智能场景的使用

    近几年来,人工智能逐渐火热起来,特别是和大数据一起结合使用.人工智能的主要场景又包括图像能力.语音能力.自然语言处理能力和用户画像能力等等.这些场景我们都需要处理海量的数据,处理完的数据一般都需要存储 ...

随机推荐

  1. C51学习笔记

    转自:http://blog.csdn.net/gongyuan073/article/details/7856878 单片机C51学习笔记 一,   C51内存结构深度剖析 二,   reg51.头 ...

  2. pygame入门

    pygame入门 说明 在学习pygame时,主要参考了目光博客的教程.目光博客 原教程是2011年写的,年代比较久远了,使用Python2.我学习时使用python3将代码重新实现了一遍,同时补充了 ...

  3. linux 搭建epel本地库,并定时同步

    1.安装rsyncyum -y install rsync.x86_64 2.同步epel至本地#http://mirrors.ustc.edu.cn/status/ 获取镜像库rsync路径mkdi ...

  4. Spyder & Python

    Spyder & Python https://pypi.org/project/spyder/ Spyder is a powerful scientific environment wri ...

  5. js & auto copy

    js & auto copy https://developer.mozilla.org/zh-CN/docs/Web/Events/copy Ctrl + C Command + C doc ...

  6. P4254 [JSOI2008]Blue Mary开公司

    题面 这道题的意思就是给出若干个一次函数,当\(x=x_0\)时,最大的\(y\)为多少 这种题可以用李超线段树来处理 什么是李超线段树呢? 李超线段树存储的是在区间上方暴露最多的直线标号,为了便于描 ...

  7. Milk Patterns POJ - 3261(后缀数组+二分)

    题意: 求可重叠的最长重复子串,但有一个限制条件..要至少重复k次 解析: 二分枚举k,对于连续的height 如果height[i] >= k 说明它们至少有k个元素是重复的,所以判断一下就好 ...

  8. Jackson 使用

    // 序列化出来的 JSON, 不包含值为 NULL 类型字段. mapper.setSerializationInclusion(Include.NON_NULL); Jackson provide ...

  9. [洛谷P4723]【模板】线性递推

    题目大意:求一个满足$k$阶齐次线性递推数列$a_i$的第$n$项. 即:$a_n=\sum\limits_{i=1}^{k}f_i \times a_{n-i}$ 题解:线性齐次递推,先见洛谷题解, ...

  10. [UVALive 3683] A Scheduling Problem

    图片加载可能有点慢,请跳过题面先看题解,谢谢 题目给出了一个信息:答案是有向边最长路 \(k\) 的值或者是 \(k+1\) 的值 那么题目就变成了:求是否有一种给无向边定向的方案,使得在以有向边最长 ...