随着平台业务的发展,依赖于Portal(Web)构建的服务架构已逐渐不能满足现有的一些复杂需求(如:使用Hive SQL无法完成计算逻辑),而且对于一些具备编程能力的程序员或数据分析师而言,能够自主控制任务的诉求越来越多,这就要求我们必须把平台的计算能力开放出去,主要涉及以下三个问题:   (1)用户可以通过前端机(Gateway)访问Hadoop线下集群(Offline Cluster).Hadoop线上集群(Online Cluster),并在两者之间做切换: (2)HDFS权限控制:用户仅…

平台数据仓库使用Hive进行构建,通过调研决定使用“SQL Standards Based Authorization in HiveServer2”对用户提交的SQL进行权限控制,也可根据实际情况选择是否开启“Storage Based Authorization in the Metastore Server”.   权限校验时需要识别提交SQL的用户名(即:与HiveServer2建立连接时使用的用户名),在使用Kerberos的环境下,用户名为通过Kerberos认证的用户名:在没有使用…

KubeEdge开源背景 KubeEdge在18年11月24日的上海KubeCon上宣布开源,技术圈曾掀起一阵讨论边缘计算的风潮,从此翻开了边缘计算和云计算联动的新篇章. KubeEdge即Kube+Edge,顾名思义就是依托K8S的容器编排和调度能力,实现云边协同.计算下沉.海量设备的平滑接入.KubeEdge架构上包含两部分,分别是云端和边缘侧.云端负责应用和配置的下发,边缘侧则负责运行边缘应用和管理接入 此前,关于用K8S在边缘侧部署应用还一直停留在实验阶段,KubeEdge脱胎于华为云I…

LibreOffice 是由文档基金会开发的自由及开放源代码的办公室套件.LibreOffice 套件包含文字处理器.电子表格.演示文稿程序.矢量图形编辑器和图表工具.数据库管理程序及创建和编辑数学公式的应用程序.借助 LibreOffice 的命令行接口可以方便地将 office 文件转换成 pdf.如下所示: $ soffice --convert-to pdf --outdir /tmp /tmp/test.doc 一个完整版本的 LibreOffice 大小为 2 GB,而函数计算运行时…

概述 实现一个智能生活信息查询的小秘书功能,支持查天气.新闻.日历.汇率.笑话.故事.百科.诗词.邮编.区号.菜谱.股票.节目预告,还支持闲聊.算24点.数学计算.单位换算.购物.搜索等功能. 使用方式上支持摇一摇.点界面按钮.手动输入.下拉刷新这四种方式. 详细 代码下载:http://www.demodashi.com/demo/10909.html 微信小程序智能生活小秘书开发详解 实现功能 实现一个智能生活信息查询的小秘书功能,支持查天气.新闻.日历.汇率.笑话.故事.百科.诗词.邮编.…

题记:昨晚在一个技术社区直播分享了"利用Azure Functions和k8s构建Serverless计算平台"这一话题.整个分享分为4个部分:Serverless概念的介绍.Azure Functions的简单介绍.k8s和KEDA的介绍和最后的演示. Serverless Serverless其实包含了两种概念:BaaS(Backend as a Service)和FaaS(Function as a Service).这次的分享主要针对的是FaaS概念. FaaS的最大特征就是:…

大数据和Hadoop平台介绍 定义 大数据是指其大小和复杂性无法通过现有常用的工具软件,以合理的成本,在可接受的时限内对其进行捕获.管理和处理的数据集.这些困难包括数据的收入.存储.搜索.共享.分析和可视化.大数据要满足三个基本特征(3V),数据量(volume).数据多样性(variety)和高速(velocity).数据量指大数据要处理的数据量一般达到TB甚至PB级别.数据多样性指处理的数据包括结构化数据.非结构化数据(视频.音频.网页)和半结构化数据(xml.html).高速指大数据必须能…

一. 前言 好久没有更新博客了,最近一直在忙着找工作,目前差不多尘埃落定.特别期待而且准备的都很少能成功,反而是没怎么在意的最终反而能拿到,真是神一样的人生. 言归正传,一直以来,数据挖掘系统的数据类型是我很头疼的问题,不可能为了每一种场景都定义一种新的数据类型,但通用类型又没法满足所有需求,而且性能上有影响.思来想去,最终决定结合两种特点制定一种方案:以通用类型为主,一些特定场合和要求再制定自定义类型,比如微博.   通用数据类型的名字叫FreeDocument,它的内部核心是Dictiona…

1.Spark介绍 Spark是起源于美国加州大学伯克利分校AMPLab的大数据计算平台,在2010年开源,目前是Apache软件基金会的顶级项目.随着 Spark在大数据计算领域的暂露头角,越来越多的企业开始关注和使用.2014年11月,Spark在Daytona Gray Sort 100TB Benchmark竞赛中打破了由Hadoop MapReduce保持的排序记录.Spark利用1/10的节点数,把100TB数据的排序时间从72分钟提高到了23分钟. Spark在架构上包括内核部分和…

LAMP平台介绍及网站的工作原理 1.HTTP协议 URL(UniformResourceLocator)统一资源定位符,就是网页地址的意思.[格式:协议://主机.端口.文件.附加资源] ##URL组成:http://blog.csdn.net/ergouge/article/details/8185219 超文本传输协议(HTTP,HyperText Transfer Protocol)是互联网上应用最为广泛的一种网络协议.所有的WWW文件都必须遵守这个标准.设计HTTP最初的目的是为了提供…