flare-spork: 自己维护的Pig on Spark项目

版权声明:本文为博主原创文章,未经博主同意不得转载. https://blog.csdn.net/zbf8441372/article/details/24726501 关于flare-spork 非常早曾经有个Pig Spork分支.尝试把Pig迁移到Spark上.可是代码非常久没有更新了. 眼下Pig on Spark应该是在Twitter内部进行着. flare-spork是基于Spork对Pig和Spark的衔接.把Spark部分的代码迁移到了Pig 0.12.0上,而且升级了依赖和版本…

Spork: Pig on Spark实现分析

介绍 Spork是Pig on Spark的highly experimental版本号,依赖的版本号也比較久,如之前文章里所说.眼下我把Spork维护在自己的github上:flare-spork. 本文分析的是Spork的实现方式和详细内容. Spark Launcher 在hadoop executionengine包路径下,写了一个Spark启动器,同MapReduceLauncher类似,会在launchPig的时候,把传入的物理运行计划进行翻译. MR启动器翻译的是MR的操作,以及进…

【spark】IDEA建立基于scala语言的spark项目

1.新建一个Spark项目 2.选择maven,用模板创建项目如果没有这个模板,我们需要添加一个我们这里使用的是1.6版本Archetype Group Id : net.alchim31.maven Archetype Artifact Id : scala-archetype-simple Archetype Version : 1.6 3.填写GoupId等. 4.选择本地的maven配置文件和仓库 5.创建完毕这里我们要注意项目pom.xml文件中的配置核对scala版本并在…

转】[1.0.2] 详解基于maven管理-scala开发的spark项目开发环境的搭建与测试

场景好的,假设项目数据调研与需求分析已接近尾声,马上进入Coding阶段了,辣么在Coding之前需要干马呢?是的,“统一开发工具.开发环境的搭建与本地测试.测试环境的搭建与测试” - 本文详细记录实际Spark项目开发环境的搭建. 分析开发工具操作系统:win 10 JDK 版本 :jdk1.8.0_91 Scala版本:2.10.6 MAVEN版本:apache-maven-3.3.9 集成开发工具:IntelliJ IDEA 2016.1.3 开发主要语言:scala 开发环境的搭建…

常见的七种Hadoop和Spark项目案例

常见的七种Hadoop和Spark项目案例有一句古老的格言是这样说的,如果你向某人提供你的全部支持和金融支持去做一些不同的和创新的事情,他们最终却会做别人正在做的事情.如比较火爆的Hadoop.Spark和Storm,每个人都认为他们正在做一些与这些新的大数据技术相关的事情,但它不需要很长的时间遇到相同的模式.具体的实施可能有所不同,但根据我的经验,它们是最常见的七种项目. 项目一:数据整合称之为“企业级数据中心”或“数据湖”,这个想法是你有不同的数据源,你想对它们进行数据分析.这类项目包括…

7种最常见的Hadoop和Spark项目

7种最常见的Hadoop和Spark项目如果您的Hadoop项目将有新的突破,那么它必定与下边介绍的七种常见项目很相像. 有一句古老的格言是这样说的,如果你向某人提供你的全部支持和金融支持去做一些不同的和创新的事情,他们最终却会做别人正在做的事情.如比较火爆的Hadoop.Spark和Storm,每个人都认为他们正在做一些与这些新的大数据技术相关的事情,但它不需要很长的时间遇到相同的模式.具体的实施可能有所不同,但根据我的经验,它们是最常见的七种项目. 项目一:数据整合称之为“企业级数据中心…

大数据分析处理框架——离线分析（hive，pig，spark）、近似实时分析（Impala）和实时分析（storm、spark streaming）

大数据分析处理架构图数据源: 除该种方法之外,还可以分为离线数据.近似实时数据和实时数据.按照图中的分类其实就是说明了数据存储的结构,而特别要说的是流数据,它的核心就是数据的连续性和快速分析性: 计算层: 内存计算中的Spark是UC Berkeley的最新作品,思路是利用集群中的所有内存将要处理的数据加载其中,省掉很多I/O开销和硬盘拖累,从而加快计算.而Impala思想来源于Google Dremel,充分利用分布式的集群和高效存储方式来加快大数据集上的查询速度,这也就是我上面说到的近似实…

【Spark学习】Apache Spark项目简介

引言:本文直接翻译自Spark官方网站首页 Lightning-fast cluster computing 从Spark官方网站给出的标题可以看出:Spark——像闪电一样快的集群计算 Apache Spark™ 是一个应用于大规模数据处理的快速且通用的引擎. 速度 Spark在内存中运行程序的速度比Hadoop MapReduce要快100多倍,在磁盘上则要快10多倍.它使用先进的DAG执行引擎来支持循环数据流和内存计算. Logistic regression in Hadoop an…

Spark项目之电商用户行为分析大数据平台之（十二）Spark上下文构建及模拟数据生成

一.模拟生成数据 package com.bw.test; import java.util.ArrayList; import java.util.Arrays; import java.util.List; import java.util.Random; import java.util.UUID; import com.bw.util.DateUtils; import com.bw.util.StringUtils; import org.apache.spark.api.java.J…

Spark项目之电商用户行为分析大数据平台之（十）IDEA项目搭建及工具类介绍

一.创建Maven项目创建项目,名称为LogAnalysis 二.常用工具类 2.1 配置管理组建 ConfigurationManager.java import java.io.InputStream; import java.util.Properties; /** * 配置管理组件 * * 1.配置管理组件可以复杂,也可以很简单,对于简单的配置管理组件来说,只要开发一个类,可以在第一次访问它的 * 时候,就从对应的properties文件中,读取配置项,并提供外界获取某个配置key对应…

Spark项目之电商用户行为分析大数据平台之（九）表的设计

一.概述数据设计,往往包含两个环节: 第一个:就是我们的上游数据,就是数据调研环节看到的项目基于的基础数据,是否要针对其开发一些Hive ETL,对数据进行进一步的处理和转换,从而让我们能够更加方便的和快速的去计算和执行spark作业: 第二个:就是要设计spark作业要保存结果数据的业务表的结构,从而让J2EE平台可以使用业务表中的数据,来为使用者展示任务执行结果. 二.MySQL表设计 2.1 session_aggr_stat表存储第一个功能,session聚合统计的结果 CREATE…

Spark项目之电商用户行为分析大数据平台之（七）数据调研--基本数据结构介绍

一.user_visit_action(Hive表) 1.1 表的结构 date:日期,代表这个用户点击行为是在哪一天发生的user_id:代表这个点击行为是哪一个用户执行的session_id :唯一标识了某个用户的一个访问sessionpage_id :点击了某些商品/品类,也可能是搜索了某个关键词,然后进入了某个页面,页面的idaction_time :这个点击行为发生的时间点search_keyword :如果用户执行的是一个搜索行为,比如说在网站/app中,搜索了某个关键词,然后会跳转…

Spark项目之电商用户行为分析大数据平台之（六）用户访问session分析模块介绍

一.对用户访问session进行分析 1.可以根据使用者指定的某些条件,筛选出指定的一些用户(有特定年龄.职业.城市): 2.对这些用户在指定日期范围内发起的session,进行聚合统计,比如,统计出访问时长在0~3s的session占总session数量的比例: 3.按时间比例,比如一天有24个小时,其中12:00~13:00的session数量占当天总session数量的50%,当天总session数量是10000个,那么当天总共要抽取1000个session,ok,12:00~13:00的…

Spark项目之电商用户行为分析大数据平台之（三）大数据集群的搭建

Zookeeper集群搭建 http://www.cnblogs.com/qingyunzong/p/8619184.html Hadoop集群搭建 http://www.cnblogs.com/qingyunzong/p/8634335.html http://www.cnblogs.com/qingyunzong/p/8639918.html Hbase集群搭建 http://www.cnblogs.com/qingyunzong/p/8668880.html Hive的搭建 http://…

Spark项目之电商用户行为分析大数据平台之（一）项目介绍

一.项目概述本项目主要用于互联网电商企业中,使用Spark技术开发的大数据统计分析平台,对电商网站的各种用户行为(访问行为.购物行为.广告点击行为等)进行复杂的分析.用统计分析出来的数据,辅助公司中的PM(产品经理).数据分析师以及管理人员分析现有产品的情况,并根据用户行为分析结果持续改进产品的设计,以及调整公司的战略和业务.最终达到用大数据技术来帮助提升公司的业绩.营业额以及市场占有率的目标. 本项目使用了Spark技术生态栈中最常用的三个技术框架,Spark Core.Spark SQL和…

IDEA中打包Spark项目提示Error:(16, 48) java: -source 1.5 中不支持 lambda 表达式

在idea中新建了一Spark的项目,在做项目的编译打包的时候,提示如下错误信息: Error:(, ) java: -source 1.5 中不支持 lambda 表达式 (请使用 -source 或更高版本以启用 lambda 表达式) 解决方法是: 第一步: File --> Project Stucture 选择项目设置Lanugage level, 如下图所示第二步: File --> Settings --> Compiler --> Java Compiler设置b…

搭建一个IntelliJ的Spark项目

之前发现创建一个新项目之后,无法添加scala class 创建新项目选择maven项目,然后选择simple或者quickstart: 进入项目后,在Project Structure里面,在global libraries面板中,删除已有的scala-sdk,然后再添加: 然后再工程中添加scala文件夹,添加一个package,在package里面就可以添加scala文件了. Maven <?xml version="1.0" encoding="UTF-8&q…

spark项目打jar包，不包含依赖包问题的解决方案

mvn clean package打包maven-archetype-webapp项目时,打包后的jar包含项目中引用的jar包(解压后,在WEB-INF有一个lib目录,该目录下有所有依赖包). mvn clean package打包maven-archetype-quickstart项目时,打包后的jar为什么不包含项目中引用的jar包呢?这样就会导致,spark-submit运行spark应用时会报各种jar包找不到,还必须得人为地把依赖jar全部丢到${SPARK_HOME}/jars目…

在win10环境下IED配置spark项目

eclipse在对spark的支持上并不友好,所以需要新下载并安装IntelliJ IDEA 2019.1.我下载安装的是专业版的,直接在网上搜索了破解码进行破解. 1. 配置java和scala IDE的配置是我陌生的,所以可能会有一些错误的多余的操作. 安装scala插件:选择Plugins-搜索scala—安装scala插件—重启重启后选择新建项目,可以在项目选择中找到scala.我新建的是scala-IDE项目,在新建界面选择java SDK(java jdk目录)和SCALA SDK…

Spark入门（二）--如何用Idea运行我们的Spark项目

用Idea搭建我们的Spark环境用IDEA搭建我们的环境有很多好处,其中最大的好处,就是我们甚至可以在工程当中直接运行.调试我们的代码,在控制台输出我们的结果.或者可以逐行跟踪代码,了解spark运行的机制.因此我们选择了idea,当然Idea不是首选,当然也可以用其他工具.因为我们的Spark程序用scala和java写,需要有java环境来作为支撑.因此任何能够支撑java程序的开发工具,应该都能够搭建我们的Spark程序.我这里是MAC环境下,当然如果你是windows不用担心,这里只…

Spark项目应用-电子商务大数据分析总结

一. 数据采集(要求至少爬取三千条记录,时间跨度超过一星期)数据采集到本地文件内容爬取详见:python爬取京东评论爬取了将近20000条数据,156个商品种类,用时2个多小时,期间中断数次二.数据预处理:要求使用MapReduce或者kettle实现源数据的预处理,对大量的Json文件,进行清洗,以得到结构化的文本文件在解析json时,处理了一部分,包括日期格式修改,数据格式转换等,在kettle中做去重.排序处理三.数据统计:生成Hive用户评论数据 (1)在Hive创…

Spark项目之电商用户行为分析大数据平台之（十一）JSON及FASTJSON

一.概述 JSON的全称是”JavaScript Object Notation”,意思是JavaScript对象表示法,它是一种基于文本,独立于语言的轻量级数据交换格式.XML也是一种数据交换格式,为什么没有选择XML呢?因为XML虽然可以作为跨平台的数据交换格式,但是在JS(JavaScript的简写)中处理XML非常不方便,同时XML标记比数据多,增加了交换产生的流量,而JSON没有附加的任何标记,在JS中可作为对象处理,所以我们更倾向于选择JSON来交换数据.这篇文章主要从以下几个方…

Spark项目之电商用户行为分析大数据平台之（八）需求分析

1.按条件筛选session 搜索过某些关键词的用户.访问时间在某个时间段内的用户.年龄在某个范围内的用户.职业在某个范围内的用户.所在某个城市的用户,发起的session.找到对应的这些用户的session,也就是我们所说的第一步,按条件筛选session. 这个功能,就最大的作用就是灵活.也就是说,可以让使用者,对感兴趣的和关系的用户群体,进行后续各种复杂业务逻辑的统计和分析,那么拿到的结果数据,就是只是针对特殊用户群体的分析结果:而不是对所有用户进行分析的泛泛的分析结果.比如说,现在某个企…

Spark项目之电商用户行为分析大数据平台之（五）实时数据采集

…

Spark项目之电商用户行为分析大数据平台之（四）离线数据采集

…

Spark项目之电商用户行为分析大数据平台之（二）CentOS7集群搭建

一.CentOS7集群搭建 1.1 准备3台centos7的虚拟机 IP及主机名规划如下: 192.168.123.110 spark1192.168.123.111 spark2192.168.123.112 spark3 1.2 修改IP地址 [root@bigdata ~]# vi /etc/sysconfig/network-scripts/ifcfg-ens33 1.3 修改主机映射 [root@bigdata ~]# vi /etc/hosts 1.4 修改主机名三台机器分别把主机…

Pig系统分析(8)-Pig可扩展性

本文是Pig系统分析系列中的最后一篇了,主要讨论怎样扩展Pig功能.不仅介绍Pig本身提供的UDFs扩展机制,还从架构上探讨Pig扩展可能性. 补充说明:前些天同事发现twitter推动的Pig On Spark项目:Spork,准备研究下. UDFs 通过UDFs(用户自己定义函数),能够自己定义数据处理方法,扩展Pig功能.实际上,UDFS除了使用之前须要register/define外.和内置函数没什么不同. 主要的EvalFunc 以内置的ABS函数为例: public class AB…