数据 commonfriends.txt

A:B,C,D,F,E,O

B:A,C,E,K

C:F,A,D,I

D:A,E,F,L

E:B,C,D,M,L

F:A,B,C,D,E,O,M

G:A,C,D,E,F

H:A,C,D,E,O

I:A,O

J:B,O

K:A,C,D

L:D,E,F

M:E,F,G

O:A,H,I,J

pom.xml

<?xml version="1.0" encoding="UTF-8"?>

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"

         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/maven-v4_0_0.xsd">

  <modelVersion>4.0.0</modelVersion>

  <groupId>com.cyf</groupId>

  <artifactId>MapReduceCases</artifactId>

  <packaging>jar</packaging>

  <version>1.0</version>

  <properties>

    <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>

    <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>

  </properties>

  <dependencies>

    <dependency>

      <groupId>org.apache.hadoop</groupId>

      <artifactId>hadoop-common</artifactId>

      <version>2.6.4</version>

    </dependency>

    <dependency>

      <groupId>org.apache.hadoop</groupId>

      <artifactId>hadoop-hdfs</artifactId>

      <version>2.6.4</version>

    </dependency>

    <dependency>

      <groupId>org.apache.hadoop</groupId>

      <artifactId>hadoop-client</artifactId>

      <version>2.6.4</version>

    </dependency>

    <dependency>

      <groupId>org.apache.hadoop</groupId>

      <artifactId>hadoop-mapreduce-client-core</artifactId>

      <version>2.6.4</version>

    </dependency>

    <dependency>

      <groupId>com.alibaba</groupId>

      <artifactId>fastjson</artifactId>

      <version>1.1.40</version>

    </dependency>

    <dependency>

      <groupId>mysql</groupId>

      <artifactId>mysql-connector-java</artifactId>

      <version>5.1.36</version>

    </dependency>

  </dependencies>

  <build>

    <plugins>

      <plugin>

        <artifactId>maven-assembly-plugin</artifactId>

        <configuration>

          <appendAssemblyId>false</appendAssemblyId>

          <descriptorRefs>

            <descriptorRef>jar-with-dependencies</descriptorRef>

          </descriptorRefs>

          <archive>

            <manifest>

              <mainClass>cn.itcast.mapreduce.commonfriends.CommonFriendsStepOne</mainClass>

            </manifest>

          </archive>

        </configuration>

        <executions>

          <execution>

            <id>make-assembly</id>

            <phase>package</phase>

            <goals>

              <goal>assembly</goal>

            </goals>

          </execution>

        </executions>

      </plugin>

    </plugins>

  </build>

</project>
CommonFriendsStepOne.java打包并上传
package cn.itcast.mapreduce.commonfriends;

import java.io.IOException;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.LongWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Job;

import org.apache.hadoop.mapreduce.Mapper;

import org.apache.hadoop.mapreduce.Reducer;

import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;

import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import cn.itcast.mapreduce.index.IndexStepTwo;

import cn.itcast.mapreduce.index.IndexStepTwo.IndexStepTwoMapper;

import cn.itcast.mapreduce.index.IndexStepTwo.IndexStepTwoReducer;

public class CommonFriendsStepOne {

    public static class CommonFriendsStepOneMapper extends Mapper<LongWritable, Text, Text, Text> {

        @Override

        protected void map(LongWritable key, Text value, Context context)

                throws IOException, InterruptedException {

            String line = value.toString();

            String[] splits = line.split(":");

            String person = splits[0];

            String[] friends = splits[1].split(",");

            for (String fString : friends) {

                context.write(new Text(fString), new Text(person));

            }

        }

    }

    public static class CommonFriendsStepOneReducer extends Reducer<Text, Text, Text, Text> {

        @Override

        protected void reduce(Text friend, Iterable<Text> persons, Context context)

                throws IOException, InterruptedException {

            StringBuffer sBuffer = new StringBuffer();

            for (Text pText : persons) {

                sBuffer.append(pText).append("-");

            }

            context.write(friend, new Text(sBuffer.toString()));

        }

    }

    public static void main(String[] args) throws Exception {

        Configuration conf = new Configuration();

        Job job = Job.getInstance(conf);

//        job.setJarByClass(CommonFriendsStepOne.class);

        //告诉框架，我们的程序所在jar包的位置

        job.setJar("/root/CommonFriendsStepOne.jar");

        //告诉程序，我们的程序所用的mapper类和reducer类是什么

        job.setMapperClass(CommonFriendsStepOneMapper.class);

        job.setReducerClass(CommonFriendsStepOneReducer.class);

        //告诉框架，我们程序输出的数据类型

        job.setMapOutputKeyClass(Text.class);

        job.setMapOutputValueClass(Text.class);

        job.setOutputKeyClass(Text.class);

        job.setOutputValueClass(Text.class);

        //告诉框架，我们要处理的数据文件在那个路劲下

        FileInputFormat.setInputPaths(job, new Path("/commonfriends/input"));

        //告诉框架，我们的处理结果要输出到什么地方

        FileOutputFormat.setOutputPath(job, new Path("/commonfriends/output-1"));

        boolean res = job.waitForCompletion(true);

        System.exit(res ? 0 : 1);

    }

}

运行

hadoop jar CommonFriendsStepOne.jar cn.itcast.mapreduce.index.CommonFriendsStepOne

生成结果

CommonFriendsStepTwo.java
package cn.itcast.mapreduce.commonfriends;

import java.io.IOException;

import java.util.Arrays;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.LongWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Job;

import org.apache.hadoop.mapreduce.Mapper;

import org.apache.hadoop.mapreduce.Reducer;

import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;

import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

public class CommonFriendsStepTwo {

    /**

     * A    I-K-C-B-G-F-H-O-D-

     * B    A-F-J-E-

     * C    A-E-B-H-F-G-K-

     */

    public static class CommonFriendsStepTwoMapper extends Mapper<LongWritable, Text, Text, Text> {

        @Override

        protected void map(LongWritable key, Text value, Context context)

                throws IOException, InterruptedException {

            String line = value.toString();

            String[] splits = line.split("\t");

            String friend = splits[0];

            String[] persons = splits[1].split("-");

            Arrays.sort(persons);

            for (int i = 0; i < persons.length - 1; i++) {

                for (int j = i + 1; j < persons.length; j++) {

                    context.write(new Text(persons[i] + "-" + persons[j]), new Text(friend));

                }

            }

        }

    }

    public static class CommonFriendsStepTwoReducer extends Reducer<Text, Text, Text, Text> {

        @Override

        protected void reduce(Text person_pair, Iterable<Text> friends, Context context)

                throws IOException, InterruptedException {

            StringBuffer sBuffer = new StringBuffer();

            for (Text fText : friends) {

                sBuffer.append(fText).append(" ");

            }

            context.write(person_pair, new Text(sBuffer.toString()));

        }

    }

    public static void main(String[] args) throws Exception {

        Configuration conf = new Configuration();

        Job job = Job.getInstance(conf);

//        job.setJarByClass(CommonFriendsStepTwo.class);

        //告诉框架，我们的程序所在jar包的位置

        job.setJar("/root/CommonFriendsStepTwo.jar");

        //告诉程序，我们的程序所用的mapper类和reducer类是什么

        job.setMapperClass(CommonFriendsStepTwoMapper.class);

        job.setReducerClass(CommonFriendsStepTwoReducer.class);

        //告诉框架，我们程序输出的数据类型

        job.setMapOutputKeyClass(Text.class);

        job.setMapOutputValueClass(Text.class);

        job.setOutputKeyClass(Text.class);

        job.setOutputValueClass(Text.class);

        //告诉框架，我们要处理的数据文件在那个路劲下

        FileInputFormat.setInputPaths(job, new Path("/commonfriends/output-1"));

        //告诉框架，我们的处理结果要输出到什么地方

        FileOutputFormat.setOutputPath(job, new Path("/commonfriends/output-2"));

        boolean res = job.waitForCompletion(true);

        System.exit(res ? 0 : 1);

    }

}

修改pom.xml文件

打包并上传

运行

hadoop jar CommonFriendsStepTwo.jar cn.itcast.mapreduce.index.CommonFriendsStepTwo

运行结果

A-B    E C

A-C    D F

A-D    E F

A-E    D B C

A-F    O B C D E

A-G    F E C D

A-H    E C D O

A-I    O

A-J    O B

A-K    D C

A-L    F E D

A-M    E F

B-C    A

B-D    A E

B-E    C

B-F    E A C

B-G    C E A

B-H    A E C

B-I    A

B-K    C A

B-L    E

B-M    E

B-O    A

C-D    A F

C-E    D

C-F    D A

C-G    D F A

C-H    D A

C-I    A

C-K    A D

C-L    D F

C-M    F

C-O    I A

D-E    L

D-F    A E

D-G    E A F

D-H    A E

D-I    A

D-K    A

D-L    E F

D-M    F E

D-O    A

E-F    D M C B

E-G    C D

E-H    C D

E-J    B

E-K    C D

E-L    D

F-G    D C A E

F-H    A D O E C

F-I    O A

F-J    B O

F-K    D C A

F-L    E D

F-M    E

F-O    A

G-H    D C E A

G-I    A

G-K    D A C

G-L    D F E

G-M    E F

G-O    A

H-I    O A

H-J    O

H-K    A C D

H-L    D E

H-M    E

H-O    A

I-J    O

I-K    A

I-O    A

K-L    D

K-O    A

L-M    E F 
												


											
大数据学习——mapreduce共同好友的更多相关文章
	

    
								
  1. 大数据学习——mapreduce运营商日志增强
		
    需求 1.对原始json数据进行解析,变成普通文本数据 2.求出每个人评分最高的3部电影 3.求出被评分次数最多的3部电影 数据 https://pan.baidu.com/s/1gPsQXVYSQE ...
    
		
    2. 
						
  2. 大数据学习——mapreduce案例join算法
		
    需求: 用mapreduce实现select order.orderid,order.pdtid,pdts.pdt_name,oder.amount from orderjoin pdtson ord ...
    
		
    3. 
						
  3. 大数据学习——mapreduce学习topN问题
		
    求每一个订单中成交金额最大的那一笔  top1 数据 Order_0000001,Pdt_01,222.8 Order_0000001,Pdt_05,25.8 Order_0000002,Pdt_05 ...
    
		
    4. 
						
  4. 大数据学习——mapreduce倒排索引
		
    数据 a.txt hello jerry hello tom b.txt allen tom allen jerry allen hello c.txt hello jerry hello tom 1 ...
    
		
    5. 
						
  5. 大数据学习——mapreduce汇总手机号上行流量下行流量总流量
		
    时间戳 手机号 MAC地址 ip 域名 上行流量包个数 下行 上行流量 下行流量 http状态码 1363157995052 13826544101 5C-0E-8B-C7-F1-E0:CMCC 12 ...
    
		
    6. 
						
  6. 大数据学习——mapreduce程序单词统计
		
    项目结构 pom.xml文件 <?xml version="1.0" encoding="UTF-8"?> <project xmlns=&q ...
    
		
    7. 
						
  7. 大数据学习——MapReduce学习——字符统计WordCount
		
    操作背景 jdk的版本为1.8以上 ubuntu12 hadoop2.5伪分布 安装 Hadoop-Eclipse-Plugin 要在 Eclipse 上编译和运行 MapReduce 程序,需要安装 ...
    
		
    8. 
						
  8. 【机器学习实战】第15章 大数据与MapReduce
		
    第15章 大数据与MapReduce 大数据 概述 大数据: 收集到的数据已经远远超出了我们的处理能力. 大数据 场景 假如你为一家网络购物商店工作,很多用户访问该网站,其中有些人会购买商品,有些人则 ...
    
		
    9. 
						
  9. 大数据学习系列之四 ----- Hadoop+Hive环境搭建图文详解(单机)
		
    引言 在大数据学习系列之一 ----- Hadoop环境搭建(单机) 成功的搭建了Hadoop的环境,在大数据学习系列之二 ----- HBase环境搭建(单机)成功搭建了HBase的环境以及相关使用 ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. Codeforces Round #405 (rated, Div. 2, based on VK Cup 2017 Round 1) D
			
    Description A tree is an undirected connected graph without cycles. The distance between two vertice ...
    
			
    2. 
						
  2. LN : leetcode 494 Target Sum
			
    lc 494 Target Sum 494 Target Sum You are given a list of non-negative integers, a1, a2, ..., an, and ...
    
			
    3. 
						
  3. poj1190 生日蛋糕
			
    题意: 要制作一个体积为Nπ的M层生日蛋糕,每层都是一个圆柱体. 设从下往上数第i(1 <= i <= M)层蛋糕是半径为Ri, 高度为Hi的圆柱.当i < M时,要求Ri > ...
    
			
    4. 
						
  4. CCF|最大波动|Java|100
			
    import java.util.*; public class Main { public static void main(String[] args) { Scanner in = new Sc ...
    
			
    5. 
						
  5. Python behave in BDD
			
    BDD概念 全称 Behavior-driven development 中文 行为驱动开发 概念 是敏捷软件开发技术的一种,鼓励各方人员在一个软件项目里交流合作,包括开发人员.测试人员和非技术人员或 ...
    
			
    6. 
						
  6. 杨辉三角python的最佳实现方式，牛的不能再牛了
			
    def triangles(): N = [1] while True: yield N N.append(0) N = [N[i-1] + N[i] for i in range(len(N))]  ...
    
			
    7. 
						
  7. 螺旋数字的python实现
			
    螺旋数字的算法简单实现. 示例 5 01 02 03 04 05 16 17 18 19 06 15 24 25 20 07 14 23 22 21 08 13 12 11 10 09 通过观察,外部 ...
    
			
    8. 
						
  8. 朴素贝叶斯法（naive Bayes）
			
    <统计学习方法>(第二版)第4章 4 朴素贝叶斯法 生成模型 4.1 学习与分类 基于特征条件独立假设学习输入输出的联合概率分布 基于联合概率分布,利用贝叶斯定理求出后验概率最大的输出 条 ...
    
			
    9. 
						
  9. 如何快速上手基础的CSS3动画
			
    前言 说起CSS3动画,就必须说说 transform,translate,transition,animation这4个属性,transform主要定义元素的动作,比如旋转.倾斜.位移等,trans ...
    
			
    10. 
						
  10. hard fault 学习记录
			
    使用 segger 的 hard fault 的源文件后,当调试时,发生硬件错误的时候,可以查看 HardFaultRegs 中的内容,并对比 segger_HardFaultHandler.c 中的 ...
    
			
    11.