# -*- coding: utf-8 -*-
import os
import csv
import pymongo
from pymongo import MongoClient
from bson.code import Code
from pymongo import MongoClient

#建立连接
client = MongoClient('10.20.4.79', 27017)
#client = MongoClient('10.20.66.106', 27017)
db_name = 'ta' #数据库名
db = client[db_name]

插入测试数据:

  for i in xrange(1000):
    rID=math.floor(random.random()*10); 
    price = round(random.random()*10,2); 
    if rID < 4:
      db.test.insert({"_id":i,"user":"Joe","product":rID,"price":price}); 
    elif rID>=4 and rID<7:
      db.test.insert({"_id":i,"user":"Josh","product":rID,"price":price}); 
    else:
      db.test.insert({"_id":i,"user":"Ken","product":rID,"price":price});

  结果数据为: 

  { "_id" : 0, "price" : 5.9, "product" : 9, "user" : "Ken" }
  { "_id" : 1, "price" : 7.59, "product" : 7, "user" : "Ken" }
  { "_id" : 2, "price" : 4.72, "product" : 0, "user" : "Joe" }
  { "_id" : 3, "price" : 1.35, "product" : 1, "user" : "Joe" }
  { "_id" : 4, "price" : 2.31, "product" : 0, "user" : "Joe" }
  { "_id" : 5, "price" : 5.29, "product" : 5, "user" : "Josh" }
  { "_id" : 6, "price" : 3.34, "product" : 1, "user" : "Joe" }
  { "_id" : 7, "price" : 7.2, "product" : 4, "user" : "Josh" }
  { "_id" : 8, "price" : 8.1, "product" : 6, "user" : "Josh" }
  { "_id" : 9, "price" : 2.57, "product" : 3, "user" : "Joe" }
  { "_id" : 10, "price" : 0.54, "product" : 2, "user" : "Joe" }
  { "_id" : 11, "price" : 0.66, "product" : 1, "user" : "Joe" }
  { "_id" : 12, "price" : 5.51, "product" : 1, "user" : "Joe" }
  { "_id" : 13, "price" : 3.74, "product" : 6, "user" : "Josh" }
  { "_id" : 14, "price" : 4.82, "product" : 0, "user" : "Joe" }
  { "_id" : 15, "price" : 9.79, "product" : 3, "user" : "Joe" }
  { "_id" : 16, "price" : 9.6, "product" : 5, "user" : "Josh" }
  { "_id" : 17, "price" : 4.06, "product" : 7, "user" : "Ken" }
  { "_id" : 18, "price" : 1.37, "product" : 5, "user" : "Josh" }
  { "_id" : 19, "price" : 6.77, "product" : 9, "user" : "Ken" }

测试1、每个用户各购买了多少个产品?
用SQL语句实现为:select user,count(product) from test group by user  mapper = Code("""function (){emit(this.user,{count:1})}""")

  reduce = Code("function (key, values) {"
    " var total = 0;"
    " for (var i = 0; i < values.length; i++) {"
    " total += values[i].count;"
    " }"
    " return {count:total};"
    "}")

    result=db.test.map_reduce(mapper,reduce,out ='myresults')

  for doc in db.myresults.find():

    print doc

 测试 2、查询每个用户,买了多少商品,总价格,及评价价格   条件是价格大于5的 SQL实现:select user,count(sku),sum(price),      

   round(sum(price)/count(sku),2) as avgPrice from test where prince>5 group by user


  mapper=Code("""function (){emit(this.user,{amount:this.price,count:1,avgPrice:0})}""")

  reduce = Code("function (key, values) {"
    " var res={amount:0,count:0,avgPrice:0};"
    " for (var i = 0; i < values.length; i++) "
    " {"
      " res.count += values[i].count;"
      " res.amount += values[i].amount;"
    " }"
     " res.avgPrice = (res.amount/res.count).toFixed(2);"
    " return res;"
    "}")

  result = db.test.map_reduce(mapper,reduce,out ='myresults',query={'price':{'$gt': 6}})

   for doc in db.myresults.find():
    print doc

 

python mongodb MapReduce的更多相关文章

  1. MongoDB MapReduce(转)

    MapReduce MapReduce是一种计算模型,简单的说就是将大批量的工作(数据)分解(MAP)执行,然后再将结果合并成最终结果(REDUCE).这样做的好处是可以在任务被分解后,可以通过大量机 ...

  2. Python Mongodb接口

    Python Mongodb接口 MongoDB 是一个基于分布式文件存储的数据库.由 C++ 语言编写.旨在为 WEB 应用提供可扩展的高性能数据存储解决方案. 同时,MongoDB 是一个介于关系 ...

  3. 用python写MapReduce函数——以WordCount为例

    尽管Hadoop框架是用java写的,但是Hadoop程序不限于java,可以用python.C++.ruby等.本例子中直接用python写一个MapReduce实例,而不是用Jython把pyth ...

  4. python+MongoDB使用示例

    本博客起源于博主的大三NoSQL课程设计,采用python+MongoDB结合方式,将数据从txt文件导入MongoDB之中,再将其取出以作图.主要技术是采用python与MongoDB结合存储读取方 ...

  5. Python实现MapReduce,wordcount实例,MapReduce实现两表的Join

    Python实现MapReduce 下面使用mapreduce模式实现了一个简单的统计日志中单词出现次数的程序: from functools import reduce from multiproc ...

  6. Python MongoDB 教程

    基于菜鸟教程实际操作后总结而来 Python MongoDB MongoDB 是目前最流行的 NoSQL 数据库之一,使用的数据类型 BSON(类似 JSON). MongoDB 数据库安装与介绍可以 ...

  7. mongodb mapreduce使用总结

    文章来自本人个人博客: mongodb mapreduce使用总结 ​ 大家都知道,mongodb是一个非关系型数据库.也就是说.mongodb数据库中的每张表是独立存在的,表与表之间没有不论什么依赖 ...

  8. 吴裕雄--天生自然python学习笔记:Python MongoDB

    MongoDB 是目前最流行的 NoSQL 数据库之一,使用的数据类型 BSON(类似 JSON). PyMongo Python 要连接 MongoDB 需要 MongoDB 驱动,这里我们使用 P ...

  9. [python]Mongodb

    文档: http://api.mongodb.com/python/current/tutorial.html 安装: 官网直接下载安装, mac上brew安装的下载太慢, 打算手动安装 使用: 开启 ...

随机推荐

  1. [置顶] c++类的继承(inheritance)

    在C++中,所谓"继承"就是在一个已存在的类的基础上建立一个新的类.已存在的类(例如"马")称为"基类(base class )"或&quo ...

  2. Discuz论坛架构改造

    这个论坛一直通过NFS服务共享文件给三台web服务器做负载均衡. 在实际环境中WEB Server总是出现CPU负载突然升高.文件交互的网络流量异常.甚至WEB Server夯死,NFS不能卸载,只能 ...

  3. JVM优化

    1.堆大小设置 JVM 中最大堆大小有三方面限制:相关操作系统的数据模型(32-bt还是64-bit)限制:系统的可用虚拟内存限制:系统的可用物理内存限制.32位系统下,一般限制在1.5G~2G:64 ...

  4. 【转载】TCL装载包和版本控制

    转载来源:http://blog.chinaunix.net/uid-9967220-id-3033702.html package forget ?package package ...?      ...

  5. 【转】Android应用程序的数据存放目录解说

    Android的每个应用程序,都有自己的可控的目录. 在Setting/Application info里面,可以看到每个应用程序,都有Clear data和Clear cache选项. 具体这些目录 ...

  6. mysql同时向一个表中插入多条数据问题!!见详细

    INSERT INTO `表名` (`字段1`,`字段2`,`字段3`,`字段4`) values ('数组1数据1','数组1数据2','数组1数据3','数组1数据4'), ('数组2数据1',' ...

  7. sql 更新重复数据只取一条记录

    select s.*  from (     select *, row_number() over (partition by PersonnelAccount order BY Personnel ...

  8. oracle学习(1)

    1.安装完oracle数据库后,远程第一次无法登陆,需要进入sys用户后,更改以此后才有效. 2.TNS去读取配置的时候,如果在环境变量中已经配置了 TNS_ADMIN 后,则直接从此目录下读取. 3 ...

  9. C#常量字段

    const 常量字段使用方法 using System;using System.Collections.Generic;using System.Linq;using System.Text;usi ...

  10. android 登陆案例

    aaarticlea/png;base64,iVBORw0KGgoAAAANSUhEUgAABEMAAAJuCAIAAADU3FtnAAAgAElEQVR4nOydZ3Rc1dX3nbXez2+erC