python+MongoDB使用示例
本博客起源于博主的大三NoSQL课程设计,采用python+MongoDB结合方式,将数据从txt文件导入MongoDB之中,再将其取出以作图。主要技术是采用python与MongoDB结合存储读取方案,所以本博客截取了课设的部分内容,主要讲解python操作MongoDB方案实现,以给想要学习python+MongoDB编程开发的同学学习练手。
设计思路
1、Python编程语言和MongoDB有驱动包pymongo连接,使用pymongo对MongoDB进行编程开发、数据读取,以及后续的画图分析和数据可视化处理
2、使用的数据文件sample.txt.txt。
设计内容
1、先使用dataToMongo.py将文件清洗后导入MongoDB中。
(1) 创建并连接到MongoDB 中的nosql数据库;
(2) 创建并连接到nosql数据库的集合sample;
2、对读出的数据进行可视化处理。
(1) 画图主要使用的Python包为matplotlib.plot。
设计步骤及结果测试
1、先使用dataToMongo.py将文件清洗后导入MongoDB中。
(1) 采用pymongo连接驱动
(2) 采用pymongo的MongoClient类连接mongod
(3) python中使用的mongo常用语法与mongo的JSON语法基本相同。
MongoDB启动:
启动Python脚本dataToMongo.py将数据从文件中读出并存入MongoDB中:
注意要使用以下命令 (由于前期使用python+Hadoop的方式编写,所以使用了unix输入输出流来读数据):
# cat sample.txt.txt | ./dataToMongo.py
数据成功存入MongoDB:
dataToMongo.py
#!/usr/bin/python3
# -*- coding:utf-8 -*-
# 这个文件是用来将数据存入MongoDB中数据库nosql的
# collection为 sample (db.sample.find())
# 格式为:"line1": [data1,data2...] from pymongo import MongoClient
import sys # Connect to mongod, use DB: 'nosql', use COLLECTION: 'sample'
conn = MongoClient('127.0.0.1', 27017) #连接mongod
db = conn.nosql #连接'nosql'数据库,没有则自动创建
sample = db.sample #使用sample集合,没有则自动创建 n = 1
data = list()
for line in sys.stdin:
data = line.strip().split()
linenum="line"+str(n) # linenum是line字符串+数字组成的字符串,后面插入数据集时会用到
if n==1:
pass # 第一行数据是没用的,清洗掉
elif n==2:
data = data[4:] # 实测观察数据从第四个数据开始
data[0] = '-3.1415926536' # 原数据是‘Real=-3.1415926536’,所以将数据修改下
for index,item in enumerate(data):
data[index] = float(item) # 将原来是字符串的数据转为float类型
sample.insert({ # 将数据插入(insert)MongoDB中的sample集合
"line":linenum, # 这里我为了后续作图方便,插入了一个{line:linenum}的键值对
"value":data # {value: data}键值对, data是一个list变量哦
})
else:
data = data[2:] # 和第二行的数据不一样,实测观察出的,有时候编程是要一步步观察修改的
for index,item in enumerate(data): # 考验自己的动手能力,怎么观察实现要自己想办法了
data[index] = float(item)
sample.insert({
"line":linenum,
"value":data
})
n+=1
2、对读出的数据进行可视化处理。
画图脚本:main.py
(1) 第一个图:
蓝色的线是在1.0*10^9频率下,phi=0
橙色的线是在1.0*10^9频率下,phi=1.5707963268。
横坐标是Theta(degree),范围从-Pi ~Pi;纵坐标是电场值。
相同频率下,theta角度越大,电场值越小。
main.py
#!/usr/bin/python3
# -*- coding:utf-8 -*-
# file : main.py
# 这个文件是用来读取MongoDB中nosql数据库.sample集合数据
# 读出之后作图 from pymongo import MongoClient
import matplotlib.pyplot as plt # Connect to mongod, use DB: 'nosql', use COLLECTION: 'sample'
conn = MongoClient('127.0.0.1', 27017) #连接mongod
db = conn.nosql #连接'nosql'数据库,没有则自动创建
sample = db.sample #使用sample集合,没有则自动创建 angle_theta_radian=sample.find_one({"line":"line2"})['value'] #使用find_one查找第2行的数据,取其名为‘value’的键值对的值
data_phi0=sample.find_one({"line":"line3"})['value'] #使用find_one查找第3行的数据,取其名为‘value’的键值对的值
data_phi90=sample.find_one({"line":"line48"})['value'] #使用find_one查找第48行的数据,取其名为‘value’的键值对的值 plt1, = plt.plot(angle_theta_radian,data_phi0) #作图1
plt2, = plt.plot(angle_theta_radian,data_phi90) #作图2
plt.legend([plt1,plt2],['Electrial Field1','Electrial Field2'],loc='upper right') #设置图例
plt.xlabel('Theta (degree)') #设置x轴标签
plt.ylabel('Electrical field (V/m)') #设置y轴标签
plt.show() #以上一起显示出来
(2) 第二个图:
蓝色的线是,在1.0*10^9频率下,phi=0;
橙色的线是,在1.02*10^9频率下,phi=0;(第93行: line93)
横坐标是Theta(degree),范围从-Pi ~Pi;纵坐标是电场值。
相同theat角度下,频率越高,电场值绝对值越大。
实现:将main.py脚本文件中的
data_phi90=sample.find_one({"line":"line48"})['value']
修改为:
data_phi90=sample.find_one({"line":"line93"})['value']
即可得出。
数据文件说明:
1、数据文件概述:是测试的电场强度数据文件。
包括多个频率测试的电场强度,每个频率的数据是一个数据块。
在一个频率点测试的数据(每一块数据里面),又包括多行数据(每行是一个theta角度的数据)和多列数据(每一列为一个phi角度的数据)。
2、数据文件含义:
3、实验测试与数据的关系如下
对于文件sample.txt.txt,只有两个频率(109频率和1.2*109频率)。
感谢李老师的数据文件说明,如果有任何侵权问题,博主可以立即删除。
博客好像发不了文件,如果需要数据文件的话请留言邮箱,看到了发给你。
python+MongoDB使用示例的更多相关文章
- Python Thrift 简单示例
本文基于Thrift-0.10,使用Python实现服务器端,使用Java实现客户端,演示了Thrift RPC调用示例.Java客户端提供两个字符串参数,Python服务器端计算这两个字符串的相似度 ...
- Python Mongodb接口
Python Mongodb接口 MongoDB 是一个基于分布式文件存储的数据库.由 C++ 语言编写.旨在为 WEB 应用提供可扩展的高性能数据存储解决方案. 同时,MongoDB 是一个介于关系 ...
- python psutil简单示例
python psutil简单示例 利用psutil编写简单的检测小脚本 0.安装psutil模块 ...
- Python操作SQLServer示例(转)
转自:http://www.cnblogs.com/lrzy/p/4346781.html 本文主要是Python操作SQLServer示例,包括执行查询及更新操作(写入中文). 需要注意的是:读取数 ...
- 转:Python操作SQLServer示例
注:此文也是转载,2018年1月发现此文阅读量过万,略感不安.当时只是为了自己存档学习,未粘此文的原始连接.如有侵权,通过即删除,敬请谅解! 从网上找的,估计原文是:Python操作SQLServer ...
- Websocket - Websocket原理(握手、解密、加密)、基于Python实现简单示例
一.Websocket原理(握手.解密.加密) WebSocket协议是基于TCP的一种新的协议.WebSocket最初在HTML5规范中被引用为TCP连接,作为基于TCP的套接字API的占位符.它实 ...
- Python操作SQLServer示例
本文主要是Python操作SQLServer示例,包括执行查询及更新操作(写入中文). 需要注意的是:读取数据的时候需要decode('utf-8'),写数据的时候需要encode('utf-8'), ...
- Python MongoDB 教程
基于菜鸟教程实际操作后总结而来 Python MongoDB MongoDB 是目前最流行的 NoSQL 数据库之一,使用的数据类型 BSON(类似 JSON). MongoDB 数据库安装与介绍可以 ...
- 吴裕雄--天生自然python学习笔记:Python MongoDB
MongoDB 是目前最流行的 NoSQL 数据库之一,使用的数据类型 BSON(类似 JSON). PyMongo Python 要连接 MongoDB 需要 MongoDB 驱动,这里我们使用 P ...
随机推荐
- Eclipse导出可运行的jar包并运行
https://blog.csdn.net/kpchen_0508/article/details/49275407 程序运行的第二种方式:
- CSMA/CD 续
重要特性 以太网不能进行全双工通信而只能进行双向交替通信(半双工通信).每个站在发送数据之后的一小段时间内,存在着遭遇碰撞的可能性. 这种发送的不确定性使整个以太网的平均通信量远小于以太网的最高数据率 ...
- python3.6+GDAL-2.1.3环境配置
1.下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/#gdal 2.配置:见上图命令(跟以前相似) 3.测试:
- codeforces 722E Research Rover
codeforces 722E Research Rover 题意 \(1e5*1e5\)的棋盘中有\(2000\)个坏点,初始给定一个值\(s(1<=s<=1e6)\).从棋盘左上角走到 ...
- Java中如何利用File类递归的遍历指定目录中的所有文件和文件夹
package cuiyuee; import java.io.File; import java.util.ArrayList; import java.util.List; public clas ...
- python内置模块(三)
hashlib模块 通过一个函数,把任意长度的数据转换为一个长度固定的数据串(通常用16进制的字符串表示). Python2中使用hashlib: import hashlib m = hashlib ...
- MMM的一个Bug
最近由于 CPAN上 Net::ARP 这个包的稳定版本从 1.0 升级到了 1.0.8, 导致触发了mmm的一个bug. bug的现象: agent没有办法将VIP附着在本机上. agent日志 ...
- BZOJ1016:[JSOI2008]最小生成树计数(最小生成树,DFS)
Description 现在给出了一个简单无向加权图.你不满足于求出这个图的最小生成树,而希望知道这个图中有多少个不同的最小生成树.(如果两颗最小生成树中至少有一条边不同,则这两个最小生成树就是不同的 ...
- docker-4-镜像
是什么 镜像是一种轻量级.可执行的独立软件包,用来打包软件运行环境和基于运行环境开发的软件, 它包含运行某个软件所需的所有内容,包括代码.运行时.库.环境变量和配置文件. 1.UnionFS(联合文件 ...
- valgrind massif内存分析[转]
valgrind检查内存泄露 #valgrind ./程序 内存泄漏问题,我们有memcheck工具来检查.很爽.但是有时候memcheck工具查了没泄漏,程序一跑,内存还是狂飙.这又是什么问题. ...