该脚本的目的:获取博客的排名和积分,将抓取时间,排名,积分存入数据库,然后把最近的积分和排名信息进行绘图,查看积分或者排名的变化情况. 整个脚本的流程:是利用python3来编写,利用selnium获取网页的信息,使用re正则表达式解析积分score和排名rank,用pymysql连接mysql数据库,最后利用matplotlib进行绘图. 首先创建db: xiaoshitou 创建表blog_rank: CREATE TABLE `blog_rank` ( `id` int(11) NOT N

在数据库设计完成之后, 常常需要在 wiki 或其他文档中保存一份数据库中所有表的 desc 描述, 尤其是每个字段的含义和用途. 手动去生成自然是不可取的. 因此, 我编写了一个简单的 python 程序,可以自动生成数据库中所有表的 desc 描述, 并以可读格式输出. # -*- coding: utf-8 -*- # ------------------------------------------------------------------------------- # Name

首先数据库里的字段类型需要设置为json: 存储这个json时需要把这个json变为字符串,而且是最外层为单引号,内部字符串为双引号!如图:  所以python脚本中这个字段的字符串应该这样写: 得出的字符串为: insert 语句为:       以下是得出此结论做过的测试: 双引号套单引号不可以: 直接写成字典更不可以:  

python之数据库操作(sqlite) 不像常见的客户端/服务器结构范例,SQLite引擎不是个程序与之通信的独立进程,而是连接到程序中成为它的一个主要部分.所以主要的通信协议是在编程语言内的直接API调用.这在消耗总量.延迟时间和整体简单性上有积极的作用.整个数据库(定义.表.索引和数据本身)都在宿主主机上存储在一个单一的文件中.相比其它大型数据库来说,确实有些差距.但是包括事务(transaction),就是代表原子性.一致性.隔离性和持久性的(ACID),触发器(trigger)和多数的

试验环境: Python 3.7.0 Mysql 5.0 实验目的: 使用python将数据库中指定的列中的数值取出来,并循环遍历,用以当成参数传递给需要它的方法. 本次实验取的是para列的数据 实验代码: #!/usr/bin/env python # -*- coding: utf-8 -*- # @File : sqlTest.py # @Author: cjj # @Date : 2019/6/12 # @Desc : 提取数据库里面的指定列的值 import pandas as pd

用python从数据库中取到数据后,写入excel中做成自动报表,ExcelWrite默认的格式一般来说都比较丑,但workbook提供可以设置自定义格式,简单记录个demo,供初次使用者参考. 一. 取几列数据长下面这样,数字我随便编的,不用在意: 二.ExcelWriter写入后默认格式长下面这样,字体丑,宽度不够,没有百分比格式: 三.设置格式后保存结果,好看多了: 四.好了,实现在下面代码里有注释 # -*- coding: utf-8 -*- import pandas as pd i

猫眼票房排行榜页面显示如下: 注意右边的票房数据显示,爬下来的数据是这样显示的: 网页源代码中是这样显示的: 这是因为网页中使用了某种字体的缘故,分析源代码可知: 亲测可行: 代码中获取的是国内票房榜,稍加修改也可适用于最受期待榜和北美票房榜 解决思路如下: 1.获取网页数据后,查找字体信息,获取到字体链接,下载字体保存到本地 2.使用fontTools读取字体中的字符集,并构造字典(依据基准字体) 3.根据字典,替换网页中的相关数据信息. 注意:如果使用BeautifulSoup一定要先使用字

python制作简单excel统计报表3之将mysql数据库中的数据导入excel模板并生成统计图 # coding=utf-8 from openpyxl import load_workbook from openpyxl.chart import ( AreaChart, Reference ) import MySQLdb class GaokaoExport(object): def __init__(self): self.wb = load_workbook('./static/t

前面一篇文章主要讲述,如何通过Python爬取招聘信息,且爬取的日期为前一天的,同时将爬取的内容保存到数据库中:这篇文章主要讲述如何将python文件压缩成exe可执行文件,供后面的操作. 这系列文章主要是最近研究了数据库的定时计划备份,联系爬虫简单做的一个实验,但方法可以,尤其在Windows xp年代.整个系列主要分为五部分,共五篇文章: 1.Python爬取招聘信息,并且存储到MySQL数据库中: 2.调用pyinstaller包将py文件打包成exe可执行文件: 3.设置Windows系

在mysql数据库中制作千万级测试表 前言: 最近准备深入的学一下mysql,包括各种引擎的特性.性能优化.分表分库等.为了方便测试性能.分表等工作,就需要先建立一张比较大的数据表.我这里准备先建一张千万记录用户表. 步骤: 1 创建数据表(MYISAM方式存储插入速度比innodb方式快很多)   数据表描述 数据量:1千万 字段类型: id :编号 uname:用户名 ucreatetime: 创建时间 age:年龄 CREATE TABLE usertb(    id serial,   

基于之前的项目代码来编写 Python Django CMDB项目实战之-1如何开启一个Django-并设置base页index页文章页面 现在我们修改一个文章列表是从数据库中获取数据, 下面我们就需要创建APP ,和数据库相关设置 运行命令 然后可以看到项目中会自动生成Server的文件 下面配置数据库 在setting.py中加入Server 然后配置连接数据库 默认是sqlite3数据库 在setting.py中我们改为连接自己的数据库 如图: 下面,我们需要定义一个类作为ORM 数据库映

下面是我写的python的一个小脚本,作用是:判断文本中的用户名在数据库中是否存在,存在返回1,不存在返回0.用的是MySQL数据库. 要注意的是:strip函数的使用,该函数的作用是去除字符串两端多余的whitespace. 所以strip的作用肯定不是像书上说的去除字符串两端多余空格. 查了一下文档说 Return a copy of the string with the leading and trailing characters removed. The chars argument

本来想子项目(开放数据域)想使用EUI来制作排行榜. 原5.1.11的时候是ok的.在5.2.2中,使用assetsmananger而不是res,则会报错wx.getFileSystemManager not function. 查找到这个报错是在egret.wxgame.js里 修改配置文件,将子项目的assetsmananger改成res,则这个报错消失. 但是即使使用res,也不能去加载default.res.json文件. res仅仅能够让你能使用 let img:eui.Image =

数据库中的表示这样设计的 class C(models.Model): name = models.CharField(max_length=32) class B(models.Model): name = models.CharField(max_length=32) b = models.ForeignKey(C) class A(models.Model): name = models.CharField(max_length=32) a = models.ForeignKey(B) d

孤荷凌寒自学python第五十四天使用python来删除Firebase数据库中的文档 (完整学习过程屏幕记录视频地址在文末) 今天继续研究Firebase数据库,利用google免费提供的这个数据库服务,今天主要尝试使用firebase_admin模块来对firebase数据库进行删除文档操作获得成功. 一.简单总结下今天对firebase_admin模块对象的学习(一)删除一个文档要删除Firebase数据库中的一个集合下的一个文档只需要执行文档对象的delete()方法.具体用法如下:文档

 孤荷凌寒自学python第五十三天使用python写入和修改Firebase数据库中记录 (完整学习过程屏幕记录视频地址在文末) 今天继续研究Firebase数据库,利用google免费提供的这个数据库服务,今天主要尝试使用firebase_admin模块来对firebase数据库进入记录的写入和修改. 获得成功. 一.简单总结下今天对firebase_admin模块对象的学习 (一)覆盖和全新写入一个指定的firebase数据库中的文档的内容 Firebase数据库中的一条记录(fireba

孤荷凌寒自学python第五十二天初次尝试使用python读取Firebase数据库中记录 (完整学习过程屏幕记录视频地址在文末) 今天继续研究Firebase数据库,利用google免费提供的这个数据库服务,今天主要尝试使用firebase_admin模块来连接firebase数据库. 获得成功. 一.简单总结下今天对firebase_admin模块对象的学习 (一)要通过firebase_admin模块连接到firebase数据库,那么必须要拥有一个从firebase网站上自己的数据库的[用

孤荷凌寒自学python第四十八天通用同一数据库中复制数据表函数最终完成 (完整学习过程屏幕记录视频地址在文末) 今天继续建构自感觉用起来顺手些的自定义模块和类的代码. 今天经过反复折腾,最终基本上算是比较好地完成了这个在同一数据库中复制数据表的函数,且同一函数支持目前研究的四种数据库(mysql,mssql,access,sqlite). 一.首先是到今天完成为止的_mdb.py文件中的全部内容: #!/usr/bin/env python3 # -*- coding: utf-8 -*- i

孤荷凌寒自学python第四十七天通用跨数据库同一数据库中复制数据表函数 (完整学习过程屏幕记录视频地址在文末) 今天继续建构自感觉用起来顺手些的自定义模块和类的代码. 今天打算完成的是通用的(至少目前操作四种数据库)在同一数据库内复制数据表的方法函数. 此设想最初我自我感觉都非常简单,然而事实是关系型数据库统一使用的sql语言在各家其实是完全不同的! 一.了解清楚了我目前研究的四种关系型数据库对同一数据库中数据表的复制操作的sql语句的异同也效果局限 (一)Access 数据库与mssql数据

*****************数据库迁移(同步)命令******************************** 1.python manage.py makemigrations 将数据库的修改,记录到migrations文件中 2.python manage.py migrate 将修改操作真正的同步记录到数据库中 注意事项: 1.这两条命令是同步进行的,成双成对,缺一不可 2.只要修改了models里面和数据库相关的代码,你就必须重新执行上面的两条命令 个人建议: 只要你离开了你的

既然使用python操作数据库必不可少的得使用pymysql模块 可使用两种方式进行下载安装: 1.使用pip方式下载安装 pip install pymysql 2.IDE方式 安装完成后就可以正常导入模块使用 我们这里使用简单的测试,创建一个数据库及表,表里放入字段name,age 我们去网上先找到百家姓及在起名网站里复制一些名字用于生成姓名: lst_first = [ '赵', '钱', '孙', '李', '周', '吴', '郑', '王', '冯', '陈', '褚', '卫',