在TensorFlow热起来之前,很多人学习python的原因是因为想写爬虫.的确,有着丰富第三方库的python很适合干这种工作. Scrapy是一个易学易用的爬虫框架,尽管因为互联网多变的复杂性仍然有很多爬虫需要自己编写大量的代码,但能够有一个相对全面均衡的基础框架,工作还是会少许多. 框架安装 不好意思用别人网站作为被爬取的例子,下面从头开始,以本站为例,开始一个简单的爬虫之旅. 因为习惯原因,本文均以python2作为工作环境. scrapy框架的安装非常简单,只要一行命令,前提是你已经…
10分钟搭建一个小型网页(python django)(hello world!) 1.安装django pip install django 安装成功后,在Scripts目录下存在django-admin.py的文件. 2.安装 mysql接口 pip install MySQL-python 2.创建项目HelloWorld 通过调用django-admin文件中的startproject命令进行安装. cd到目录下,执行命令 django-admin startproject HelloW…
Python Scrapy 入门教程 入门教程笔记: # 创建mySpider scrapy startproject mySpider # 创建itcast.py cd C:\Users\theDataDiggers\mySpider\mySpider\spiders scrapy genspider itcast "itcast.cn" # itcast(itcast.py name)---ItcastSpider(类名) #该类有3个强制的属性,和一个解析的方法(属性为name…
CBrother脚本语言10分钟写一个拯救“小霸王服务器”的程序 到了一家新公司,接手了一坨c++服务器代码,到处内存泄漏,这服务器没有数据库,挂了后重启一下就好了,公司就这么凑活着用了几年了,定时重启吧,也不是天天挂,不定时重启吧,说不准哪天就挂了...... 小公司,从写代码到维护就我一个人,每到下班后或者周末,电话一响,我就知道挂了,得找电脑重启一下,要是出去玩了还得找网吧,装个远程软件吧,公司说服务器之前被远程软件黑过,不准装,烦. 想着弄个什么程序在手机上点一下就给重启了就好了,咱这种…
毫无疑问,Python 是当下最火的编程语言之一.对于许多未曾涉足计算机编程的领域「小白」来说,深入地掌握 Python 看似是一件十分困难的事.其实,只要掌握了科学的学习方法并制定了合理的学习计划,Python 从 入门到精通只需要一个月就够了! Python 从入门到精通:一个月就够了要知道,一个月是一段很长的时间.如果每天坚持用 6-7 小时来做一件事,你会有意想不到的收获. 作为初学者,第一个月的月目标应该是这样的: 熟悉基本概念(变量,条件,列表,循环,函数)练习超过 30 个编程问题…
需求 近期须要给自己的server加入监控器.目的是监控server的内存.CPU.磁盘占用率,资源占用率过高的话能给自己发个提醒.当前主流的平台通常会提供邮件.短息.甚至会提供微信提醒,只是这类提醒包括的噪音太多了(夹杂着各种无关的社交信息),我仅仅是单纯的须要接收到server的预警.由于server环境并不复杂,所以不考虑主流的与监控平台(毕竟搭建起来还是挺复杂的). 选择产品 有非常多产品支持 incoming(就是通过调用应用提供的 API 把我们自己定义的消息转发送该应用).我打算使…
目录 Django从Models 10分钟建立一套RestfulApi Django从Models 10分钟定制一个Admin后台 简介 Django自带一个Admin后台, 支持用户创建,权限配置和所有模型的增删改查功能, 只需要一些简单的配置就可快速得到一个开箱可用的后台管理系统 操作步骤 1. 更改设置,使用中文/亚洲时区 修改项目下django_shop目录下的settings.py文件 修改以下三行 LANGUAGE_CODE = 'zh-hans' TIME_ZONE = 'Asia…
一.基础入门 1.1什么是爬虫 爬虫(spider,又网络爬虫),是指向网站/网络发起请求,获取资源后分析并提取有用数据的程序. 从技术层面来说就是 通过程序模拟浏览器请求站点的行为,把站点返回的HTML代码/JSON数据/二进制数据(图片.视频) 爬到本地,进而提取自己需要的数据,存放起来使用. 1.2爬虫基本流程 用户获取网络数据的方式: 方式1:浏览器提交请求--->下载网页代码--->解析成页面 方式2:模拟浏览器发送请求(获取网页代码)->提取有用的数据->存放于数据库或…
今天我们利用scrapy框架来抓取Stack Overflow里面最新的问题(),并且将这些问题保存到MongoDb当中,直接提供给客户进行查询. 安装 在进行今天的任务之前我们需要安装二个框架,分别是Scrapy (1.1.0)和pymongo (3.2.2). scrapy 如果你运行的的系统是osx或者linux,可以直接通过pip进行安装,而windows需要另外安装一些依赖,因为电脑的原因不对此进行讲解. $ pip install Scrapy 一旦安装完成之后你可以直接在pytho…
在本片博客正式開始之前,大家先跟我做一个简单的好玩的 小语音. 新建一个文本文档,然后再文档里输入这样 一句话  CreateObject("SAPI.SpVoice").Speak "I Love You",然后文件另存为后缀为.VBS 这时候带上耳机,双击你的文本文件~~~~~~~ 是不是挺不错的,别着急后面还有更好玩的 接下来我会写一个小的DMEO,小到你用5分钟就能连看带敲做出来. 首先须要先下载一个 微软TTS5.1语音引擎(中文).msi 安装包 .贴心…