今天尝试使用pycharm+beautifulsoup进行爬虫测试。我理解的主要分成了自己写的HTML和百度上的网页两种吧。第一种，读自己写的网页（直接上代码）：

（主要参考博客：https://blog.csdn.net/Ka_Ka314/article/details/80999803）

from bs4 import BeautifulSoup

file = open('aa.html', 'rb')

html = file.read()

bs = BeautifulSoup(html,"html.parser")

# 缩进格式

print(bs.prettify())

# 获取title标签的所有内容

print(bs.title)

# 获取title标签的名称

print(bs.title.name)

# 获取title标签的文本内容

print(bs.title.string)

# 获取head标签的所有内容

print(bs.head)

# 获取第一个div标签中的所有内容

print(bs.div)

# 获取第一个div标签的id的值

print(bs.div["id"])

# 获取第一个a标签中的所有内容

print(bs.a)

# 获取所有的a标签中的所有内容

print(bs.find_all("a"))

# 获取id="u1"

print(bs.find(id="u1"))

# 获取所有的a标签，并遍历打印a标签中的href的值

for item in bs.find_all("a"):

    print(item.get("href"))

# 获取所有的a标签，并遍历打印a标签的文本值

for item in bs.find_all("a"):

    print(item.get_text())

　　HTML代码：

<!DOCTYPE html>

<!--STATUS OK-->

<html>

 <head>

  <meta content="text/html;charset=utf-8" http-equiv="content-type"/>

  <meta content="IE=Edge" http-equiv="X-UA-Compatible"/>

  <meta content="always" name="referrer"/>

  <link href="https://ss1.bdstatic.com/5eN1bjq8AAUYm2zgoY3K/r/www/cache/bdorz/baidu.min.css" rel="stylesheet" type="text/css"/>

  <title>

   百度一下，你就知道

  </title>

 </head>

 <body link="#0000cc">

  <div id="wrapper">

   <div id="head">

    <div class="head_wrapper">

     <div id="u1">

      <a class="mnav" href="http://news.baidu.com" name="tj_trnews">

       新闻

      </a>

      <a class="mnav" href="https://www.hao123.com" name="tj_trhao123">

       hao123

      </a>

      <a class="mnav" href="http://map.baidu.com" name="tj_trmap">

       地图

      </a>

      <a class="mnav" href="http://v.baidu.com" name="tj_trvideo">

       视频

      </a>

      <a class="mnav" href="http://tieba.baidu.com" name="tj_trtieba">

       贴吧

      </a>

      <a class="bri" href="//www.baidu.com/more/" name="tj_briicon" style="display: block;">

       更多产品

      </a>

     </div>

    </div>

   </div>

  </div>

 </body>

</html>

　　项目目录：

第二种是爬取在线网页内容，使用URL解析，这里我使用时出现了问题，就是URLopen。因为没有找到python27和python36区别，所以这里直接上结果（我用的python36）,下载urllib.request的包。网上个别教程直接使用urllib,这里我把urllib3、5进行了下载，会报一个错误，显示连接网页超时。下下载这个urllib没问题

pycharm初爬虫的更多相关文章

  1. 解决pycharm的爬虫乱码问题（初步了解各种编码格式）

    Ascii码(American Standard Code for Information Interchange,美国信息互换标准代码):最初计算机只在美国使用时,只用8位的字节来组合出256(2的 ...

  2. Python开发之---PyCharm初体验

    PyCharm 的初始设置(知道) 目标 恢复 PyCharm 的初始设置 第一次启动 PyCharm 新建一个 Python 项目 设置 PyCharm 的字体显示 PyCharm 的升级以及其他 ...

  3. 【Django】用pycharm初学习使用Django

    开发框架流程 M V C(99%的开发都是这种流程.) 1.URL控制器 2.Views 视图 3.models 库   1.首先创建一个Django   2.创建成功后里面几个模块的功能   用它来 ...

  4. 爬虫系列----scrapy爬取网页初始

    一 基本流程 创建工程,工程名称为(cmd):firstblood: scrapy startproject firstblood 进入工程目录中(cmd):cd :./firstblood 创建爬虫 ...

  5. scrapy框架修改单个爬虫的配置,包括下载延时，下载超时设置

    在一个框架里面有多个爬虫时,每个爬虫的需求不相同,例如,延时的时间,所以可以在这里配置一下custom_settings = {},大括号里面写需要修改的配置,然后就能把settings里面的配置给覆 ...

  6. Python Scrapy爬虫速成指南

    序 本文主要内容:以最短的时间写一个最简单的爬虫,可以抓取论坛的帖子标题和帖子内容. 本文受众:没写过爬虫的萌新. 入门 0.准备工作 需要准备的东西: Python.scrapy.一个IDE或者随便 ...

  7. python爬虫出现ProxyError: HTTPSConnectionPool错误

    在今天刚刚打开pycharm运行爬虫时,发现所有的爬虫都不能运行,会出现如下的错误: 错误出现的主要原因是;代理错误(其实自己根本没有设置代理) 解决方法: 在网上查阅了许多类似的错误解决方法,试过后 ...

  8. python爬虫1

    1 网页结构 html:超文本标记语言------->类似人的鼻子耳朵,长在那里,大体骨架就是那个样子 css:层叠样式表------->这个是外观的深化,比如贴个双眼皮,橙色眼睛... ...

  9. 附: Python爬虫 数据库保存数据

    原文 1.笔记 #-*- codeing = utf-8 -*- #@Time : 2020/7/15 22:49 #@Author : HUGBOY #@File : hello_sqlite3.p ...

随机推荐

  1. package.json文件配置详解

    package.json 是npm init命令初始化后,在项目的根目录下自动生成的配置文件,它定义了这个项目的配置信息以及所需要的各种模块,npm install根据这个命令,自动下载所需的模块.p ...

  2. 小明工具箱<Excel 插件><VSTO 插件>

    当前版本:1.0.42.7118(更新日期:2019年6月28日) 下载地址:点击下载 功能和简介: 本程序为 Excel 2010 版本以上的插件,含以下功能: 拆分工作簿:将一个或多个工作簿中的每 ...

  3. Pandownload倒下了，还有它，又一款百度云下载神器，速度可达10M/s

    最近很多小伙伴反馈 Pandownload 不好使了 对此我表示 脑壳疼 不过经过一番折腾 还是找到了一个不错的替代品 它就是 baidupcs-web 下载解压后就这么一个可执行文件 干净的不可思议 ...

  4. D3力布图绘制--节点跑掉，单曲线弯曲问题记录

    D3力布图绘制中遇到的交互问题,频繁操作数据后,会出现节点跑掉和单曲线弯曲的问题 问题描述 在id指向都正常的情况下出现以下2种状况: 单曲线弯曲 节点跑掉 经排查,是数据重复导致的问题 线条也是一样 ...

  5. Uboot启动流程分析(一)

    1.前言 Linux系统的启动需要一个bootloader程序,该bootloader程序会先初始化DDR等外设,然后将Linux内核从flash中拷贝到DDR中,最后启动Linux内核,uboot的 ...

  6. 此贴告诉你：为啥shell脚本人，不建议学python

    py很强大,我承认.但在运维方面,py不但不强大,还有硬伤.正因为有下述硬伤,所以我们运维,还是用shell多,用py极少.我看到用shell的人很多,你建议人用python,人说py是很好,但下一秒 ...

  7. telnet 发送邮件

    telnet smtp.aliyun.com 25 // 这里用的是阿里云的smpt服务器,并且开放25端口 helo hi // 和阿里云的smtp服务器打招呼,测试是否连通 auth login ...

  8. mybaties报错：There is no getter for property named 'table' in 'class java.lang.String'

    报错是由于xml里获取不到这个table参数 package com.xxx.mapper; import java.util.List; import org.apache.ibatis.annot ...

  9. 【LOJ#3144】[APIO2019]奇怪装置（数论）

    [LOJ#3144][APIO2019]奇怪装置(数论) 题面 LOJ 题解 突然发现\(LOJ\)上有\(APIO\)的题啦,赶快来做一做. 这题是窝考场上切了的题嗷.写完暴力之后再推了推就推出正解 ...

  10. 【EasyExcel】使用easyExcel过程中，项目报错的解决集合

    报错:Can not close IO [ERROR] 2019-11-02 13:51:21.210 [ProExportSkuDataJob-1455-TaskThread-1] [com.dma ...