python-网易云简单爬虫

一.准备工作

1.使用python3.6和pycharm

2.使用的模块 tkinter 、requests 、beautifulSoup、getpass、os

3.网易云的榜单页面地址 https://music.163.com/playlist?id=2302000737

4.界面如下图

二.分析

1.打开网易云音乐的网址(谷歌浏览器),检查元素，会发现每首歌的都是一个a标签，如下图，这个时候，

看到这个统一的格式我们就可以，来过滤掉不必要的标签，在获取网页源代码的时候我们发现有这么一段代码

<ul class="f-hide">
   <li><a href="/song?id=135377">依然在一起</a></li>
   <li><a href="/song?id=29802294">我要的飞翔(哼唱版)</a></li>
   <li><a href="/song?id=449626902">不爱你&middot;非也</a></li>
   <li><a href="/song?id=29429422">给我深爱的你</a></li>
   <li><a href="/song?id=489302317">雀跃</a></li>
   <li><a href="/song?id=862491309">怎么说爱你</a></li>
   <li><a href="/song?id=562675516">扎心</a></li>
   <li><a href="/song?id=41500539">那是爱情</a></li>
   <li><a href="/song?id=560863505">可岁月，你到底要怎样？</a></li>
   <li><a href="/song?id=435288250">你会为我留下吗</a></li>
   <li><a href="/song?id=556479928">关于二次元的歌</a></li>
   <li><a href="/song?id=562594319">如果会是你</a></li>
   <li><a href="/song?id=72731">那一次</a></li>
   <li><a href="/song?id=490595991">星期三或礼拜三</a></li>
   <li><a href="/song?id=507014930">赧(nǎn)然的贼</a></li>
   <li><a href="/song?id=489506275">非酋</a></li>
   <li><a href="/song?id=862129612">王牌冤家</a></li>
   <li><a href="/song?id=445505374">心仪</a></li>
   <li><a href="/song?id=36117834">南瓜饼子店</a></li>
   <li><a href="/song?id=82203">为你写的歌</a></li>
   <li><a href="/song?id=431551064">写给我第一个喜欢的女孩的歌</a></li>
   <li><a href="/song?id=516321040">很可爱的歌&nbsp;(Remix&nbsp;featuring&nbsp;梁晓雪)</a></li>
   <li><a href="/song?id=472646451">即使全世界都嫌弃这首歌肉麻又俗气我还是要把它献给你</a></li>
   <li><a href="/song?id=254164">恋着多喜欢</a></li>
   <li><a href="/song?id=466370500">不二臣</a></li>
   <li><a href="/song?id=161420">偏偏爱上你</a></li>
   <li><a href="/song?id=223638">多么想念你</a></li>
   <li><a href="/song?id=31546892">恋爱中</a></li>
   <li><a href="/song?id=521780143">繁华之处</a></li>
   <li><a href="/song?id=412951744">无画</a></li>
   <li><a href="/song?id=504624714">青柠</a></li>
   <li><a href="/song?id=531295576">最美的期待</a></li>
   <li><a href="/song?id=432506809">致姗姗来迟的你 </a></li>
   <li><a href="/song?id=85571">我们俩</a></li>
   <li><a href="/song?id=26349280">为了遇见你</a></li>
   <li><a href="/song?id=389246">爱人</a></li>
   <li><a href="/song?id=28427655">喜欢你的无数个理由</a></li>
   <li><a href="/song?id=461899833">鸽子</a></li>
   <li><a href="/song?id=562592191">如果写不出好的和弦就该在洒满阳光的钢琴前一起吃布丁</a></li>
   <li><a href="/song?id=436346545">深蓝色的气球 </a></li>
   <li><a href="/song?id=458553516">献给海子的歌</a></li>
   <li><a href="/song?id=417596830">美好事物</a></li>
   <li><a href="/song?id=144137">水晶</a></li>
   <li><a href="/song?id=108445">表达爱</a></li>
   <li><a href="/song?id=386181">让我照顾你</a></li>
   <li><a href="/song?id=63570">两只恋人</a></li>
   <li><a href="/song?id=139463">我们的小世界</a></li>
   <li><a href="/song?id=440353151">猫眼里的半途</a></li>
   <li><a href="/song?id=109125">夏天</a></li>
   <li><a href="/song?id=5356944">爱很美</a></li>
   <li><a href="/song?id=536669917">情感导师【Prod by L.H.W】</a></li>
   <li><a href="/song?id=473571305">傲娇与偏见 (对唱版)</a></li>
   <li><a href="/song?id=552304135">如果最后还是你♡</a></li>
   <li><a href="/song?id=25648051">最佳听众</a></li>
   <li><a href="/song?id=531786614">亲爱的</a></li>
   <li><a href="/song?id=28936085">惟爱你</a></li>
   <li><a href="/song?id=132975">爱的就是你</a></li>
   <li><a href="/song?id=25638152">怎么爱你都不够</a></li>
   <li><a href="/song?id=29482339">给我你的爱（demo）</a></li>
   <li><a href="/song?id=435288313">天天情人节</a></li>
   <li><a href="/song?id=26550475">一定有个你</a></li>
   <li><a href="/song?id=297485">陪我到以后</a></li>
   <li><a href="/song?id=82486">春风吹</a></li>
   <li><a href="/song?id=425065716">好想你</a></li>
   <li><a href="/song?id=215884">确定一定以及肯定</a></li>
   <li><a href="/song?id=459858574">对你爱不完</a></li>
   <li><a href="/song?id=25642952">我们的歌</a></li>
   <li><a href="/song?id=327079">一想到你呀</a></li>
   <li><a href="/song?id=233920">天生一对</a></li>
   <li><a href="/song?id=421563713">桥豆麻袋</a></li>
   <li><a href="/song?id=520464278">去海边</a></li>
   <li><a href="/song?id=479219330">我一定会爱上你</a></li>
   <li><a href="/song?id=357312">流川枫与苍井空</a></li>
   <li><a href="/song?id=22852057">爱你</a></li>
   <li><a href="/song?id=108269">记得</a></li>
   <li><a href="/song?id=4875075">遇到</a></li>
   <li><a href="/song?id=326719">喜欢</a></li>
   <li><a href="/song?id=64706">给你</a></li>
   <li><a href="/song?id=29805931">木头</a></li>
   <li><a href="/song?id=306680">我们终究会牵手旅行</a></li>
   <li><a href="/song?id=34014289">完美男友</a></li>
   <li><a href="/song?id=375043">酸甜</a></li>
   <li><a href="/song?id=394653">坐在巷口的那对男女</a></li>
   <li><a href="/song?id=327736">梁山伯与茱丽叶</a></li>
   <li><a href="/song?id=368942">橘子汽水</a></li>
   <li><a href="/song?id=449818741">光年之外</a></li>
   <li><a href="/song?id=515383689">我在十点差三分的时候开始想你</a></li>
   <li><a href="/song?id=277352">那么爱你为什么</a></li>
   <li><a href="/song?id=28739376">不愿错过你</a></li>
   <li><a href="/song?id=436698550">幸福的终点</a></li>
   <li><a href="/song?id=469699266">最美情侣</a></li>
   <li><a href="/song?id=423703512">初心共老</a></li>
  </ul> 

我们就把这些数据拿过来 在处理一次

三.准备界面

1.使用的tkinter是python提供的图形开发界面的库，几个常用的界面开发库有Tkinter、w'xPython、Jython。具体用法不在赘述，详情请移步--Tkinter界面开发

导入tkinter模块，并初始化对应的输入框和按钮，

from tkinter import *

# 创建窗口
root = Tk()
# 设置标题
root.title('网易云音乐')
# 设置窗口大小,‘x’符号 区分宽高
# root.geometry('500x400')
# 设置出现的位置,用‘+’号来代替，这个是相对屏幕左上角的位置
# root.geometry('+500+200')
# 两句合成一句是执行
root.geometry('560x300+500+200')

# 标签控件
label = Label(root,text='请输入要下载的歌单URL:',font=('华文行楷',12))
# 添加定位才能显示
# 网格式布局 以行列为准显示
label.grid(row=0,column=0)

# 输入框
entry = Entry(root,font=('微软雅黑',25),width=25)
entry.grid(row=0,column=1)

text = Listbox(root,font=('微软雅黑',15),width=55,height=10)
# 组件跨越的列数
text.grid(row=1,columnspan=2)

# 添加下载按钮和退出按钮，command设置按钮的点击事件
download = Button(root,text='开始下载',font=('微软雅黑',15),width=10,height=2,command=download_song)
# 添加最后的对齐方式
# sticky对齐方式 N S W E
download.grid(row=2,column=0,sticky=W)

exit = Button(root,text='退出',font=('微软雅黑',15),width=10,height=2,command=root.quit)
# 添加最后的对齐方式
# sticky对齐方式 N S W E
exit.grid(row=2,column=1,sticky=E)

# 显示窗口,消息循环
root.mainloop()

2.最初的界面已经制作好了，开始网络请求的模块，点击下载按钮，请求网络信息

# 添加user-agent
header = {
             "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36"
        }

# 爬取网页数据
def download_song():
    #每次开始重新下载的时候删除listBox里面的所有的内容
    text.delete(0,END)
    # 获取用户输入的URL地址
    url = entry.get()
    # url = "https://music.163.com/playlist?id=2302000737"

    #下载地址
    song_url = "http://music.163.com/song/media/outer/url?id={}"
   #request请求类库，直接获取的html源代码
    result = requests.get(url,headers=header)
    # 对获取的html源代码进行处理，beautifulSoup对源码的处理
    html = BeautifulSoup(result.text,'html.parser')
    print(html)
    # 过滤元素，查找ul标签，class为f-hide，再去查找里面的所有a标签，返回的是一个数组
    musics = html.find('ul',{'class','f-hide'}).find_all('a')
    print(musics)
    music_dict = {}
    # 每个榜单数量太大，这里只下载5首歌曲
    for music in musics[:5]:
        #获取a标签对应的href，并过滤掉前面的song?id=，只留下歌曲的id
        music_id = music.get('href').strip('/song?id=')
        #获取歌曲的名称
        music_name = music.text
        #组装为一个字典
        music_dict[music_id] = music_name

    # 遍历字典，下载每首歌曲，并保存到本地
    for k, v in music_dict.items():
        download_url = song_url.format(k)
        saveMusic(download_url,v)

3.歌曲保存，引入第三方  import getpass，获取当前的用户名

def saveMusic(download_url,music_name):
    # 拿到下载路径和文件保存路径
    #在listbox中输出正在下载的文件和状态
    text.insert(END,'正在下载>>>>:' + music_name)
    # 拼接下载路径地址
    file_path = '/Users/'+getpass.getuser()+'/Downloads/musics'
    if not os.path.exists(file_path):
        os.makedirs(file_path)
    # 保存的文件名
    save_path = file_path + '/%s.mp3' % music_name
    print(save_path)

    # 开始下载数据
    result = requests.get(download_url, headers=header)
    with open(save_path, 'wb') as w_obj:
        w_obj.write(result.content)
    text.insert(END,'下载完成:>>>>' + music_name)
    # 跳转到指定的item索引位置
    text.see(text.size()-1)

4.自此，所有的步骤都已经完成，可以复制榜单地址直接点击下载了