+关注
已关注

标签  

日期归档  

2018-12(28)

2019-01(24)

2019-02(7)

2019-03(6)

2019-04(1)

Python爬虫新手入门教学(十五):爬取某音乐网站的排行榜歌曲

发布于2021-02-07 10:12     阅读(49967)     评论(0)     点赞(17)     收藏(2)


0

1

2

3

4

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

Python爬虫、数据分析、网站开发等案例教程视频免费在线观看

https://space.bilibili.com/523606542

前文内容

Python爬虫新手入门教学(一):爬取豆瓣电影排行信息

Python爬虫新手入门教学(二):爬取小说

Python爬虫新手入门教学(三):爬取链家二手房数据

Python爬虫新手入门教学(四):爬取前程无忧招聘信息

Python爬虫新手入门教学(五):爬取B站视频弹幕

Python爬虫新手入门教学(六):制作词云图

Python爬虫新手入门教学(七):爬取腾讯视频弹幕

Python爬虫新手入门教学(八):爬取论坛文章保存成PDF

Python爬虫新手入门教学(九):多线程爬虫案例讲解

Python爬虫新手入门教学(十):爬取彼岸4K超清壁纸

Python爬虫新手入门教学(十一):最近王者荣耀皮肤爬取

Python爬虫新手入门教学(十二):英雄联盟最新皮肤爬取

Python爬虫新手入门教学(十三):爬取高质量超清壁纸

Python爬虫新手入门教程(十四):爬取有声小说网站数据 

基本开发环境

  • Python 3.6
  • Pycharm

相关模块的使用

import requests
import os

安装Python并添加到环境变量,pip安装需要的相关模块即可。

一、明确需求

爬取某音乐网站的排行榜歌曲。

 

二、网页数据分析

1、F12或者鼠标右键点击检查打开开发者工具,点击播放音乐,下面会加载出音乐数据。

 

#  干饭人之歌 音频数据地址:
https://gm-sycdn.kuwo.cn/82c2c756b7ebeacb907831ff0906199e/601a3aa9/resource/n2/88/78/3642423505.mp3

复制链接粘贴到浏览器中

 


2、根据音频链接中的参数,搜索查找来源

 

# 音频链接来源
https://www.kuwo.cn/url?format=mp3&rid=160864905&response=url&type=convert_url3&br=128kmp3&from=web&t=1612331691895&httpsStatus=1&reqId=550f7f80-65e4-11eb-9b00-6d65a3b5fef1

一首歌曲的来源地址是找不出规律的,所以要再对比一些另外一首歌曲的链接参数

 


如图所示: rid 和 t 参数不一样,很明显 t 就是代表的时间戳,这个使用 time.time() 就有了,所以可以继续在开发者工具中搜索 rid 的值

 

 

https://www.kuwo.cn/api/www/bang/bang/musicList?bangId=93&pn=1&rn=30&httpsStatus=1&reqId=428dcbf0-65e4-11eb-9b00-6d65a3b5fef1

rid 以及 歌名 歌手名都有了。

三、代码实现

爬虫分析思路是从上到下开始分析,写代码则是从下往上写。

1、获取音乐的 rid 、歌名、歌手名

import pprint
import requests


def get_response(html_url):
    headers = {
        'Cookie': '你自己的cookie',
        'csrf': 'D2YF7NMH81N',
        'Host': 'www.kuwo.cn',
        'Referer': 'https://www.kuwo.cn/rankList',
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers)
    return response


def get_music_info(html_url):
    json_data = get_response(html_url).json()
    pprint.pprint(json_data)
    music_list = json_data['data']['musicList']
    for index in music_list:
        music_name = index['album']
        singer = index['artist']
        music_rid = index['rid']
        

if __name__ == '__main__':
    url = 'https://www.kuwo.cn/api/www/bang/bang/musicList?bangId=93&pn=1&rn=30&httpsStatus=1&reqId=428dcbf0-65e4-11eb-9b00-6d65a3b5fef1'
    get_music_info(url)

 


返回的是一个json数据,一个一个去取值就可以了,主要的注意点就是headers参数的问题,如果参数不给全,爬取不到数据。

2、获取音频URL地址

def get_music_url(music_rid):
    page_url = f'https://www.kuwo.cn/url?format=mp3&rid={music_rid}&response=url&type=convert_url3&br=128kmp3&from=web&t=1612331691895&httpsStatus=1&reqId=550f7f80-65e4-11eb-9b00-6d65a3b5fef1'
    json_data = get_response(page_url).json()
    music_url = json_data['url']
    return music_url

3、保存音频数据

def save(music_name, music_url):
    path = 'music\\'
    if not os.path.exists(path):
        os.makedirs(path)
    filename = path + music_name + '.mp3'
    headers = {
        'if-range': '8eba7fc5d5b2f4d223d54612aa3f4773',
        'range': 'bytes=524288-524288',
        'upgrade-insecure-requests': '1',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3861.400 QQBrowser/10.7.4313.400',
    }
    music_content = requests.get(url=music_url, headers=headers).content
    with open(filename, mode='wb') as f:
        f.write(music_content)
        print('正在保存:', music_name)

请求音乐下载的地址的 headers 需要更换一下。不然爬取不了音乐。

 

原文链接:https://www.cnblogs.com/hhh188764/p/14375103.html

0

1

2

3

4

5

6

7

8



所属网站分类: 技术文章 > 博客

作者:熊猫烧香

链接: https://www.pythonheidong.com/blog/article/819434/cceedb302a9020f42429/

来源: python黑洞网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

17 0
收藏该文
已收藏

评论内容:(最多支持255个字符)