如何用 Python 爬取网易云音乐的 10w+ 评论?附详细代码解读
nanshan 2024-10-13 03:53 24 浏览 0 评论
在简单学习了Python爬虫之后,我的下一个目标就是网易云音乐。因为本人平时就是用它听的歌,也喜欢看歌里的评论,所以本文就来爬一爬网易云音乐的评论吧!
正式进入主题
首先是找到目标网页并分析网页结构,具体如下:
上面的三个箭头就是要找的数据,分别是评论用户、评论和点赞数,都可以用正则表达式找到。接下来用开发者工具继续找下一页的数据,这时候会遇到一个问题,点击下一页的时候网页URL没有变,即说明该网页是动态加载,所以就不能在当前网页找数据了,而应该在XHR文件里找,所以点入Network,再点击下一页,果然有我们想要的。
看到这里,就可以兴奋地去敲代码了。
点击运行,却没有得到任何返还结果,这是为何?它的状态码是200,明显请求已成功,却没有东西返回。再去Network仔细看看这个网页,可以看到它是个Post请求,也看到了需要Post两个参数params和ensSecKey。
很明显,这个密密麻麻的数字和字母应该是被加密了,不过可以复制下来看看有没有用。接下来看下它的Response,因为是Json而不是Html结构的,所以现在需要用到Json库来进行解析。
现在开始敲代码吧,先把上面的两个参数复制过来看看:
现在把每条评论的评论用户、点赞数和评论获取出来:
可以看到,利用json.loads()方法把数据转成Python格式里的字典后就可以把想要的数据取出来了。但是,下一页怎样取?总不能每次都复制粘贴那两个参数吧?那唯一的方法就是不爬了?
所以想要继续的话,就只能破解这两个参数了。那下面继续看Network,因为加密肯定要用JS进行加密的。
看到刚才那个网站的发起者是core.js,把它的文件下载下来慢慢研究。
可以看到window.asrsea()方法有四个参数。先不去管这个函数,先看看它的四个参数是什么(这里没必要去研究那四个参数是怎样来的,只需要知道它们分别是什么)。那么可以加点代码让它显示出来,从而利用fiddler调试。
加入的代码如下:
可以分别获取上面的每一个参数,也把那个params获取看看,然后在fiddler上操作如下:
完成上面的设置后刷新网页就可以在console上面找到参数信息,如果没有的话这是因为你之前浏览该网页的时候它被缓存了下来,所以要清除缓存文件(在清除浏览器记录里面有)。
那个rid有本歌曲的id,明显是与评论有关的。我试着连翻几页后,发现offset就是评论偏移数,offset就是(页数-1)*20,total在第一页是true,在其他页是false。
到第二个参数为:010001。第三个参数为:00e0b509f6259df8642dbc35662901477df22677ec152b5ff68ace615bb7b725152b3ab17a876aea8a5aa76d2e417629ec4ee341f56135fccf695280104e0312ecbda92557c93870114af6c9d05c4f7f0c3685b7a46bee255932575cce10b424d813cfe4875d3e82047b97ddef52741d546b8e289dc6935b3ece0462db0a22b8e7。第四个参数为:0CoJUm6Qyw8W8jud。
找到操作方法
接下来就要看window.asrsea()方法是什么操作的了,通过查找JS文件可以看到这个:
通过研究i是随机获取的十六个字符,而b函数是AES加密,其中偏移量为0102030405060708,模式为CBC。看回d函数,其中params连续两次加密,第一次加密时,文本为第一个参数,密钥为第四个参数;第二次加密时文本为第一次加密的值,密钥为随机数a。而encSeckey是一个RSA加密,它的公钥是第二个参数,模式是第三个参数,文本为那个随机字符串a。
开始敲代码
终于分析完了,下面开始敲代码。先来个获取第一页评论的代码,这是获取两个参数的类:
这是解析网易云音乐和获取评论的类:
但是一点击运行,直接给我报了个错:TypeError: can't concat str to bytes。
原来是因为在第二次加密的时候,那个params是个byte类型,所以把它转成字符串类型就可以了:
再次点击运行,结果还是报错了:json.decoder.JSONDecodeError: Expecting value: line 1 column 1 (char 0)。
这个报错是因为我的Json解析错了,回头调试一看,网页返回的东西是空的,但它的状态码还是200。这是什么鬼?
接着我再试了把那两个参数的值直接复制和前面一样看看,结果运行成功,这就说明是我的加密过程错了。然后我就回去看了几遍,仍没有看出什么错误,后来我上网百度找到了这个知乎文章https://zhuanlan.zhihu.com/p/32069543,我把她的代码复制过来运行下,结果是可以的。我就继续看看我和她的区别,原来我在用那个16个随机字符的时候用错了,对两个参数给了两个不同的,但其实是需要给同一个的。看到这里,我就直接回去改了下,果然运行成功。效果如下:
获取每一页的评论
接着是获取每一页的评论。每一页与第一个参数的offset有关,其中的公式为offse=(页数-1)*20,total在第一页是true,在其他页是false。
而写入数据库我用的是我在
这篇文章
中写到过的操作。由于篇幅过长,就不贴出来了,感兴趣的可以去看看。接下来点运行就可以了,但是运行到第八页的时候出现了这个异常:
raise errorclass(errno, errval)
pymysql.err.InternalError: (1366, "Incorrect string value: '\xF0\x9F\x92\x94' for column 'content' at row 1")
原因是这条评论有个识别不了的表情。之后参考其他文章,修改了数据库的编码方式,注意还要自己修改下创建数据库时的编码方式才可以!
这是首页数据库效果:
获取完成(家驹的歌评论这么少吗?不解):
作者:sergiojune,一个热爱折腾Python的学者。本文为作者投稿,首发于作者个人公众号日常学python,版权归对方所有。
“征稿啦”
CSDN 公众号秉持着「与千万技术人共成长」理念,不仅以「极客头条」、「畅言」栏目在第一时间以技术人的独特视角描述技术人关心的行业焦点事件,更有「技术头条」专栏,深度解读行业内的热门技术与场景应用,让所有的开发者紧跟技术潮流,保持警醒的技术嗅觉,对行业趋势、技术有更为全面的认知。
如果你有优质的文章,或是行业热点事件、技术趋势的真知灼见,或是深度的应用实践、场景方案等的新见解,欢迎联系 CSDN 投稿,联系方式:微信(guorui_1118,请备注投稿+姓名+公司职位),邮箱(guorui@csdn.net)。
相关推荐
- 服务器数据恢复—Raid5数据灾难不用愁,Raid5数据恢复原理了解下
-
Raid5数据恢复算法原理:分布式奇偶校验的独立磁盘结构(被称之为raid5)的数据恢复有一个“奇偶校验”的概念。可以简单的理解为二进制运算中的“异或运算”,通常使用的标识是xor。运算规则:若二者值...
- 服务器数据恢复—多次异常断电导致服务器raid不可用的数据恢复
-
服务器数据恢复环境&故障:由于机房多次断电导致一台服务器中raid阵列信息丢失。该阵列中存放的是文档,上层安装的是Windowsserver操作系统,没有配置ups。因为服务器异常断电重启后,rai...
- 服务器数据恢复-V7000存储更换磁盘数据同步失败的数据恢复案例
-
服务器数据恢复环境:P740+AIX+Sybase+V7000存储,存储阵列柜上共12块SAS机械硬盘(其中一块为热备盘)。服务器故障:存储阵列柜中有磁盘出现故障,工作人员发现后更换磁盘,新更换的磁盘...
- 「服务器数据恢复」重装系统导致XFS文件系统分区丢失的数据恢复
-
服务器数据恢复环境:DellPowerVault系列磁盘柜;用RAID卡创建的一组RAID5;分配一个LUN。服务器故障:在Linux系统层面对LUN进行分区,划分sdc1和sdc2两个分区。将sd...
- 服务器数据恢复-ESXi虚拟机被误删的数据恢复案例
-
服务器数据恢复环境:一台服务器安装的ESXi虚拟化系统,该虚拟化系统连接了多个LUN,其中一个LUN上运行了数台虚拟机,虚拟机安装WindowsServer操作系统。服务器故障&分析:管理员因误操作...
- 「服务器数据恢复」Raid5阵列两块硬盘亮黄灯掉线的数据恢复案例
-
服务器数据恢复环境:HPStorageWorks某型号存储;虚拟化平台为vmwareexsi;10块磁盘组成raid5(有1块热备盘)。服务器故障:raid5阵列中两块硬盘指示灯变黄掉线,无法读取...
- 服务器数据恢复—基于oracle数据库的SAP数据恢复案例
-
服务器存储数据恢复环境:某品牌服务器存储中有一组由6块SAS硬盘组建的RAID5阵列,其中有1块硬盘作为热备盘使用。上层划分若干lun,存放Oracle数据库数据。服务器存储故障&分析:该RAID5阵...
- 「服务器虚拟化数据恢复」Xen Server环境下数据库数据恢复案例
-
服务器虚拟化数据恢复环境:Dell某型号服务器;数块STAT硬盘通过raid卡组建的RAID10;XenServer服务器虚拟化系统;故障虚拟机操作系统:WindowsServer,部署Web服务...
- 服务器数据恢复—RAID故障导致oracle无法启动的数据恢复案例
-
服务器数据恢复环境:某品牌服务器中有一组由4块SAS磁盘做的RAID5磁盘阵列。该服务器操作系统为windowsserver,运行了一个单节点Oracle,数据存储为文件系统,无归档。该oracle...
- 服务器数据恢复—服务器磁盘阵列常见故障表现&解决方案
-
RAID(磁盘阵列)是一种将多块物理硬盘整合成一个虚拟存储的技术,raid模块相当于一个存储管理的中间层,上层接收并执行操作系统及文件系统的数据读写指令,下层管理数据在各个物理硬盘上的存储及读写。相对...
- 「服务器数据恢复」IBM某型号服务器RAID5磁盘阵列数据恢复案例
-
服务器数据恢复环境:IBM某型号服务器;5块SAS硬盘组成RAID5磁盘阵列;存储划分为1个LUN和3个分区:第一个分区存放windowsserver系统,第二个分区存放SQLServer数据库,...
- 服务器数据恢复—Zfs文件系统下误删除文件如何恢复数据?
-
服务器故障:一台zfs文件系统服务器,管理员误操作删除服务器上的数据。服务器数据恢复过程:1、将故障服务器所有磁盘编号后取出,硬件工程师检测所有硬盘后没有发现有磁盘存在硬件故障。以只读方式将全部磁盘做...
- 服务器数据恢复—Linux+raid5服务器数据恢复案例
-
服务器数据恢复环境:某品牌linux操作系统服务器,服务器中有4块SAS接口硬盘组建一组raid5阵列。服务器中存放的数据有数据库、办公文档、代码文件等。服务器故障&检测:服务器在运行过程中突然瘫痪,...
- 服务器数据恢复—Sql Server数据库数据恢复案例
-
服务器数据恢复环境:一台安装windowsserver操作系统的服务器。一组由8块硬盘组建的RAID5,划分LUN供这台服务器使用。在windows服务器内装有SqlServer数据库。存储空间LU...
- 服务器数据恢复—阿里云ECS网站服务器数据恢复案例
-
云服务器数据恢复环境:阿里云ECS网站服务器,linux操作系统+mysql数据库。云服务器故障:在执行数据库版本更新测试时,在生产库误执行了本来应该在测试库执行的sql脚本,导致生产库部分表被tru...
你 发表评论:
欢迎- 一周热门
-
-
爱折腾的特斯拉车主必看!手把手教你TESLAMATE的备份和恢复
-
如何在安装前及安装后修改黑群晖的Mac地址和Sn系列号
-
[常用工具] OpenCV_contrib库在windows下编译使用指南
-
WindowsServer2022|配置NTP服务器的命令
-
Ubuntu系统Daphne + Nginx + supervisor部署Django项目
-
WIN11 安装配置 linux 子系统 Ubuntu 图形界面 桌面系统
-
解决Linux终端中“-bash: nano: command not found”问题
-
NBA 2K25虚拟内存不足/爆内存/内存占用100% 一文速解
-
Linux 中的文件描述符是什么?(linux 打开文件表 文件描述符)
-
K3s禁用Service Load Balancer,解决获取浏览器IP不正确问题
-
- 最近发表
-
- 服务器数据恢复—Raid5数据灾难不用愁,Raid5数据恢复原理了解下
- 服务器数据恢复—多次异常断电导致服务器raid不可用的数据恢复
- 服务器数据恢复-V7000存储更换磁盘数据同步失败的数据恢复案例
- 「服务器数据恢复」重装系统导致XFS文件系统分区丢失的数据恢复
- 服务器数据恢复-ESXi虚拟机被误删的数据恢复案例
- 「服务器数据恢复」Raid5阵列两块硬盘亮黄灯掉线的数据恢复案例
- 服务器数据恢复—基于oracle数据库的SAP数据恢复案例
- 「服务器虚拟化数据恢复」Xen Server环境下数据库数据恢复案例
- 服务器数据恢复—RAID故障导致oracle无法启动的数据恢复案例
- 服务器数据恢复—服务器磁盘阵列常见故障表现&解决方案
- 标签列表
-
- linux 查询端口号 (58)
- docker映射容器目录到宿主机 (66)
- 杀端口 (60)
- yum更换阿里源 (62)
- internet explorer 增强的安全配置已启用 (65)
- linux自动挂载 (56)
- 禁用selinux (55)
- sysv-rc-conf (69)
- ubuntu防火墙状态查看 (64)
- windows server 2022激活密钥 (56)
- 无法与服务器建立安全连接是什么意思 (74)
- 443/80端口被占用怎么解决 (56)
- ping无法访问目标主机怎么解决 (58)
- fdatasync (59)
- 405 not allowed (56)
- 免备案虚拟主机zxhost (55)
- linux根据pid查看进程 (60)
- dhcp工具 (62)
- mysql 1045 (57)
- 宝塔远程工具 (56)
- ssh服务器拒绝了密码 请再试一次 (56)
- ubuntu卸载docker (56)
- linux查看nginx状态 (63)
- tomcat 乱码 (76)
- 2008r2激活序列号 (65)