当前位置: 首页 > news >正文

python爬取京东评论 -

使用DrissionPage模块进行爬取,DrissionPage是一个自动化的模块,可以模拟人的操作,进行翻页等操作,比传统爬取更加方便
在使用DrissionPage之前,需要先初始化路径运行下面的代码,需要将r'D:\Chrome\Chrome.exe' 替换为本地Chrome的执行路径,如果没有Chrome浏览器,也可以切换其他浏览器

from DrissionPage import ChromiumOptionspath = r'D:\Chrome\Chrome.exe'  # 请改为你电脑内Chrome可执行文件路径
ChromiumOptions().set_browser_path(path).save()

通过开发者工具找到评论数据对应的请求网址,全部评价,定位页面等

image

具体代码

# 导入自动化模块
import time
from DrissionPage import ChromiumPage
# 导入csv
import csv# 创建文件对象
f = open('data.csv',mode='w',encoding='utf-8',newline='')
# 字典写入方法
csv_writer = csv.DictWriter(f,fieldnames=['昵称','用户等级','评分','评论','时间','产品',
])
# 写入表头
csv_writer.writeheader()
# 打开浏览器(实例化浏览器对象)
dp = ChromiumPage()# 访问网站
dp.get('https://item.jd.com/10058384218794.html')
# 等待页面加载
time.sleep(3)
# 监听数据包
dp.listen.start('client.action')
# 点击全部评价
dp.ele('css:.all-btn').click()
# 构建循环翻页
for page in range(1,201):print(f'正在采集第{page}页的数据')# 等待数据包加载r = dp.listen.wait()# 获取数据内容json_data = r.response.body# 键值对取值,提取评论所在列表datas = json_data['result']['floors'][2]['data']# for循环提取列表元素for index in datas:try:dit = {'昵称':index['commentInfo']['userNickName'],'用户等级': index['commentInfo']['officerLevel'],'评分': index['commentInfo']['commentScore'],'评论': index['commentInfo']['commentData'],'时间': index['commentInfo']['commentDate'],'产品': index['commentInfo']['wareAttribute'][0]['颜色'],}# 写入数据csv_writer.writerow(dit)print(dit)except:pass# 定位页面tab = dp.ele('css:._rateListContainer_1ygkr_45')# 下滑tab.scroll.to_bottom()

运行代码即可爬取出评论,并输出为.csv文件

image

http://www.hskmm.com/?act=detail&tid=40119

相关文章:

  • C++ STL
  • 20232422 2025-2026-1 《网络与系统攻防技术》实验三实验报告
  • 10.18 CSP-S 模拟赛
  • 20232404 2025-2026-1 《网络与系统攻防技术》实验三实验报告
  • 「WC2014-紫荆花之恋」题解
  • P14309 【MX-S8-T2】配对题解
  • 魔改sunpinyin
  • 20232308 2025-2026-1 《网络与系统攻防技术》实验三实验报告
  • [xp] GVim v9.0.494 (or thereabouts) is the last version known to support Windows XP.
  • 「CTSC2017-游戏」题解
  • 谢谢你周医生
  • 想让默认头像不再千篇一律,就顺手复刻了一下 GitHub 的思路
  • 来源未知
  • 10.27(补)
  • 袁天罡称骨歌的评骨格歌诀 - 木易
  • stm32F411RETx系列无CAN的处理思路
  • 20232402 2025-2026-1 《网络与系统攻防技术》实验三实验报告
  • Date 10.27
  • 2025年多商户商城代理招募加盟/多商户项目合伙人加盟最新推荐榜:多商户兼职项目合伙人/B2B2C商城代理招募公司/聚焦项目孵化与商户扶持能力深度解析
  • 20232420 2025-2026-1 《网络与系统攻防技术》实验三实验报告
  • 读书日记3
  • 为医疗器械行业搭建“数字桥梁”,破解协同效率与合规难题
  • # 20232312 2025-2026-1 《网络与系统攻防技术》实验三实验报告
  • 掘金2025年:数字化商业浪潮下,如何选对平台与伙伴?一站式多商户商城系统推荐榜发布,多商户商城代理招募/多商户项目合伙人加盟/一站式开店代理项目加盟
  • 20232307 2025-2026-1 《网络与系统攻防技术》实验三实验报告
  • PostgreSQL 服务版
  • 配置idea创建文件时自动生成注解(如类注释、作者信息等)
  • 坐标系与投影关系
  • 2025年10月办公家具供应商综合评测:服务与性价比的平衡之道
  • 手机AIldquo;造反rdquo;了?你可能还不知道的四件大事儿