本脚本用于爬取指定抖音视频的评论及其回复,并将结果保存为CSV文件。
参考项目:https://github.com/ShilongLee/Crawler
抖音对这部分接口进行了加密,本项目直接参考该项目中处理params,headers的部分
感谢ShilongLee!
脚本运行需要以下环境:
- asyncio
- httpx
- pandas
- execjs
- cookiesparser
- nodejs(重要)
在运行脚本之前,请确保安装了所有必要的依赖,别忘记安装nodejs:
pip install -r requirements.txt请先创建一个cookie.txt文件,将cookie写入该txt文件中。然后运行脚本
现在有两个版本,对于数据量比较少的,可以运行main.py
对于数据量比较大的,尤其是replies,先运行fetch_comments.py,再运行fetch_replies.py
随后根据提示输入awesome_id即可!
运行main.py的文件会放入data/v1/<awesome_id>中
而另一种运行方式的文件会放入data/<awesome_id>中
脚本将在x相应的文件目录下生成两个CSV文件:
- comments.csv:包含视频的所有评论信息。
- replies.csv:包含所有评论的回复信息。
每个文件中都会包含评论或回复的详细信息,如评论内容、点赞数、评论时间、用户昵称等。
新增获取评论回复图片