GitHub 近 6.7 万 Star 的 开源神器,
一键抓取小红书、抖音、B 站等 7 个平台的公开数据
不自己逆向签名,而是用 Playwright 复用浏览器登录态。
可采关键词内容、楼中楼评论和作者主页,还能导出 Excel。
https://github.com/NanmiCoder/MediaCrawler
MediaCrawler 是一个在 GitHub 上收获近 6.7 万 Star 的开源多平台自媒体数据采集工具,支持小红书、抖音、快手、B站、微博、贴吧、知乎等主流平台的公开信息抓取。它没有走传统爬虫逆向加密签名的老路,而是基于 Playwright 浏览器自动化框架,通过保留登录态的浏览器上下文环境,用 JS 表达式直接获取签名参数,大幅降低了技术门槛。项目提供命令行与 WebUI 两种操作方式,可采集关键词搜索结果、指定帖子内容、二级评论以及创作者主页信息,并支持导出 Excel,适合学习爬虫架构与做公开数据分析的开发者使用。
想采集小红书、抖音、B站等平台公开数据的人,过去往往卡在两道坎上:一是各平台签名算法频繁更新,JS 逆向成本极高,刚调通就失效;二是登录态与风控检测难以绕过,频繁触发验证甚至封号。自己从零写一套多平台爬虫,既要维护多套加密逻辑,又要处理代理、Cookie 与评论翻页,工作量巨大,对非专业爬虫开发者几乎不可行。
MediaCrawler 把多平台采集的共性能力封装成统一入口,覆盖搜索、详情、评论与作者主页等常见数据维度,并配套可视化界面与数据导出。
一套命令切换七个平台,关键词搜索与指定帖子 ID 爬取都能直接跑通。
借助 Playwright 保留浏览器登录态获取签名参数,无需逆向复杂加密算法。
支持二级评论抓取和指定创作者主页采集,还能生成评论词云图辅助分析。
提供可视化操作界面,可同时下载封面、视频与图文图片并按帖子归档。
它用工程化思路绕开了爬虫最难啃的签名逆向环节,把多平台采集做成可复用的开源方案,对学习成熟项目架构很有参考价值。
CDP 模式复用已有 Chrome 登录状态,降低风控检测风险,上手成本更低。
代码结构清晰,配套 Pro 版在断点续爬、多账号代理池等方向持续演进。
GitHub 近 6.7 万 Star 的 开源神器,
一键抓取小红书、抖音、B 站等 7 个平台的公开数据
不自己逆向签名,而是用 Playwright 复用浏览器登录态。
可采关键词内容、楼中楼评论和作者主页,还能导出 Excel。
https://github.com/NanmiCoder/MediaCrawler