做法律行业调研、律所资源整理、行业数据统计的同行,几乎都踩过爬虫的坑:政务网站接口加密、频繁 403 拦截、JS 动态渲染拿不到数据、还要配置代理、补环境、维护 Cookie,批量翻页逻辑写起来一堆代码,调试几天都跑不通。
今天给大家带来一套开箱即用的浏览器网络抓包采集插件 + 本地存储后端完整实战方案。基于 Chrome Manifest V3 扩展开发,核心能力是监听页面所有 XHR/Fetch 接口,通过正则匹配目标 API 自动捕获返回 JSON 数据,搭配自动分页翻页功能,抓取到的数据实时推送到本地 Flask 服务,自动存入 SQLite 数据库,可视化面板监控采集进度、日志、失败队列,本次实战目标:中国法律服务网全国律师事务所全量信息采集。

整套方案分为两大模块,前后端分离,全部本地运行,数据不经过第三方服务器,隐私安全可控:
1.Chrome 采集插件(前端采集层)浏览器扩展,注入页面监听所有网络请求,支持两种采集模式:
2.Flask 本地接收服务(后端存储层)轻量 Python 服务,监听127.0.0.1:8081接收插件推送的采集数据,使用 SQLite 本地数据库持久化存储,内置数据看板,实时展示已采集条数、请求日志、原始接口返回内容。
支持正则表达式 / 通配符两种匹配模式,过滤页面无关请求,只抓取我们需要的业务接口。本次实战目标接口:*lawerdeptlist/getlawerdeptlist正则匹配式:*lawerdeptlist/getlawerdeptlist
匹配成功:自动捕获接口完整请求 URL、返回 JSON、页面标题、时间戳,推送本地后端;
匹配失败:日志输出
URL not matched,过滤静态页面、无关资源请求,减少无效数据。
插件捕获数据后,通过 POST 请求推送至本地 Flask 接收地址,默认配置:http://127.0.0.1:8081/receiveData内置标准传输 JSON 格式,自动携带页面 URL、接口地址、原始返回数据、时间戳,后端无需额外解析适配,开箱即用。
核心自动化功能,解决一页一页手动点击的痛点:
1.开启「启用分页自动采集」;
2.配置翻页间隔 2000ms(规避网站风控,防止请求过快被拦截);
3.填写分页按钮 CSS 选择器:#nextPage,插件自动识别下一页按钮;
4.设置最大采集页数,本次实战网站总页数 418 页,可按需限制采集范围;流程:采集当前页全部接口数据 → 等待延时 → 自动点击下一页 → 循环直到达到最大页数 / 无下一页按钮。
实时打印全量运行日志,区分三类信息:
信息日志:过滤掉的静态页面、无关 URL;
成功日志:接口捕获成功、数据推送后端完成;失败队列:推送后端超时、接口捕获异常的数据单独缓存,支持一键重试、清空队列,不会丢失采集内容。
所有监听规则、分页参数、后端接口地址均可导出 JSON 配置文件,切换采集网站时直接导入,无需重复手动配置,多站点采集高效复用。
1.安装依赖:pip install flask sqlite3
2.运行后端服务,监听 8081 端口,自动创建 SQLite 数据表;
3.打开后端看板页面,等待接收插件推送数据。
下载插件完整源码文件夹,Chrome 地址栏输入
chrome://extensions/,开启开发者模式;加载已解压扩展程序,浏览器右上角出现采集插件图标。
1.监听规则:匹配类型选正则,填入 *lawerdeptlist/getlawerdeptlist;
2.本地接口:默认http://127.0.0.1:8081/receiveData,POST 请求,超时 10000ms;
3.分页采集:勾选启用分页,翻页间隔 2000ms,最大页数 418,分页按钮选择器#nextPage;
4.点击右上角「保存配置」,所有参数持久化保存,重启插件不丢失。
1.进入中国法律服务网 - 全国律所检索列表页面;
2.点击插件图标打开控制面板,点击「开始分页 自动翻页采集」;
3.插件自动监听每页律所 API 接口,捕获完整律所 JSON 数据,实时推送本地 Flask;
4.插件面板实时更新「已采集」条数,后端看板同步刷新接收数据;
5.全部页面采集完成自动停止,SQLite 数据库永久存储全量律所信息。
后端 SQLite 数据库可直接导出 CSV/Excel 表格,字段包含:律所名称、执业证号、注册地址、负责人、设立时间、奖惩记录、年度考核结果,可直接用于行业统计、案源筛选、律所尽调。
1.零逆向接口成本
无需抓包分析签名、Cookie、Token、VMP 加密,浏览器原生环境自动携带完整会话、指纹、Cookie,直接捕获接口原始返回 JSON,完美绕过网站 JS 风控。
2.可视化无代码配置
所有规则、分页、延时、后端地址全部面板可视化填写,不用编写复杂请求逻辑,新手 10 分钟完成配置。
3.本地离线存储,数据安全
所有采集数据仅推送本地电脑 Flask 服务,不上传第三方服务器,政务公开律所数据本地留存,无数据泄露风险。
4.容错能力强,无需手动维护
内置失败队列、自动重试、详细日志,单页接口捕获失败不会中断整体批量任务,可单独重采失败条目。
1.中国法律服务网律所信息属于政府主动公开政务数据,仅允许个人学习、行业调研、学术研究使用;
2.采集时必须设置合理翻页间隔(≥2000ms),禁止毫秒级高频轰炸服务器,避免给官方网站造成负载;
3.严禁将采集到的律所名录批量打包售卖、用于营销骚扰、商业获客推广,遵守《政府信息公开条例》《网络安全法》;
4.禁止抓取律师手机号、身份证等未对外公示的个人敏感信息,仅采集页面公开的机构公示内容。
看完本篇浏览器采集插件落地实战,觉得这套可视化采集方案能帮你省去大量爬虫开发时间的朋友,先点赞 + 关注本号,文末点击赞赏支持原创技术干货;
完成点赞、关注、赞赏后,私信回复关键词「浏览器采集插件」,我会完整发送:Chrome 插件全套源码 + Flask 本地接收存储后端完整代码。
夜雨聆风