
DreamScrape
producthunt.com
智能路由爬虫,只为有效结果付费
1个月前制作者:Curtis
关于 DreamScrape
DreamScrape 是一款智能路由的网络爬虫工具,它颠覆了传统爬虫“一刀切”使用无头浏览器的做法,为每个请求自动选择最经济高效的引擎,从而大幅降低成本并提升速度。
核心功能
DreamScrape 的核心在于其智能路由机制。它内置了四种引擎:HTTP 请求、JA4 指纹 HTTP、隐身浏览器和反检测 Firefox。当您发起一个爬取请求时,DreamScrape 会动态评估目标网站的反爬策略,自动选择成功率最高且成本最低的引擎执行任务。最终,您将获得干净的 Markdown 格式数据,无需关心底层实现。
主要特性
- 智能引擎选择:自动在 HTTP、指纹 HTTP、隐身浏览器、反检测 Firefox 间切换,确保高成功率。
- 自动发现 JSON API:当使用浏览器爬取时,DreamScrape 会自动识别内部 JSON 接口,并在后续请求中复用,速度提升 15 倍,成本降低 90%。
- 透明公开的评分卡:DreamScrape 维护了一个公开的评分卡,追踪 163 个域名的真实通过/失败率,让您对工具性能一目了然。
- 按效果付费:您只需为成功的爬取结果付费,无效请求不计费,真正实现“为有效结果买单”。
适用场景
DreamScrape 适用于需要大规模、高频次采集数据的场景,如市场调研、价格监控、内容聚合等。无论是面对简单静态页面还是复杂反爬网站,DreamScrape 都能以最低成本高效完成任务。