SheepNav
DreamScrape

DreamScrape

producthunt.com

智能路由爬虫,只为有效结果付费

1个月前制作者:Curtis

关于 DreamScrape

DreamScrape 是一款智能路由的网络爬虫工具,它颠覆了传统爬虫“一刀切”使用无头浏览器的做法,为每个请求自动选择最经济高效的引擎,从而大幅降低成本并提升速度。

核心功能

DreamScrape 的核心在于其智能路由机制。它内置了四种引擎:HTTP 请求、JA4 指纹 HTTP、隐身浏览器和反检测 Firefox。当您发起一个爬取请求时,DreamScrape 会动态评估目标网站的反爬策略,自动选择成功率最高且成本最低的引擎执行任务。最终,您将获得干净的 Markdown 格式数据,无需关心底层实现。

主要特性

  • 智能引擎选择:自动在 HTTP、指纹 HTTP、隐身浏览器、反检测 Firefox 间切换,确保高成功率。
  • 自动发现 JSON API:当使用浏览器爬取时,DreamScrape 会自动识别内部 JSON 接口,并在后续请求中复用,速度提升 15 倍,成本降低 90%。
  • 透明公开的评分卡:DreamScrape 维护了一个公开的评分卡,追踪 163 个域名的真实通过/失败率,让您对工具性能一目了然。
  • 按效果付费:您只需为成功的爬取结果付费,无效请求不计费,真正实现“为有效结果买单”。

适用场景

DreamScrape 适用于需要大规模、高频次采集数据的场景,如市场调研、价格监控、内容聚合等。无论是面对简单静态页面还是复杂反爬网站,DreamScrape 都能以最低成本高效完成任务。

相关工具