前置条件
- 一个拥有有效 API 密钥的 Bright Data 账户
- 已完成快速开始
请求结构
每个同步请求都遵循相同的模式:url 和可选的 country。Fetch API 只有一个端点,因此 dataset_id 始终为 gd_m6gjtfmeh43we6cqc。
/scrape 端点专为实时请求设计。Bright Data 建议每个请求不超过 20 个 URL,这是最佳实践,而非硬性限制,该端点最多等待 1 分钟。如果采集时间更长,响应将是 HTTP 202 和 snapshot_id,而不是数据,采集会以异步方式继续。可通过异步请求获取结果,或通过 webhook 交付推送给您。如何按 URL 获取网页
数据集 ID:gd_m6gjtfmeh43we6cqc
200 响应,其中一条记录包含 markdown、html2text、page_html、page_title 和 final_url。处理时间取决于目标网站的情况。
示例响应
示例响应
如何从指定国家获取网页
在输入对象中添加country,即可从该国家获取网页。请使用两位国家代码。以下请求分别从德国和美国获取 Google 首页:
示例响应
示例响应
markdown 值已截断,并省略了 html2text 和 page_html。请使用大写国家代码,例如
US 或 DE。使用 de 等小写代码时,仍会从该国家获取网页,但记录中的 country 字段会返回 null。如何只返回部分字段
将custom_output_fields 查询参数设置为以竖线分隔的字段名列表。以下请求只返回 URL、标题和 Markdown:
示例响应
示例响应
page_html 可以在只需要为 LLM 提供文本时减小响应体积。
如何异步获取大量 URL
将相同的请求体发送到/trigger 而不是 /scrape。Fetch API 会立即返回 snapshot_id,并在后台获取网页:
示例响应
示例响应
snapshot_id 查看进度并下载记录,具体方法见异步请求。
快速参考
四种请求都使用数据集 ID
gd_m6gjtfmeh43we6cqc。
输出格式
通过format 查询参数控制响应格式:
以上是
/scrape 支持的 format 值。完整列表,即 NDJSON(默认)、JSON、JSON lines、CSV 和 Parquet,以及各自的适用场景,请参阅输出格式。
相关内容
异步批量请求
在单个批处理作业中获取数百个 URL。
API 参考
完整的参数和响应字段参考。