前提条件
- 具有活跃 API 密钥的 Bright Data 账户
- 已完成 快速入门
请求结构
每个同步请求都遵循相同的模式:dataset_id 和输入 URL 格式。
/scrape 端点专为实时的单 URL 请求设计。Bright Data 建议每个请求不超过 20 个 URL(这是最佳实践,而非硬性限制),端点最多等待 1 分钟。如果采集耗时更长,响应为 HTTP 202,返回 snapshot_id 而不是数据,采集将继续以异步方式进行。请通过异步请求获取结果,或使用 Webhook 投递接收结果。配置文件
数据集 ID:gd_lwxmeb2u1cniijd7t4
200 响应。处理时间取决于目标网站状况和爬虫负载。
示例响应
示例响应
X (Twitter) 个人资料抓取器返回哪些输出字段?
X (Twitter) 个人资料抓取器(gd_lwxmeb2u1cniijd7t4,collect_by_url)返回 22 个输出字段。字段说明保留 API 返回的英文原文。
输出字段(22)
输出字段(22)
/scrapers/gd_lwxmeb2u1cniijd7t4.json
帖子
数据集 ID:gd_lwxkxvnf1cynvib9co
示例响应
示例响应
X (Twitter) 帖子抓取器返回哪些输出字段?
X (Twitter) 帖子抓取器(gd_lwxkxvnf1cynvib9co,collect_by_url)返回 32 个输出字段。字段说明保留 API 返回的英文原文。
输出字段(32)
输出字段(32)
/scrapers/gd_lwxkxvnf1cynvib9co.json
快速参考:数据集 ID
输出格式
使用format 查询参数控制响应格式:
以上是
/scrape 的 format 值。完整列表(NDJSON(默认)、JSON、JSON lines、CSV 和 Parquet)及各格式适用范围见输出格式。
相关内容
异步批量请求
在单个批处理作业中抓取数百个 URL。
API 参考
完整的参数和响应字段参考。