使用 Crawl API 有两种方式:Documentation Index
Fetch the complete documentation index at: https://docs.brightdata.com/llms.txt
Use this file to discover all available pages before exploring further.
- 基于 API 的数据采集
- 无代码采集(通过控制面板)
基于 API 的数据采集
- 通过简单的 HTTP POST 触发一次数据采集 任务
- 指定 URL 和输出格式
- 接收一个
snapshot_id,用于稍后获取结果
Code Example
查询参数:
您的数据集 ID(例如:
gd_m6gjtfmeh43we6cqc)在结果中包含错误日志
markdown, html, ld_json 等。 \选择适合您工作流的格式:数据投递
可将结果投递至:- Webhooks
- 外部存储(S3、GCS 等)
- 通过 API 或控制面板直接下载
无代码爬虫(控制面板)
使用控制面板即可启动爬取任务,无需编写任何代码。 步骤:- 打开 Crawl API 控制面板
- 输入目标域名或 URL
- 选择输出格式
- 启动爬取
- 从仪表盘直接下载结果