如何在Golang中处理并发HTTP请求结果

使用channel收集并发HTTP请求结果,通过Result结构体封装响应数据,每个goroutine将结果发送到统一channel,主协程从channel接收并处理所有结果。

在Go语言中处理并发HTTP请求结果,关键在于合理使用goroutine、channel和context来协调多个请求的执行与结果收集。下面介绍几种常见且实用的方法。

使用Channel收集结果

启动多个goroutine并发发送HTTP请求,每个请求的结果通过channel传回主协程。这种方式能有效避免竞态条件,并保证数据安全。

定义一个结构体来封装响应数据或错误:

type Result struct {
    URL     string
    Body    []byte
    Error   error
}

然后为每个请求启动一个goroutine,将结果发送到统一的channel:

results := make(chan Result, len(urls))
for _, url := range urls {
    go func(u string) {
        resp, err := http.Get(u)
        if err != nil {
            results <- Result{URL: u, Error: err}
            return
        }
        defer resp.Body.Close()
        body, _ := io.ReadAll(resp.Body)
        results <- Result{URL: u, Body: body}
    }(url)
}

从channel读取所有结果:

var finalResults []Result
for range urls {
    result := <-results
    finalResults = append(finalResults, result)
}

使用WaitGroup控制协程生命周期

当需要等待所有请求完成时,sync.WaitGroup可以配合channel使用,确保所有goroutine都已退出。

var wg sync.WaitGroup
results := make(chan Result, len(urls))

for , url := range urls { wg.Add(1) go func(u string) { defer wg.Done() // 发起请求并发送结果到channel resp, err := http.Get(u) if err != nil { results <- Result{URL: u, Error: err} return } defer resp.Body.Close() body, := io.ReadAll(resp.Body) results <- Result{URL: u, Body: body} }(url) }

go func() { wg.Wait() close(results) }()

var finalResults []Result for result := range results { finalResults = append(finalResults, result) }

使用Context控制超时和取消

并发请求中,应设置合理的超时时间,防止某个请求长时间阻塞整体流程。通过context.WithTimeout可实现全局超时控制。

ctx, cancel := context.WithTimeout(context.Background(), 5*time.Second)
defer cancel()

client := &http.Client{Timeout: 10 * time.Second} // 单个请求最大超时

for , url := range urls { req, := http.NewRequestWithContext(ctx, "GET", url, nil) go func(u string) { resp, err := client.Do(req) if err != nil { results <- Result{URL: u, Error: err} return } defer resp.Body.Close() body, _ := io.ReadAll(resp.Body) results <- Result{URL: u, Body: body} }(url) }

这样即使某个请求慢,也不会影响整体流程在指定时间内完成。

限制并发数量(使用信号量)

如果请求量大,同时发起全部HTTP调用可能耗尽资源。可用带缓冲的channel模拟信号量,控制最大并发数。

semaphore := make(chan struct{}, 10) // 最多10个并发

for _, url := range urls { semaphore <- struct{}{} // 获取令牌 go func(u string) { defer func() { <-semaphore }() // 释放令牌

    // 执行HTTP请求...
    resp, err := http.Get(u)
    if err != nil {
        results <- Result{URL: u, Error: err}
        return
    }
    defer resp.Body.Close()
    body, _ := io.ReadAll(resp.Body)
    results <- Result{URL: u, Body: body}
}(url)

}

基本上就这些。结合channel传递结果、WaitGroup同步生命周期、context控制超时、以及信号量限制并发,就能写出稳定高效的并发HTTP请求处理逻辑。不复杂但容易忽略细节,比如关闭response body和正确管理goroutine退出。