Go语言做爬虫状态码返回418的问题解决

目录

背景

 在使用go语运动宣传语言做爬虫时，使用http.get(url)去获取网页内容，状态码返回404，body体为空。

原因分析

 http.get(url)是不需要设置header属性的http请求，比较简单快捷，但状态码返回418，表明我们需要设置其header属性，那么我们可以使用http.newrequest，在设置其header属性即可~

代码部分

func main7()  {client := &http.client{}url := "/d/file/titlepic/top250 err := http.newrequest("get", url, nil)//设置header属明朝年号对照表性reqest.header.add("ur-agent", "mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/79.0.幼儿园指导纲要试题3945.130 safari/537.36 opr/66.0.3515.115")if err!=nil {fmt.println(err)return}respon, _ := client.do(reqest)defer respon.body.clo()buf := make([]byte,4096)var result stringfor  {n,err:=respon.body.read(buf)if n == 0 {fmt.println("读取网页完成")break}if err!=nil && err!=io.eof {fmt.println("resp body err",err)return}result += string(buf[:n])//打印读取的网页fmt.println(result)}}

到此这篇关于go语言做爬虫状态码返回418的问题解决的文章就介绍到这了,更多相关go语言爬虫返回418内容请搜索www.887551.com以前的文章或继续浏览下面的相关文章希望大家以后多多支持wwwdat文件如何打开.887551.com！