这篇文章主要介绍“Go语言网络编程与Http源码分析”,在日常操作中,相信很多人在Go语言网络编程与Http源码分析问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Go语言网络编程与Http源码分析”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
网络分层
这块知识属于计算机网络,可以直接去看书。
我们这里直接上图:
我们最常讲的是五层协议,最重要的是运输层和应用层,这两层是大多数情况下,工程师可以在代码中可以直接干预的模块,我们大多数的网络编程调优,就是在调这些协议的一些参数和细节。这两层的情况:
运输层协议:TCP和UDP。
应用层协议:Http,SMTP,FTP,WebSocket等等,这些协议需要使用运输层协议作为依托。
引申,需要注意TCP和UDP的区别,和他们具体的使用场景。
顺便提一句,网络分层本质上也是我们反复提过得加一层的思想,也是高内聚低耦合的一种具体的实现。
进程间通信(IPC)
这块知识属于操作系统,注意不是Linux操作系统,还牵扯一点计算机组成原理的知识。
IPC 是 Inter-Process Communication 的缩写,可以被翻译为进程间通信。主要方法有: 系统信号(signal)、管道(pipe)、套接字 (socket)、文件锁(file lock)、消息队列(message queue)、信号量(semaphore)等。最常用的是系统信号,套接字,还有一个叫共享内存的,能实现,但不提倡。Go底层的os包里也包含着这些常用的方法。
这里需要再引申下,操作系统中进程和线程是什么,协程又是什么。进程间是如何通信的,线程间又是如何通信的。
我们单独把socket拎出来说,因为在众多方案中,就属它比较通用,比较灵活:使用socket可以跨机器进行通讯。
Socket
实际上,现代操作系统的内核都会带有socket相关的API,我们的代码在运行时,只需要调用操作系统提供的接口,就可以轻松建立网络连接,这也是我们之前讲过的面向接口编程的具体场景之一。
我们这里直接讲Go语言中的Socket。在GO语言中有一个叫做syscall的包,里面有对应的一整套的socket的方法,并且这些方法是做过跨平台处理的,我们最常用的Http包里的许多建立连接,接收内容的方法都直接或者间接的用了syscall包。
总而言之,我们常用的Http包在建立链接时需要使用到socket,socket建立连接时需要具体的传输层协议。
Http
基础知识
HTTP属于应用层协议,也就是最顶层协议。目前他有三个版本:
HTTP1.1 最常用的版本,使用TCP作为运输层协议。
HTTP2 一个升级版本,用的不多。同样使用TCP作为运输层协议。
HTTP3 设计了一个新的传输层协议QUIC,可以选择TCP或者UDP来传输数据。
注意,HTTP协议诞生的年代相当久远,它是一个无状态的协议。
一个HTTP的请求有两部分组成:头部header和主体body。
//这是一个GET请求的头部。 :authority: api.bilibili.com :method: GET :path: /x/web-interface/bgroup/member/in?business=MGR&name=PCQoE%E4%BA%BA%E7%BE%A41&dimension=1 :scheme: https accept: application/json, text/plain, */* accept-encoding: gzip, deflate, br accept-language: zh-CN,zh;q=0.9,sm;q=0.8,en;q=0.7 cache-control: no-cache cookie: origin: https://www.bilibili.com pragma: no-cache referer: https://www.bilibili.com/?utm_source=gold_browser_extension user-agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36
头部中有几个特别的字段需要关注下。origin,referer, user-agent, accept。另外,还有几个特别的字段:Content-Length,Connection。TCP协议本身是基于字节流的,它无法区分消息边界,需要应用层协议自己来实现。
可以详细看下Response返回的头部中都有哪些字段。另外,一些常见的字段我们经常在Postman中使用。
客户端
在Go语言中启动一个客户端是相当简单的一件事,Go为HTTP提供了大量的开箱即用的工具。
url := "https://www.bilibili.com" //我们要请求的地址 resp, err := http.Get(url) //get请求,经典返回:内容和一个ERR defer func() { _ = resp.Body.Close() //通常我们需要及时关闭掉返回内容。 }() if err != nil { fmt.Printf("请求错误: %v ", err) } fmt.Printf("返回状态: %s ", resp.Status)
但是,我们通常不会这样直接调用。http.Get的底层调用的是http.Client,返回的是http.Response。通常情况下,我们会使用http.Client结合业务场景来构造一些请求:
url := "https://www.bilibili.com" req, _ := http.NewRequest(http.MethodGet, url, nil) //req 是一个Request结构,它有大量的方法的熟悉 可以自定义。 req.Form.Add("test", "1231") //构造一个表单提交 req.Header.Set("Cookie", "123") //设置Cookie resp, err := http.DefaultClient.Do(req) //这里使用的依然是默认的DefaultClient if err != nil { fmt.Printf("请求错误: %v ", err) } defer func() { _ = resp.Body.Close() }() fmt.Printf("返回状态: %s ", resp.Status)
正常情况下,我们使用http.DefaultClient.Do,直接调用默认的http.Client就可以正常发起请求。在某些情况下,公司内部会封装一个统一的http.Client,里面会集成一些公司内统一的调用标识,服务请求方,提供方,trace,机器编码,统一的过期时间等配置信息。
http.Client的结构非常简单:
type Client struct { Transport RoundTripper //真正干活的结构体 CheckRedirect func(req *Request, via []*Request) error //一个重定向校验方法,用的比较少 Jar CookieJar //Cookie包,我们常用的方法都在这个接口中 Timeout time.Duration //单次完整HTTP请求的超时时间,0代表没有设置。 }
如果有时间,可以看下 DefaultTransport的源码,通过简单配置,进而理解Http与TCP的一些关键配置项的含义。
最后,如果你愿意也可以自己造个轮子,但是我们决不提倡这种行为。
conn, err := net.Dial("tcp", "bilibili.com:80") if err != nil { fmt.Printf("connect err => %s ", err.Error()) } buf := bytes.Buffer{} buf.WriteString("GET / HTTP/1.1 ") buf.WriteString("Host: baidu.com ") buf.WriteString("USer-Agent: Go-http-client/1.1 ") // 请求头结束 buf.WriteString(" ") // 请求body结束 buf.WriteString(" ") _, _ = conn.Write(buf.Bytes()) // 获取响应信息 resp, _ := io.ReadAll(conn) fmt.Printf("响应信息 %q", resp)
http.Client的底层是基于net.Dial实现的,net.Dial底层又调用了操作系统的Socket相关接口。
可以尝试实现一个Post方法。
服务端
Go语言搭建一个服务器非常简单,只需要用到几个方法:
http.HandleFunc("/", func(writer http.ResponseWriter, request *http.Request) { _, _ = fmt.Fprintf(writer, "关注 香香编程喵喵喵,关注香香编程谢谢喵喵喵!") }) panic(http.ListenAndServe(":8080", nil))
http.HandleFunc用来注册一个处理器。其内部会持有一个哈希,用来存储路径与处理器的映射关系。注意,这里和Gin框架就有区别了。
http.ListenAndServe用来监听一个端口上的TCP链接,并处理后续的请求。它的底层调用的是net.Listen,同样也是基于Socket的方法,我们这里不做展开。