14. 网络编程

发表于 | 分类于

网络编程

现在几乎所有的程序都是网络程序，很少有单机版的程序了。计算机网络就是把各个计算机连接到一起，让网络中的计算机可以互相通信。网络编程就是如何在程序中实现两台计算机的通信。比如当你使用浏览器浏览新浪网时，你的计算机就和新浪的某台服务器通过互联网连接起来了，然后新浪的服务器把网页内容作为数据通过互联网传输到你的电脑。由于电脑上有很多软件，不同的程序连接的别的计算机也会不同。网络通信是两台计算机上的两个进程之间的通信。

网络编程对所有开发语言都是一样的。用Python进行网络编程，就是在Python程序本身这个进程内，连接别的服务器进程的通信端口进行通信。

TCP/IP简介

计算机wield联网，必须规定通信协议，早期的计算机网络，都是由各厂商自己规定一套协议，IBM、Apple和Micosoft都有各自的网络协议，互不兼容，同样的网络协议的计算机可以互相交流，不同协议的计算机就不可以。

为了实现所有不同类型的计算机都连接起来，互联网协议簇（Internet Protocol Suite）就是通用协议标准。最主要的两个协议是TCP协议和IP协议。

通信的时候，双方必须知道对方的标识，互联网中每一个计算机的唯一标识就是IP地址。如果一台计算机同时接入两个或两个以上的网络，比如路由器，它就会有两个或更多个IP地址，所以IP地址对应的实际上是计算机的网络接口，通常是网卡。

IP协议负责把数据从一台计算机通过网络发送到另一台计算机。数据被分割成一小块一小块，然后通过IP包发送出去。由于互联网链路复杂，两台计算机之间经常有多条线路，因此路由器就负责决定如何把一个IP包转发出去。IP报的特点是按块发送，途径多个路由，但不保证能到达，也不保证顺利到达。

TCP协议是建立在IP协议之上的。TCP协议负责在两台计算机之间建立可靠连接，保证数据包按顺序到达。TCP协议会通过握手建立连接，然后对每个IP包进行编号，确保对方按顺序收到，如果包丢了，就自动重发。

一个IP包除了包含要传输的数据外，还包含源IP地址和目的IP地址，源端口和目的端口。

在两台计算机通信时，只发IP地址是不够的，因为同一台计算机上跑着多个网络程序。一个IP包来了之后，到底是交给浏览器还是QQ就需要端口号来区分。每个网络程序都向操作系统申请唯一的端口号这样，两个进程在两台计算机之间建立的网络连接就需要各自的IP地址和各自的端口号。一个进程也可能同时与多个计算机建立链接，因此会申请很多端口。

TCP编程

Socket是网络编程的一个抽象概念。通常我们用一个Socket表示打开了一个网络链接，而打开一个Socket需要知道目标计算机的IP地址和端口号，再指定协议类型即可。

客户端

大多数连接都是可靠的TCP连接。创建TCP连接时，主动发起连接的叫客户端，被动相应连接的叫服务器。当我们在浏览器中访问新浪时，我们自己的计算机就是客户端，浏览器会主动向新浪的服务器发起连接。如果一切顺利，新浪的服务器接受了我们的连接，一个TCP连接就建立起来了，后面的通信就是发送网页内容了。所以我们要创建一个基于TCP的Socket：

1
2
3
4
import socket
s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.connect(('www.sina.com.cn',80))

创建Socket时，AF_INET指定使用IPv4协议，如果要用更先进的IPv6，就指定为AF_INET6。SOCK_STREAM指定使用面向流的TCP协议，这样一个Socket对象就创建成功，但是还没有建立连接。

客户端要主动发起TCP连接，必须知道服务器的IP地址和端口号。IP地址可以用域名自动转换得到，端口号需要服务器来提供。服务器提供什么样的服务，端口号就必须固定下来。80端口是WEB服务的标准端口。端口号小于1024的是Internet标准服务的端口，端口号大于1024的可以任意使用。

建立TCP连接后，我们可以向新浪服务器发送请求，要求返回首页的内容：

1
s.send(b'GET / HTTP/1.1\r\nHost: www.sina.com.cn\r\nConnection: close\r\n\r\n')

TCP连接创建的是双向通道，双方都可以同时给对方发数据。但是谁先发谁后发怎么协调要根据具体的协议来决定。例如，HTTP协议规定客户端必须先发请求给服务器，服务器收到后才发数据给客户端。发送的文本格式必须符合HTTP标准，如果格式没问题，接下来就可以接收新浪返回的数据了：

1
2
3
4
5
6
7
8
buffer=[]
while True:
	d=s.recv(1024)
	if d:
		buffer.append(d)
	else:
		break
data=b''.join(buffer)

接收数据时，调用recv(max)方法，一次最多接收指定的字节数，因此在一个while循环中反复接收，直到recv()返回空数据，表示接收完毕，退出循环。

当我们接收完出局后，调用close()方法关闭Socket，这样一次完整的网络通信就结束了。接收到的数据包括HTTP头和网页本身，我们只需要把HTTP头和网页分离一下，吧HTTP头打印出来，网页内容保存到文件：

1
2
3
4
5
header, html = data.split(b'\r\n\r\n', 1)
print(header.decode('utf-8'))
with open('sina.html','wb') as f:
	f.write(html)

运行结果：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
D:\笔记\Python\Notepad++>python 11.py
HTTP/1.1 200 OK
Server: nginx
Date: Mon, 07 Nov 2016 12:24:26 GMT
Content-Type: text/html
Last-Modified: Mon, 07 Nov 2016 12:23:13 GMT
Vary: Accept-Encoding
Expires: Mon, 07 Nov 2016 12:25:26 GMT
Cache-Control: max-age=60
X-Powered-By: shci_v1.03
Age: 31
Content-Length: 597288
X-Cache: HIT from ja180-183.sina.com.cn
Connection: close

服务器

和客户端相比，服务器编程要复杂一些。服务器进程首先要绑定一份端口并监听来自其他客户端的连接。服务器会打开固定端口监听，每来一个客户端连接，就创建该Socket连接。由于服务器会有大量来自客户端的连接，所以服务器要能够区分一个Socket连接是和那个客户端绑定的。一个Socket依赖四项：服务器地址、服务器端口、客户端地址、客户端端口来唯一确定一个Socket。

每个连接都需要一个新的进程或者线程来处理，否则服务器一次就只能服务一个客户端了。我们来编写一个简单的服务器程序，它接收客户端连接，把客户端发过来的字符串加上Hello再发回去。首先创建一个基于IPv4和TCP协议的Socket：

1
s=socket.socket(socket.AF_INET,socket.SOCK_STREAM)

然后，我们要绑定监听的地址和端口。服务器可能有多块网卡，可以绑定到某一块网卡的IP地址上，也可以用0.0.0.0绑定到所有的网络地址，还可以用127.0.0.1绑定到本机地址。

端口号需要预先指定。因为我们写的这个服务不是标准服务，所以用9999这个端口号，小于1024的端口号必须有管理员权限才能绑定：

1
s.blind('127.0.0.1',9999)

紧接着，调用listen()方法开始监听，传入的参数指定等待连接的最大数量：

1
2
s.listen(5)
print('Waiting for connection...')

接下来，服务器程序通过一个永久循环来接受来自客户端的连接，accept()会等待并返回一个客户端的连接：

1
2
3
4
while True:
	sock.addr=s.accept()
	t=threading.Thread(target==tcplink,args=(sock, addr))
	t.start()

每个连接都必须创建新的线程或进程来处理，否则，单线程在处理连接的过程中无法接受其他客户端的连接：

1
2
3
4
5
6
7
8
9
10
11
def tcplink(sock, addr):
	print('Accecpt new connection from %s:%s...' %addr)
	sock.send(b'Welcome!')
	while True:
		data=sock.recv(1024)
		time.sleep(1)
		if not data or data.decode('utf-8') == 'exit':
			break
		sock.send(('Hello, %s!' %data.decode('utf-8')).encode('utf-8'))
		sock.close()
		print('Connection from %s:%s closed.' %addr)

建立连接后，服务器首先发一条欢迎信息，然后等待客户端数据，并加上Hello再发送给客户端，如果客户端发送了exit字符串，就直接关闭连接。要测试这个程序，我们还需要编写一个客户端程序：

1
2
3
4
5
6
7
8
9
10
11
s = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
# 建立连接:
s.connect(('127.0.0.1', 9999))
# 接收欢迎消息:
print(s.recv(1024).decode('utf-8'))
for data in [b'Michael', b'Tracy', b'Sarah']:
    # 发送数据:
    s.send(data)
    print(s.recv(1024).decode('utf-8'))
s.send(b'exit')
s.close()

用TCP协议进行Socket编程在Python中十分简单，对于客户端，要主动连接服务器的IP和指定端口，对于服务器，要首先监听指定端口，然后对每一个新的连接，创建一个线程或进程来处理。通常，服务器会无限运行下去。

##UDP 编程

TCP建立的是可靠的连接，并且通信双方都可以以流的形式发送数据。UDP是面向无连接的协议。使用UDP时，不需要建立连接，只需要知道对方的IP地址和端口号，就可以直接发数据包，但是能够到达就不知道了。UDP的有点在于速度快，对于不要求可靠到达的数据，就可以使用UDP协议。

和TCP类似，使用UDP的通信双方也分为客户端和服务器，服务器首先需要绑定端口：

1
2
3
s = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
# 绑定端口:
s.bind(('127.0.0.1', 9999))

创建Socket时，SOCK_DGRAM指定了这个Socket的类型是UDP。绑定端口和TCP一样，但是不需要调用listen()方法，而是直接接收来自任何客户端的数据。

1
2
3
4
5
6
print('Bind UDP on 9999...')
while True:
    # 接收数据:
    data, addr = s.recvfrom(1024)
    print('Received from %s:%s.' % addr)
    s.sendto(b'Hello, %s!' % data, addr)

recvform()方法返回数据和客户端的地址与端口，这样，服务器收到数据后，直接调用sendto()就可以把数据用UDP发送给客户端了。

客户端使用UDP时，首先仍然创建基于UDP的Socket，然后不需要调用connect()直接通过sendto()给服务器发送数据：

1
2
3
4
5
6
7
s = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
for data in [b'Michael', b'Tracy', b'Sarah']:
    # 发送数据:
    s.sendto(data, ('127.0.0.1', 9999))
    # 接收数据:
    print(s.recv(1024).decode('utf-8'))
s.close()

从服务器接收数据仍然调用recv()方法。

UDP的使用与TCP类似，但是不需要建立连接。此外，服务器绑定UDP端口和TCP端口互不冲突，也就是说，UDP的9999端口与TCP的9999端口可以各自绑定。

Donate comment here