python协程是啥_Python中的协程是什么

协程

在python GIL之下&＃xff0c;同一时刻只能有一个线程在运行&＃xff0c;那么对于CPU计算密集的程序来说&＃xff0c;线程之间的切换开销就成了拖累&＃xff0c;而以I/O为瓶颈的程序正是协程所擅长的&＃xff1a;

Python中的协程经历了很长的一段发展历程。其大概经历了如下三个阶段&＃xff1a;

1.最初的生成器变形yield/send&＃xff1b;

2.引入&＃64;asyncio.coroutine和yield from&＃xff1b;

3.在最近的Python3.5版本中引入async/await关键字。

(1)从yield说起

先看一段普通的计算斐波那契续列的代码def fibs(n):

res &＃61; [0] * n

index &＃61; 0

a &＃61; 0

b &＃61; 1

while index 

res[index] &＃61; b

a, b &＃61; b, a   b

index  &＃61; 1

return res

for fib_res in fibs(20):

print(fib_res)

如果我们仅仅是需要拿到斐波那契序列的第n位&＃xff0c;或者仅仅是希望依此产生斐波那契序列&＃xff0c;那么上面这种传统方式就会比较耗费内存。

这时&＃xff0c;yield就派上用场了。def fib(n):

index &＃61; 0

a &＃61; 0

b &＃61; 1

while index 

yield b

a, b &＃61; b, a   b

index  &＃61; 1

for fib_res in fib(20):

print(fib_res)

当一个函数中包含yield语句时&＃xff0c;python会自动将其识别为一个生成器。这时fib(20)并不会真正调用函数体&＃xff0c;而是以函数体生成了一个生成器对象实例。

yield在这里可以保留fib函数的计算现场&＃xff0c;暂停fib的计算并将b返回。而将fib放入for…in循环中时&＃xff0c;每次循环都会调用next(fib(20))&＃xff0c;唤醒生成器&＃xff0c;执行到下一个yield语句处&＃xff0c;直到抛出StopIteration异常。此异常会被for循环捕获&＃xff0c;导致跳出循环。

(2) Send来了

从上面的程序中可以看到&＃xff0c;目前只有数据从fib(20)中通过yield流向外面的for循环&＃xff1b;如果可以向fib(20)发送数据&＃xff0c;那不是就可以在Python中实现协程了嘛。

相关推荐&＃xff1a;《Python视频教程》

于是&＃xff0c;Python中的生成器有了send函数&＃xff0c;yield表达式也拥有了返回值。

我们用这个特性&＃xff0c;模拟一个慢速斐波那契数列的计算&＃xff1a;import time

import random

def stupid_fib(n):

index &＃61; 0

a &＃61; 0

b &＃61; 1

while index 

sleep_cnt &＃61; yield b

print(&＃39;let me think {0} secs&＃39;.format(sleep_cnt))

time.sleep(sleep_cnt)

a, b &＃61; b, a   b

index  &＃61; 1

print(&＃39;-&＃39; * 10   &＃39;test yield send&＃39;   &＃39;-&＃39; * 10)

N &＃61; 20

sfib &＃61; stupid_fib(N)

fib_res &＃61; next(sfib)

while True:

print(fib_res)

try:

fib_res &＃61; sfib.send(random.uniform(0, 0.5))

except StopIteration:

break

python 进行并发编程

在Python 2的时代&＃xff0c;高性能的网络编程主要是使用Twisted、Tornado和Gevent这三个库&＃xff0c;但是它们的异步代码相互之间既不兼容也不能移植。

asyncio是Python 3.4版本引入的标准库&＃xff0c;直接内置了对异步IO的支持。

asyncio的编程模型就是一个消息循环。我们从asyncio模块中直接获取一个EventLoop的引用&＃xff0c;然后把需要执行的协程扔到EventLoop中执行&＃xff0c;就实现了异步IO。

Python的在3.4中引入了协程的概念&＃xff0c;可是这个还是以生成器对象为基础。

Python 3.5添加了async和await这两个关键字&＃xff0c;分别用来替换asyncio.coroutine和yield from。

python3.5则确定了协程的语法。下面将简单介绍asyncio的使用。实现协程的不仅仅是asyncio&＃xff0c;tornado和gevent都实现了类似的功能。

(1)协程定义

用asyncio实现Hello world代码如下&＃xff1a;import asyncio

&＃64;asyncio.coroutine

def hello():

print("Hello world!")

# 异步调用asyncio.sleep(1):

r &＃61; yield from asyncio.sleep(1)

print("Hello again!")

# 获取EventLoop:

loop &＃61; asyncio.get_event_loop()

# 执行coroutine

loop.run_until_complete(hello())

loop.close()

&＃64;asyncio.coroutine把一个generator标记为coroutine类型&＃xff0c;然后&＃xff0c;我们就把这个coroutine扔到EventLoop中执行。 hello()会首先打印出Hello world!&＃xff0c;然后&＃xff0c;yield from语法可以让我们方便地调用另一个generator。由于asyncio.sleep()也是一个coroutine&＃xff0c;所以线程不会等待asyncio.sleep()&＃xff0c;而是直接中断并执行下一个消息循环。当asyncio.sleep()返回时&＃xff0c;线程就可以从yield from拿到返回值(此处是None)&＃xff0c;然后接着执行下一行语句。

把asyncio.sleep(1)看成是一个耗时1秒的IO操作&＃xff0c;在此期间&＃xff0c;主线程并未等待&＃xff0c;而是去执行EventLoop中其他可以执行的coroutine了&＃xff0c;因此可以实现并发执行。

我们用Task封装两个coroutine试试&＃xff1a;import threading

import asyncio

&＃64;asyncio.coroutine

def hello():

print(&＃39;Hello world! (%s)&＃39; % threading.currentThread())

yield from asyncio.sleep(1)

print(&＃39;Hello again! (%s)&＃39; % threading.currentThread())

loop &＃61; asyncio.get_event_loop()

tasks &＃61; [hello(), hello()]

loop.run_until_complete(asyncio.wait(tasks))

loop.close()

观察执行过程&＃xff1a;Hello world! (<_mainthread>)

Hello world! (<_mainthread>)

(暂停约1秒)

Hello again! (<_mainthread>)

Hello again! (<_mainthread>)

由打印的当前线程名称可以看出&＃xff0c;两个coroutine是由同一个线程并发执行的。

如果把asyncio.sleep()换成真正的IO操作&＃xff0c;则多个coroutine就可以由一个线程并发执行。

asyncio案例实战

我们用asyncio的异步网络连接来获取sina、sohu和163的网站首页&＃xff1a;

async_wget.pyimport asyncio

&＃64;asyncio.coroutine

def wget(host):

print(&＃39;wget %s...&＃39; % host)

connect &＃61; asyncio.open_connection(host, 80)

reader, writer &＃61; yield from connect

header &＃61; &＃39;GET / HTTP/1.0\r\nHost: %s\r\n\r\n&＃39; % host

writer.write(header.encode(&＃39;utf-8&＃39;))

yield from writer.drain()

while True:

line &＃61; yield from reader.readline()

if line &＃61;&＃61; b&＃39;\r\n&＃39;:

break

print(&＃39;%s header > %s&＃39; % (host, line.decode(&＃39;utf-8&＃39;).rstrip()))

# Ignore the body, close the socket

writer.close()

loop &＃61; asyncio.get_event_loop()

tasks &＃61; [wget(host) for host in [&＃39;www.sina.com.cn&＃39;, &＃39;www.sohu.com&＃39;, &＃39;www.163.com&＃39;]]

loop.run_until_complete(asyncio.wait(tasks))

loop.close()

结果信息如下&＃xff1a;wget www.sohu.com...

wget www.sina.com.cn...

wget www.163.com...

(等待一段时间)

(打印出sohu的header)

www.sohu.com header > HTTP/1.1 200 OK

www.sohu.com header > Content-Type: text/html

...

(打印出sina的header)

www.sina.com.cn header > HTTP/1.1 200 OK

www.sina.com.cn header > Date: Wed, 20 May 2015 04:56:33 GMT

...

(打印出163的header)

www.163.com header > HTTP/1.0 302 Moved Temporarily

www.163.com header > Server: Cdn Cache Server V2.0

...

可见3个连接由一个线程通过coroutine并发完成。

小结

asyncio提供了完善的异步IO支持&＃xff1b;

异步操作需要在coroutine中通过yield from完成&＃xff1b;

多个coroutine可以封装成一组Task然后并发执行。