首页 > 代码库 > python之协程
python之协程
协程，又称微线程，纤程。英文名Coroutine。协程是一种用户态的轻量级线程。
所谓用户态就是说协程是由用户来控制的，CPU不认识协程，协程是跑在线程中的。
协程拥有自己的寄存器上下文栈。协程调试切换时，将寄存器上下文栈保存到其他地方，在切回来时，恢复先前保存的寄存器上下文栈。
因此，协程能保留上一次调用时的状态（即所有局部状态的一个特定组合），每次过程重入时，就相当于进入上一次调用的状态，也就是进入上一次离开时所处逻辑流的位置。
线程切换时会将上下文和栈保存到CPU的寄存器中。
协程的标准定义，即符合以下所有条件就能称之为协程：
1.在单线程里实现并发
2.修改共享数据不需要加锁
3.用户程序里自己保存多个控制流的上下文栈
4.一个协程遇到IO操作自动切换到其它协程
协程的好处：
无需线程上下文切换的开销
无需原子操作锁定及同步的开销
原子操作是指不会被线程调度机制打断的操作；这种操作一旦开始，就一直运行到结束
方便切换控制流，简化编程模型
高并发+高扩展性+低成本：一个CPU支持上万的协程都行，很适合用于高并发处理
协程的缺点：
无法利用多核资源：
协程的本质是个单线程，它不能同时将单个CPU的多个核用上
协程需要和进程配合才能运行在多CPU上。
进行阻塞（Blocking）操作（如IO）时会阻塞掉整个程序
使用yield实现协程的例子：
#!/usr/bin/python
#Author:sean
import time
def consumer(name):
print("--->start eating baozi...")
while True:
new_baozi = yield
print("[%s] is eating baozi %s"% (name,new_baozi))
# time.sleep(2)
def producter():
r = tom.__next__()
r = jerry.__next__()
n = 0
while n < 5:
n += 1
tom.send(n)
jerry.send(n)
print("\033[32;1m[producter]\033[0m is making baozi %s"% n)
if __name__ == ‘__main__‘:
tom = consumer("tom")
jerry = consumer("jerry")
p = producter()如何在单线程下实现并发效果？
答案是遇到IO操作就切换，因为IO操作耗时比较长
协程之所以能处理高并发，其实就是把IO操作给干掉了，就是一遇到IO操作就切换。
这样的话整个程序就变成了只有CPU在运算。
一遇到IO操作就切换，那么到底什么时候再切回去呢？
答案是当IO操作结束后就切回去。
那么问题又来了，python怎么来监测IO操作是否结束呢？带着这个问题先来看看几个例子
greenlet模块：
greenlet是一个封装好的协程，通过switch方法手动进行切换
#!/usr/bin/python
#Author:sean
from greenlet import greenlet
def func1():
print("haha11")
gr2.switch()
print("haha22")
gr2.switch()
def func2():
print("haha33")
gr1.switch()
print("haha44")
gr1 = greenlet(func1)
gr2 = greenlet(func2)
gr1.switch()gevent模块：
gevent是一个第三方库，可以轻松实现并发同步或异步编程。
在gevent中用到的主要是greenlet，它是以C扩展模式形式接入python的轻量级协程。
greenlet全部运行在主程序操作系统进程的内部，但它们被协作式地调度
gevent能够自动进行IO切换
#!/usr/bin/python
#Author:sean
import gevent
def foo():
print("Running in foo")
gevent.sleep(0) #模仿IO操作
print(‘Explicit context switch to foo again‘)
def bar():
print(‘Explicit context to bar‘)
gevent.sleep(0) #模仿IO操作
print(‘Implicit context switch back to bar‘)
gevent.joinall([
gevent.spawn(foo),
gevent.spawn(bar)
])同步与异步的区别：
#!/usr/bin/python #Author:sean import gevent def task(pid): """ Some non-deterministic task """ gevent.sleep(0.5) print(‘Task %s done‘ % pid) def synchronous(): for i in range(1, 10): task(i) def asynchronous(): threads = [gevent.spawn(task, i) for i in range(10)] gevent.joinall(threads) print(‘Synchronous:‘) synchronous() print(‘Asynchronous:‘) asynchronous()
用协程并发爬虫爬取网站：
#!/usr/bin/python
#Author:sean
from urllib import request
import gevent
#默认情况下，gevent并不知道urllib或者socket什么时候进行了IO操作
#默认情况下，gevent和urllib以及socket并没有任何关联，当然就无法提高效率，因为其实质上还是串行操作
#要想让gevent知道urllib或socket正在进行IO操作，需要给gevent打个补丁
from gevent import monkey
monkey.patch_all() #把当前程序的所有IO操作单独做上标记
def f(url):
print(‘GET: %s‘% url)
resp = request.urlopen(url)
data = resp.read()
# f = open("url.html","wb")
# f.write(data)
# f.close()
print(‘%d bytes received from %s.‘% (len(data),url))
gevent.joinall([
gevent.spawn(f,‘https://www.python.org‘),
gevent.spawn(f,‘https://yahoo.com‘),
gevent.spawn(f,‘https://github.com‘)
])用gevent协程写一个单线程高并发的socket：
服务端：
#!/usr/bin/python
#Author:sean
import sys
import socket
import time
import gevent
from gevent import socket,monkey
monkey.patch_all() #把当前程序的所有IO操作单独做上标记
def server(host,port):
s = socket.socket()
s.bind((host,port))
s.listen(500)
while True:
cli,addr = s.accept()
gevent.spawn(handle_request,cli)
def handle_request(conn):
try:
while True:
data = conn.recv(1024)
print("recv: ",data)
conn.send(data)
if not data:
conn.shutdown(socket.SHUT_WR)
except Exception as e:
print(e)
finally:
conn.close()
if __name__ == ‘__main__‘:
server(‘0.0.0.0‘,8001)客户端：
#!/usr/bin/python
#Author:sean
import socket
HOST = ‘localhost‘ #The remote host
PORT = 8001 #The same port as used by the server
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.connect((HOST,PORT))
while True:
msg = bytes(input(">>:"),encoding="utf-8")
s.sendall(msg)
data = s.recv(1024)
print(‘Received‘,repr(data))
s.close() 并发100个sock连接：
#!/usr/bin/python
#Author:sean
import socket
import threading
def sock_conn():
client = socket.socket()
client.connect(("localhost",8001))
count = 0
while True:
#msg = input(">>:").strip()
#if len(msg) == 0:continue
client.send( ("hello %s" %count).encode("utf-8"))
data = client.recv(1024)
print("[%s]recv from server:" % threading.get_ident(),data.decode()) #结果
count +=1
client.close()
for i in range(100):
t = threading.Thread(target=sock_conn)
t.start()事件驱动与异步IO，请往这走
现在我们可以来回答下这个问题了，python如何监测IO操作是否结束？
IO操作是由操作系统进行处理的，当遇到IO操作时就切换
等IO操作完以后让其调用回调函数，回调函数会通知协程说这个IO操作完成了
本文出自 “忘情居” 博客，请务必保留此出处http://itchentao.blog.51cto.com/5168625/1895251
python之协程