首页 > 代码库 > python day8 学习整理
python day8 学习整理
今天的学习内容如下:
1.上节课复习
面向对象的三大特性:继承,多态,封装
绑定方法与非绑定方法
反射
2.面向对象的高级用法1
__str__,属于类的内置方法和__init__一样,比如说你定义了一个类
1 class Foo: 2 def __init__(self,name,age): 3 self.name = name 4 self.age = age 5 6 obj = Foo(‘egon‘,18) 7 print(obj) ###会打印 出obj是类Foo下面的一个对象,打印内存空间地址,调用默认的__str__方法
如果你定义了__str__方法,相当于重写了__str__方法,定义__str__方法必须有返回值,且返回值必须是字符串类型,打印对象时给你显示一些有用的信息
1 class Foo: 2 def __init__(self,name,age): 3 self.name = name 4 self.age = age 5 6 def __str__(self): 7 return ‘<name: %s>‘ %(self.name) 8 9 obj = Foo(‘egon‘,18) 10 print(obj) #返回自定义的
__del__叫析构方法,在对象被删除的时候,就会立马执行,可以做一些清理操作,例如,数据库对象被删除了,但是数据库链接还存在,此时就可以使用__del__去关闭这个链接,释放内存。
class Foo: def __init__(self,name,age): self.name = name self.age = age def __del__(self): print("类运行就会到内存空间,释放对象的时候,会运行del方法,清除这个对象")
__setitem__,__getitem__,__delitem__,如何触发操作呢,用类似于字典的方式去操作,例如,obj[‘namae‘]=‘egon666‘这样就会触发__setitem__,obj[‘name‘],触发的就是__getitem__, del obj[‘name‘] 触发的就是__delitem__,其实就是修改对象的属性操作方式,具体看如下代码:
1 class Foo: 2 def __init__(self,name): 3 self.name=name 4 5 def __getitem__(self, item): 6 print(self.__dict__[item]) 7 8 def __setitem__(self, key, value): 9 self.__dict__[key]=value 10 def __delitem__(self, key): 11 print(‘del obj[key]时,我执行‘) 12 self.__dict__.pop(key) 13 def __delattr__(self, item): 14 print(‘del obj.key时,我执行‘) 15 self.__dict__.pop(item) 16 17 f1=Foo(‘sb‘) 18 f1[‘age‘]=18 19 f1[‘age1‘]=19 20 del f1.age1 21 del f1[‘age‘] 22 f1[‘name‘]=‘alex‘ 23 print(f1.__dict__)
统一的修改,不管你传入的是字典还是对象,看以下代码
class Foo: def __init__(self,name): self.name = name def __getitem__(self, item): print(self.__dict__[item]) def __setitem__(self,key,value): self.__dict__[key] = value def __delitem__(self,key): self.__dict__.pop(key) obj = Foo(‘egon‘) dict = {"name":‘egon111‘} def func(obj,key,value) obj[key] = value func(dict,‘name‘,‘123123‘) 或者是 func(obj,‘name‘,‘egon‘)
3.面向对象的高级用法2
__setattr__,__delattr__,__getattr__. 都是给对象来用的,对象会触发这些操作
class Foo: x=1 def __init__(self,y): self.y=y def __getattr__(self, item): print(‘----> from getattr:你找的属性不存在‘) def __setattr__(self, key, value): print(‘----> from setattr‘) # self.key=value #这就无限递归了,你好好想想 # self.__dict__[key]=value #应该使用它 def __delattr__(self, item): print(‘----> from delattr‘) # del self.item #无限递归了 self.__dict__.pop(item) #__setattr__添加/修改属性会触发它的执行 f1=Foo(10) print(f1.__dict__) # 因为你重写了__setattr__,凡是赋值操作都会触发它的运行,你啥都没写,就是根本没赋值,除非你直接操作属性字典,否则永远无法赋值 f1.z=3 print(f1.__dict__) #__delattr__删除属性的时候会触发 f1.__dict__[‘a‘]=3#我们可以直接修改属性字典,来完成添加/修改属性的操作 del f1.a print(f1.__dict__) #__getattr__只有在使用点调用属性且属性不存在的时候才会触发 f1.xxxxxx 三者的用法演示
4.二次加工标准类型(包装)
包装:python为大家提供了标准数据类型,以及丰富的内置方法,其实在很多场景下我们都需要基于标准数据类型来定制我们自己的数据类型,新增/改写方法,这就用到了我们刚学的继承/派生知识(其他的标准类型均可以通过下面的方式进行二次加工)
1 #!/usr/bin/python 2 # -*- coding:utf-8 -*- 3 class Li(list): 4 def __init__(self,item,tag=False): 5 super().__init__(item) 6 self.tag = tag 7 8 @property 9 def mid(self): 10 mid_index = len(self) // 2 11 return mid_index 12 13 def append(self, p_object): 14 if not isinstance(p_object,str): 15 raise TypeError("must int") 16 super().append(p_object) 17 18 def clear(self): 19 if not self.tag: 20 raise PermissionError(‘not permission‘) 21 super().clear() 22 self.tag = False 23 24 l = Li([1,2,3,4,5,6],True) 25 print(l) 26 print(l.mid) 27 l.append(‘90‘) 28 print(l) 29 l.clear() 30 print(l)
授权:授权是包装的一个特性, 包装一个类型通常是对已存在的类型的一些定制,这种做法可以新建,修改或删除原有产品的功能。其它的则保持原样。授权的过程,即是所有更新的功能都是由新类的某部分来处理,但已存在的功能就授权给对象的默认属性。不是标准数据类型,无法继承。
实现授权的关键点就是覆盖__getattr__方法,具体代码看如下实例:
#!/usr/bin/python # -*- coding:utf-8 -*- import time class FileHandle: def __init__(self,filename,mode=‘r‘,encoding=‘utf-8‘): if ‘b‘ in mode: self.file = open(filename,mode) else: self.file = open(filename,mode,encoding=encoding) self.filename = filename self.mode = mode self.encoding = encoding def write(self,line): if ‘b‘ in self.mode: if not isinstance(line,bytes): raise TypeError(‘must be bytes‘) self.file.write(line) def __getattr__(self, item): return getattr(self.file,item) def __str__(self): if ‘b‘ in self.mode: res = "<_io.BufferedReader name = ‘%s‘>" %self.filename else: res = "<_io.TextIOWrapper name = ‘%s‘ mode=‘%s‘ encoding=‘%s‘>" %(self.filename,self.mode,self.encoding) return res f1 = FileHandle(‘b.txt‘,‘wb‘) f1.write(‘你好11111‘.encode(‘utf-8‘)) print(f1) f1.close()
#!/usr/bin/python # -*- coding:utf-8 -*- class List: def __init__(self,seq): self.seq = seq def append(self,p_object): if not isinstance(p_object,int): raise TypeError(‘must be int‘) self.seq.append(p_object) @property def mid(self): index = len(self.seq) // 2 return self.seq[index] def __getattr__(self, item): return getattr(self.seq,item) def __str__(self): return str(self.seq) l = List([1,2,3]) print(l) l.append(4) print(l.mid) l.insert(0,-123) print(l) ###我的理解是因为本身是list类型 ,因为类和类型的统一,所以不用继承,直接用slef.seq就是一个list,所以可以通过重写__getattr__可以去调用insert方法。
#!/usr/bin/python # -*- coding:utf-8 -*- class List: def __init__(self,seq,permission=False): self.seq = seq self.permission = permission def clear(self): if not self.permission: raise PermissionError(‘not allow the operation‘) self.seq.clear() self.permission=False def __getattr__(self, item): return getattr(self.seq,item) (找到这个方法getattr) def __str__(self): return str(self.seq) l = List([1,2,3]) l.permission=True print(l) l.clear() l.insert(0,-1234) print(l)
5.迭代器协议
简单的实现迭代器协议,既有__iter__,又有__next__就是迭代器协议,具体代码如下:
#!/usr/bin/python # -*- coding:utf-8 -*- class Foo: def __init__(self,x): self.x = x def __iter__(self): return self def __next__(self): n = self.x self.x += 1 return self.x f = Foo(3) print(f.__next__()) print(f.__next__()) print(f.__next__()) print(f.__next__()) print(f.__next__()) print(f.__next__()) print(f.__next__()) for i in f: print(i) if i == 100: break
迭代器协议实现,超出范围报错,具体代码如下:
#!/usr/bin/python # -*- coding:utf-8 -*- class Foo: def __init__(self,start,stop): self.num = start self.stop = stop def __iter__(self): return self def __next__(self): if self.num >= self.stop: raise StopIteration n=self.num self.num+=1 return n f = Foo(1,5) from collections import Iterator,Iterable print(isinstance(f,Iterator)) for i in f: print(i)
迭代器协议实现range功能,具体代码实现如下:
#!/usr/bin/python # -*- coding:utf-8 -*- class Range: def __init__(self,n,stop,step): self.n = n self.stop = stop self.step = step def __next__(self): if self.n >= self.stop: raise StopIteration x = self.n self.n += self.step return x def __iter__(self): return self from collections import Iterator print(isinstance(Range(1,7,3),Iterator)) for i in Range(1,8,3): print(i)
迭代器协议实现Fib,具体代码实现如下:
#!/usr/bin/python # -*- coding:utf-8 -*- class Fib: def __init__(self): self._a = 0 self._b = 1 def __iter__(self): return self def __next__(self): self._a,self._b=self._b,self._a + self._b return self._a f1 = Fib() print(f1.__next__()) print(next(f1)) print(next(f1)) for i in f1: if i > 100: break print(‘%s ‘ %i,end=‘‘)
6.上下文管理协议
我们知道在操作文件对象的时候可以这么写
1 with open(‘a.txt‘) as f: 2 ‘代码块‘
上述叫做上下文管理协议,即with语句,为了让一个对象兼容with语句,必须在这个对象的类中声明__enter__和__exit__方法
class Open: def __init__(self,name): self.name=name def __enter__(self): print(‘出现with语句,对象的__enter__被触发,有返回值则赋值给as声明的变量‘) # return self ##返回值被赋值给as声明的变量 def __exit__(self, exc_type, exc_val, exc_tb): print(‘with中代码块执行完毕时执行我啊‘) with Open(‘a.txt‘) as f: print(‘=====>执行代码块‘) # print(f,f.name) 上下文管理协议
__exit__()中的三个参数分别代表异常类型,异常值和追溯信息,with语句中代码块出现异常,则with后的代码都无法执行
class Open: def __init__(self,name): self.name=name def __enter__(self): print(‘出现with语句,对象的__enter__被触发,有返回值则赋值给as声明的变量‘) def __exit__(self, exc_type, exc_val, exc_tb): print(‘with中代码块执行完毕时执行我啊‘) print(exc_type) print(exc_val) print(exc_tb) with Open(‘a.txt‘) as f: print(‘=====>执行代码块‘) raise AttributeError(‘***着火啦,救火啊***‘) print(‘0‘*100) #------------------------------->不会执行
如果__exit()返回值为True,那么异常会被清空,就好像啥都没发生一样,with后的语句正常执行
class Open: def __init__(self,name): self.name=name def __enter__(self): print(‘出现with语句,对象的__enter__被触发,有返回值则赋值给as声明的变量‘) def __exit__(self, exc_type, exc_val, exc_tb): print(‘with中代码块执行完毕时执行我啊‘) print(exc_type) print(exc_val) print(exc_tb) return True with Open(‘a.txt‘) as f: print(‘=====>执行代码块‘) raise AttributeError(‘***着火啦,救火啊***‘) print(‘0‘*100) #------------------------------->会执行
class Open: def __init__(self,filepath,mode=‘r‘,encoding=‘utf-8‘): self.filepath=filepath self.mode=mode self.encoding=encoding def __enter__(self): # print(‘enter‘) self.f=open(self.filepath,mode=self.mode,encoding=self.encoding) return self.f def __exit__(self, exc_type, exc_val, exc_tb): # print(‘exit‘) self.f.close() return True def __getattr__(self, item): return getattr(self.f,item) with Open(‘a.txt‘,‘w‘) as f: print(f) f.write(‘aaaaaa‘) f.wasdf #抛出异常,交给__exit__处理 练习:模拟Open
用途或者说好处:
1.使用with语句的目的就是把代码块放入with中执行,with结束后,自动完成清理工作,无须手动干预
2.在需要管理一些资源比如文件,网络连接和锁的编程环境中,可以在__exit__中定制自动释放资源的机制,你无须再去关系这个问题,这将大有用处
7.__call__方法
对象后面加括号,触发执行。
注:构造方法的执行是由创建对象触发的,即:对象 = 类名() ;而对于 __call__ 方法的执行是由对象后加括号触发的,即:对象() 或者 类()()
#!/usr/bin/python # -*- coding:utf-8 -*- class Foo: def __init__(self): pass def __call__(self, *args, **kwargs): print(‘__call__‘) obj = Foo() obj()
8.元类
知识储备exec
exec:三个参数
参数一:字符串形式的命令
参数二:全局作用域
参数三:局部作用域
exec会在指定的局部作用域内执行字符串内的代码,除非明确地使用global关键字
g={ ‘x‘:1, ‘y‘:2, ‘teachers‘:{‘egon‘,‘alex‘,‘yuanhao‘,‘wupeiqi‘} } l={‘birds‘:[1,2,3]} # exec(""" # def func(): # global x # x=‘egon‘ # func() # """,g,l) # print(g) # print(l) exec(""" global x x=‘egon‘ """,g,l) print(g) print(l) 知识储备exec命令
1 引子(类也是对象)
1 class Foo: 2 pass 3 4 f1=Foo() #f1是通过Foo类实例化的对象
python中一切皆是对象,类本身也是一个对象,当使用关键字class的时候,python解释器在加载class的时候就会创建一个对象(这里的对象指的是类而非类的实例),因而我们可以将类当作一个对象去使用,同样满足第一类对象的概念,可以:
-
把类赋值给一个变量
-
把类作为函数参数进行传递
-
把类作为函数的返回值
-
在运行时动态地创建类
上例可以看出f1是由Foo这个类产生的对象,而Foo本身也是对象,那它又是由哪个类产生的呢?
1 #type函数可以查看类型,也可以用来查看对象的类,二者是一样的 2 print(type(f1)) # 输出:<class ‘__main__.Foo‘> 表示,obj 对象由Foo类创建 3 print(type(Foo)) # 输出:<type ‘type‘>
2 什么是元类?
元类是类的类,是类的模板
元类是用来控制如何创建类的,正如类是创建对象的模板一样,而元类的主要目的是为了控制类的创建行为
元类的实例化的结果是为我们所用class定义的类,正如类的实例为对象(f1对象是Foo类的一个实例,Foo类是 type 类的一个实例)
type是python的一个内建元类,用来直接控制生成类,python中任何class定义的类其实都是type类实例化的对象
3 创建类的两种方式
方式一:使用class关键字
1 class Chinese(object): 2 country=‘China‘ 3 def __init__(self,name,age): 4 self.name=name 5 self.age=age 6 def talk(self): 7 print(‘%s is talking‘ %self.name)
方式二(就是手动模拟class创建类的过程):将创建类的步骤拆分开,手动去创建
准备工作:
创建类主要分为三部分
1 类名
2 类的父类
3 类体
#!/usr/bin/python # -*- coding:utf-8 -*- #类名 class_name = ‘Chinese‘ #父类 class_bases= (object,) #类体 class_body = """ country = ‘China‘ def __init__(self,name,age): self.name = name self.age = age def talk(self): print(‘%s is talking‘ %self.name) """
步骤一(先处理类体->名称空间):类体定义的名字都会存放于类的名称空间中(一个局部的名称空间),我们可以事先定义一个空字典,然后用exec去执行类体的代码(exec产生名称空间的过程与真正的class过程类似,只是后者会将__开头的属性变形),生成类的局部名称空间,即填充字典
class_dic = {} exec(class_body,globals(),class_dic) print(class_dic)
步骤二:调用元类type(也可以自定义)来产生类Chinense
Foo=type(class_name,class_bases,class_dic) #实例化type得到对象Foo,即我们用class定义的类Foo print(Foo) print(type(Foo)) print(isinstance(Foo,type)) ‘‘‘ <class ‘__main__.Chinese‘> <class ‘type‘> True ‘‘‘
我们看到,type 接收三个参数:
-
第 1 个参数是字符串 ‘Foo’,表示类名
-
第 2 个参数是元组 (object, ),表示所有的父类
-
第 3 个参数是字典,这里是一个空字典,表示没有定义属性和方法
补充:若Foo类有继承,即class Foo(Bar):.... 则等同于type(‘Foo‘,(Bar,),{})
4 一个类没有声明自己的元类,默认他的元类就是type,除了使用元类type,用户也可以通过继承type来自定义元类(顺便我们也可以瞅一瞅元类如何控制类的创建,工作流程是什么)
所以类实例化的流程都一样,与三个方法有关:(大前提,任何名字后加括号,都是在调用一个功能,触发一个函数的执行,得到一个返回值)
1.obj=Foo(),会调用产生Foo的类内的__call__方法,Foo()的结果即__call__的结果
2.调用__call__方法的过程中,先调用Foo.__new__,得到obj,即实例化的对象,但是还没有初始化
3.调用__call__方法的过程中,如果Foo.__new__()返回了obj,再调用Foo.__init__,将obj传入,进行初始化(否则不调用Foo.__init__)
总结:
__new__更像是其他语言中的构造函数,必须有返回值,返回值就实例化的对象
__init__只是初始化函数,必须没有返回值,仅仅只是初始化功能,并不能new创建对象
前提注意:
1. 在我们自定义的元类内,__new__方法在产生obj时用type.__new__(cls,*args,**kwargs),用object.__new__(cls)抛出异常:TypeError: object.__new__(Mymeta) is not safe, use type.__new__()
2. 在我们自定义的类内,__new__方法在产生obj时用object.__new__(self)
元类控制创建类:
class Mymeta(type): def __init__(self): print(‘__init__‘) def __new__(cls, *args, **kwargs): print(‘__new__‘) def __call__(self, *args, **kwargs): print(‘__call__‘) class Foo(metaclass=Mymeta): pass print(Foo) ‘‘‘ 打印结果: __new__ None ‘‘‘ ‘‘‘ 分析Foo的产生过程,即Foo=Mymeta(),会触发产生Mymeta的类内的__call__,即元类的__call__: Mymeta加括号,会触发父类的__call__,即type.__call__ 在type.__call__里会调用Foo.__new__ 而Foo.__new__内只是打印操作,没有返回值,因而Mymeta的结果为None,即Foo=None ‘‘‘
#!/usr/bin/python # -*- coding:utf-8 -*- # class mymeta(type): # def __init__(self): # print(‘__init__‘) # def __new__(cls, *args, **kwargs): # obj = type.__new__(cls,*args,**kwargs) # return obj # # def __call__(self, *args, **kwargs): # print(‘__call__‘) # # Foo = mymeta() # # class Foo(metaclass=mymeta): # pass # # print(Foo) ‘‘‘ 基于上述表达,我们改写了__new__,返回obj,但是抛出异常: TypeError: type.__new__() takes exactly 3 arguments (0 given) ‘‘‘ #改写 class mymeta(type): def __init__(self,name,bases,dic): print(‘__init__‘) def __new__(cls, *args, **kwargs): print("__new__") obj = type.__new__(cls,*args,**kwargs) return obj def __call__(self, *args, **kwargs): print(‘__call__‘) class Foo(metaclass=mymeta): pass print(Foo)
class Mymeta(type): def __init__(self,name,bases,dic): for key,value in dic.items(): if key.startswith(‘__‘): continue if not callable(value): continue if not value.__doc__: raise TypeError(‘%s 必须有文档注释‘ %key) type.__init__(self,name,bases,dic) def __new__(cls, *args, **kwargs): # print(‘__new__‘) obj=type.__new__(cls,*args,**kwargs) return obj def __call__(self, *args, **kwargs): # print(‘__call__‘) pass # Foo=Mymeta() class Foo(metaclass=Mymeta): def f1(self): ‘from f1‘ pass def f2(self): pass ‘‘‘ 抛出异常 TypeError: f2 必须有文档注释 ‘‘‘ 应用:限制类内的函数必须有文档注释
元类控制类创建对象
class mymeta(type): def __call__(self, *args, **kwargs): print(‘__call__‘) #第一件事,创建对象__new__ #第二件事,初始化对象__init__ #第三件事,返回对象 return obj class Foo(metaclass=mymeta): pass obj = Foo() #Foo()加括号,触发mymeta__call__
class mymeta(type): def __call__(self, *args, **kwargs): print(‘__call__‘) obj=self.__new__(self) ###因为调用的是类的方法,不是绑定方法,所以有几个参数就传几个参数,Foo.__new__(Foo) self.__init__(obj,*args,**kwargs) ###调用的是类的方法,所以有几个就传几个参数,因为是初始化对象,所以传入的是obj这个要初始化的对象 return obj #一定不能忘记返回obj class Foo(metaclass=mymeta): def __init__(self,name,age): self.name = name self.age = age def __new__(cls, *args, **kwargs): return object.__new__(cls,*args,**kwargs) ###因为创建的是类的对象,不是元类的类,所以用object,而不是type。type是用来创建元类的对象也就是自己定义的类 obj = Foo(‘egon‘,age=18) #触发mymeta__call__ print(obj.__dict__)
单例模式
#!/usr/bin/python # -*- coding:utf-8 -*- class Mysql: __instance = None def __init__(self,host=‘127.0.0.1‘,port=‘3306‘): self.host = host self.port = port @classmethod def singleton(cls,*args,**kwargs): if not cls.__instance: cls.__instance=cls(*args,**kwargs) return cls.__instance obj1 = Mysql() obj2 = Mysql() print(obj1 is obj2) #False obj3 = Mysql.singleton() obj4 = Mysql.singleton() print(obj3 is obj4) #True
#!/usr/bin/python # -*- coding:utf-8 -*- class mymeta(type): def __init__(self,name,bases,dic): #定义类mysql时就触发 self.__instance=None super().__init__(name,bases,dic) def __call__(self, *args, **kwargs): if not self.__instance: self.__instance=object.__new__(self) ##产生对象 obj1.__instance = self.__init__(self.__instance,*args,**kwargs) #初始化对象 return self.__instance class Mysql(metaclass=mymeta): def __init__(self,host=‘127.0.0.1‘,port=‘3306‘): self.host = host self.port = port obj1 = Mysql() obj2 = Mysql() print(obj1 is obj2)
class Mytype(type): def __init__(self,class_name,bases=None,dict=None): print("Mytype init--->") print(class_name,type(class_name)) print(bases) print(dict) def __call__(self, *args, **kwargs): print(‘Mytype call---->‘,self,args,kwargs) obj=self.__new__(self) self.__init__(obj,*args,**kwargs) return obj class Foo(object,metaclass=Mytype):#in python3 #__metaclass__ = MyType #in python2 x=1111111111 def __init__(self,name): self.name=name def __new__(cls, *args, **kwargs): return super().__new__(cls) # return object.__new__(cls) #同上 f1=Foo(‘name‘) print(f1.__dict__) 自定制元类
class Mytype(type): def __init__(self,what,bases=None,dict=None): print(‘mytype init‘) def __call__(self, *args, **kwargs): obj=self.__new__(self) self.__init__(obj,*args,**kwargs) return obj class Foo(object,metaclass=Mytype): x=1111111111 def __init__(self,name): self.name=name def __new__(cls, *args, **kwargs): return super().__new__(cls) f1=Foo(‘egon‘) print(f1.__dict__) 自定制元类纯净版
#元类总结 class Mymeta(type): def __init__(self,name,bases,dic): print(‘===>Mymeta.__init__‘) def __new__(cls, *args, **kwargs): print(‘===>Mymeta.__new__‘) return type.__new__(cls,*args,**kwargs) def __call__(self, *args, **kwargs): print(‘aaa‘) obj=self.__new__(self) self.__init__(self,*args,**kwargs) return obj class Foo(object,metaclass=Mymeta): def __init__(self,name): self.name=name def __new__(cls, *args, **kwargs): return object.__new__(cls) ‘‘‘ 需要记住一点:名字加括号的本质(即,任何name()的形式),都是先找到name的爹,然后执行:爹.__call__ 而爹.__call__一般做两件事: 1.调用name.__new__方法并返回一个对象 2.进而调用name.__init__方法对儿子name进行初始化 ‘‘‘ ‘‘‘ class 定义Foo,并指定元类为Mymeta,这就相当于要用Mymeta创建一个新的对象Foo,于是相当于执行 Foo=Mymeta(‘foo‘,(...),{...}) 因此我们可以看到,只定义class就会有如下执行效果 ===>Mymeta.__new__ ===>Mymeta.__init__ 实际上class Foo(metaclass=Mymeta)是触发了Foo=Mymeta(‘Foo‘,(...),{...})操作, 遇到了名字加括号的形式,即Mymeta(...),于是就去找Mymeta的爹type,然后执行type.__call__(...)方法 于是触发Mymeta.__new__方法得到一个具体的对象,然后触发Mymeta.__init__方法对对象进行初始化 ‘‘‘ ‘‘‘ obj=Foo(‘egon‘) 的原理同上 ‘‘‘ ‘‘‘ 总结:元类的难点在于执行顺序很绕,其实我们只需要记住两点就可以了 1.谁后面跟括号,就从谁的爹中找__call__方法执行 type->Mymeta->Foo->obj Mymeta()触发type.__call__ Foo()触发Mymeta.__call__ obj()触发Foo.__call__ 2.__call__内按先后顺序依次调用儿子的__new__和__init__方法 ‘‘‘
练习一:在元类中控制把自定义类的数据属性都变成大写
class Mymetaclass(type): def __new__(cls,name,bases,attrs): update_attrs={} for k,v in attrs.items(): if not callable(v) and not k.startswith(‘__‘): update_attrs[k.upper()]=v else: update_attrs[k]=v return type.__new__(cls,name,bases,update_attrs) class Chinese(metaclass=Mymetaclass): country=‘China‘ tag=‘Legend of the Dragon‘ #龙的传人 def walk(self): print(‘%s is walking‘ %self.name) print(Chinese.__dict__) ‘‘‘ {‘__module__‘: ‘__main__‘, ‘COUNTRY‘: ‘China‘, ‘TAG‘: ‘Legend of the Dragon‘, ‘walk‘: <function Chinese.walk at 0x0000000001E7B950>, ‘__dict__‘: <attribute ‘__dict__‘ of ‘Chinese‘ objects>, ‘__weakref__‘: <attribute ‘__weakref__‘ of ‘Chinese‘ objects>, ‘__doc__‘: None} ‘‘‘
练习二:在元类中控制自定义的类无需__init__方法
1.元类帮其完成创建对象,以及初始化操作;
2.要求实例化时传参必须为关键字形式,否则抛出异常TypeError: must use keyword argument for key function;
3.key作为用户自定义类产生对象的属性,且所有属性变成大写
class Mymetaclass(type): # def __new__(cls,name,bases,attrs): # update_attrs={} # for k,v in attrs.items(): # if not callable(v) and not k.startswith(‘__‘): # update_attrs[k.upper()]=v # else: # update_attrs[k]=v # return type.__new__(cls,name,bases,update_attrs) def __call__(self, *args, **kwargs): if args: raise TypeError(‘must use keyword argument for key function‘) obj = object.__new__(self) #创建对象,self为类Foo for k,v in kwargs.items(): obj.__dict__[k.upper()]=v return obj class Chinese(metaclass=Mymetaclass): country=‘China‘ tag=‘Legend of the Dragon‘ #龙的传人 def walk(self): print(‘%s is walking‘ %self.name) p=Chinese(name=‘egon‘,age=18,sex=‘male‘) print(p.__dict__)
9.socket 介绍
网络编程
http://www.cnblogs.com/linhaifeng/articles/6129246.html#_label1
客户端/服务器架构
即C/S架构,包括
1.硬件C/S架构(打印机)
2.软件C/S架构(web服务)
美好的愿望:
最常用的软件服务器是 Web 服务器。一台机器里放一些网页或 Web 应用程序,然后启动 服务。这样的服务器的任务就是接受客户的请求,把网页发给客户(如用户计算机上的浏览器),然 后等待下一个客户请求。这些服务启动后的目标就是“永远运行下去”。虽然它们不可能实现这样的 目标,但只要没有关机或硬件出错等外力干扰,它们就能运行非常长的一段时间。
生活中的C/S架构:
老男孩是S端,所有的学员是C端
饭店是S端,所有的食客是C端
互联网中处处是C/S架构(黄色网站是服务端,你的浏览器是客户端;腾讯作为服务端为你提供视频,你得下个腾讯视频客户端才能看狗日的视频)
C/S架构与socket的关系:
我们学习socket就是为了完成C/S架构的开发
osi七层
引子:
须知一个完整的计算机系统是由硬件、操作系统、应用软件三者组成,具备了这三个条件,一台计算机系统就可以自己跟自己玩了(打个单机游戏,玩个扫雷啥的)
如果你要跟别人一起玩,那你就需要上网了(访问个黄色网站,发个黄色微博啥的),互联网的核心就是由一堆协议组成,协议就是标准,全世界人通信的标准是英语,如果把计算机比作人,互联网协议就是计算机界的英语。所有的计算机都学会了互联网协议,那所有的计算机都就可以按照统一的标准去收发信息从而完成通信了。人们按照分工不同把互联网协议从逻辑上划分了层级,详见我另一篇博客
网络通信原理:http://www.cnblogs.com/linhaifeng/articles/5937962.html
为何学习socket一定要先学习互联网协议:
1.首先:本节课程的目标就是教会你如何基于socket编程,来开发一款自己的C/S架构软件
2.其次:C/S架构的软件(软件属于应用层)是基于网络进行通信的
3.然后:网络的核心即一堆协议,协议即标准,你想开发一款基于网络通信的软件,就必须遵循这些标准。
4.最后:就让我们从这些标准开始研究,开启我们的socket编程之旅
TCP/IP协议族包括运输层、网络层、链路层。现在你知道TCP/IP与UDP的关系了吧
Socket是应用层与TCP/IP协议族通信的中间软件抽象层,它是一组接口。在设计模式中,Socket其实就是一个门面模式,它把复杂的TCP/IP协议族隐藏在Socket接口后面,对用户来说,一组简单的接口就是全部,让Socket去组织数据,以符合指定的协议。
所以,我们无需深入理解tcp/udp协议,socket已经为我们封装好了,我们只需要遵循socket的规定去编程,写出的程序自然就是遵循tcp/udp标准的。
也有人将socket说成ip+port,ip是用来标识互联网中的一台主机的位置,而port是用来标识这台机器上的一个应用程序,ip地址是配置到网卡上的,而port是应用程序开启的,ip与port的绑定就标识了互联网中独一无二的一个应用程序 而程序的pid是同一台机器上不同进程或者线程的标识
基于tcp协议的socket
#!/usr/bin/python # -*- coding:utf-8 -*- import socket phone = socket.socket(socket.AF_INET,socket.SOCK_STREAM) #买电话 phone.bind((‘127.0.0.1‘,8080)) phone.listen(5) print(‘starting...‘) conn,addr = phone.accept() #接电话 print(conn) print(‘client addr‘,addr) print(‘ready to recv msg‘) client_msg = conn.recv(1024) #收消息 print(client_msg) conn.send(client_msg.upper()) conn.close() phone.close() 服务端
#!/usr/bin/python # -*- coding:utf-8 -*- import socket phone = socket.socket(socket.AF_INET,socket.SOCK_STREAM) phone.connect((‘127.0.0.1‘,8080)) phone.send(‘hello‘.encode(‘utf-8‘)) back_msg = phone.recv(1024) print(back_msg) phone.close() 客户端
通信循环和链接循环
#!/usr/bin/python # -*- coding:utf-8 -*- import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #买手机 phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) phone.bind((‘127.0.0.1‘,8080)) #插电话卡 phone.listen(5) #开机,backlog while True: #链接循环 print(‘starting....‘) conn,addr=phone.accept() #接电话 print(‘cliet addr‘,addr) while True: #与conn的通信循环 try:#针对windows平台下客户端断开链接 client_msg=conn.recv(1024) #收消息 if not client_msg:break #针对linux系统平台下客户端断开链接 print(‘client msg: %s‘ %client_msg) conn.send(client_msg.upper()) #发消息 except Exception: break conn.close() phone.close() 服务端
#!/usr/bin/python # -*- coding:utf-8 -*- import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) phone.connect((‘127.0.0.1‘,8080)) #拨通电话 while True: #通信循环 msg=input(‘>>: ‘).strip() if not msg:continue #防止客户端发空 phone.send(msg.encode(‘utf-8‘)) #发消息 back_msg=phone.recv(1024) print(back_msg.decode(‘utf-8‘)) phone.close() 客户端
基于socket实现远程执行命令
有的同学在重启服务端时可能会遇到,端口仍没有释放
这个是由于你的服务端仍然存在四次挥手的time_wait状态在占用地址(如果不懂,请深入研究1.tcp三次握手,四次挥手 2.syn洪水攻击 3.服务器高并发情况下会有大量的time_wait状态的优化方法)
#加入一条socket配置,重用ip和端口 phone=socket(AF_INET,SOCK_STREAM) phone.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) #就是它,在bind前加 phone.bind((‘127.0.0.1‘,8080))
发现系统存在大量TIME_WAIT状态的连接,通过调整linux内核参数解决, vi /etc/sysctl.conf 编辑文件,加入以下内容: net.ipv4.tcp_syncookies = 1 net.ipv4.tcp_tw_reuse = 1 net.ipv4.tcp_tw_recycle = 1 net.ipv4.tcp_fin_timeout = 30 然后执行 /sbin/sysctl -p 让参数生效。 net.ipv4.tcp_syncookies = 1 表示开启SYN Cookies。当出现SYN等待队列溢出时,启用cookies来处理,可防范少量SYN攻击,默认为0,表示关闭; net.ipv4.tcp_tw_reuse = 1 表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接,默认为0,表示关闭; net.ipv4.tcp_tw_recycle = 1 表示开启TCP连接中TIME-WAIT sockets的快速回收,默认为0,表示关闭。 net.ipv4.tcp_fin_timeout 修改系統默认的 TIMEOUT 时间 方法二
模仿ssh服务端和客户端,命令交互
#!/usr/bin/python # -*- coding:utf-8 -*- import socket import subprocess phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #买手机 phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) phone.bind((‘127.0.0.1‘,8080)) #插电话卡 phone.listen(5) #开机,backlog while True: #链接循环 print(‘starting....‘) conn,addr=phone.accept() #接电话 print(‘cliet addr‘,addr) while True: #与conn的通信循环 try:#针对windows平台下客户端断开链接 cmd=conn.recv(1024) #收消息 if not cmd:break #针对linux系统平台下客户端断开链接 print(‘client msg: %s‘ %cmd) res=subprocess.Popen(cmd.decode(‘utf-8‘),shell=True, stderr=subprocess.PIPE, stdout=subprocess.PIPE) err = res.stderr.read() if err: cmd_res = err else: cmd_res = res.stdout.read() conn.send(cmd_res) except Exception: break conn.close() phone.close() 服务器端
#!/usr/bin/python # -*- coding:utf-8 -*- import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) phone.connect((‘127.0.0.1‘,8080)) #拨通电话 while True: #通信循环 cmd=input(‘>>: ‘).strip() if not cmd:continue #防止客户端发空 phone.send(cmd.encode(‘utf-8‘)) #发消息 back_cmd=phone.recv(1024) print(back_cmd.decode(‘gbk‘)) phone.close() 客户端
粘包现象
让我们基于tcp先制作一个远程执行命令的程序(1:执行错误命令 2:执行ls 3:执行ifconfig)
注意注意注意:
res=subprocess.Popen(cmd.decode(‘utf-8‘),
shell=True,
stderr=subprocess.PIPE,
stdout=subprocess.PIPE)
的结果的编码是以当前所在的系统为准的,如果是windows,那么res.stdout.read()读出的就是GBK编码的,在接收端需要用GBK解码
且只能从管道里读一次结果
注意:命令ls -l ; lllllll ; pwd 的结果是既有正确stdout结果,又有错误stderr结果
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ from socket import * import subprocess ip_port=(‘127.0.0.1‘,8080) BUFSIZE=1024 tcp_socket_server=socket(AF_INET,SOCK_STREAM) tcp_socket_server.bind(ip_port) tcp_socket_server.listen(5) while True: conn,addr=tcp_socket_server.accept() print(‘客户端‘,addr) while True: cmd=conn.recv(BUFSIZE) if len(cmd) == 0:break res=subprocess.Popen(cmd.decode(‘utf-8‘),shell=True, stdout=subprocess.PIPE, stdin=subprocess.PIPE, stderr=subprocess.PIPE) stderr=act_res.stderr.read() stdout=act_res.stdout.read() conn.send(stderr) conn.send(stdout) 服务端
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ import socket BUFSIZE=1024 ip_port=(‘127.0.0.1‘,8080) s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) res=s.connect_ex(ip_port) while True: msg=input(‘>>: ‘).strip() if len(msg) == 0:continue if msg == ‘quit‘:break s.send(msg.encode(‘utf-8‘)) act_res=s.recv(BUFSIZE) print(act_res.decode(‘utf-8‘),end=‘‘) 客户端
上述程序是基于tcp的socket,在运行时会发生粘包
让我们再基于udp制作一个远程执行命令的程序
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ #_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ from socket import * import subprocess ip_port=(‘127.0.0.1‘,9003) bufsize=1024 udp_server=socket(AF_INET,SOCK_DGRAM) udp_server.bind(ip_port) while True: #收消息 cmd,addr=udp_server.recvfrom(bufsize) print(‘用户命令----->‘,cmd) #逻辑处理 res=subprocess.Popen(cmd.decode(‘utf-8‘),shell=True,stderr=subprocess.PIPE,stdin=subprocess.PIPE,stdout=subprocess.PIPE) stderr=res.stderr.read() stdout=res.stdout.read() #发消息 udp_server.sendto(stderr,addr) udp_server.sendto(stdout,addr) udp_server.close() 服务端
from socket import * ip_port=(‘127.0.0.1‘,9003) bufsize=1024 udp_client=socket(AF_INET,SOCK_DGRAM) while True: msg=input(‘>>: ‘).strip() udp_client.sendto(msg.encode(‘utf-8‘),ip_port) data,addr=udp_client.recvfrom(bufsize) print(data.decode(‘utf-8‘),end=‘‘) 客户端
上述程序是基于udp的socket,在运行时永远不会发生粘包
发送端可以是一K一K地发送数据,而接收端的应用程序可以两K两K地提走数据,当然也有可能一次提走3K或6K数据,或者一次只提走几个字节的数据,也就是说,应用程序所看到的数据是一个整体,或说是一个流(stream),一条消息有多少字节对应用程序是不可见的,因此TCP协议是面向流的协议,这也是容易出现粘包问题的原因。而UDP是面向消息的协议,每个UDP段都是一条消息,应用程序必须以消息为单位提取数据,不能一次提取任意字节的数据,这一点和TCP是很不同的。怎样定义消息呢?可以认为对方一次性write/send的数据为一个消息,需要明白的是当对方send一条信息的时候,无论底层怎样分段分片,TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。
例如基于tcp的套接字客户端往服务端上传文件,发送时文件内容是按照一段一段的字节流发送的,在接收方看了,根本不知道该文件的字节流从何处开始,在何处结束
所谓粘包问题主要还是因为接收方不知道消息之间的界限,不知道一次性提取多少字节的数据所造成的。
此外,发送方引起的粘包是由TCP协议本身造成的,TCP为提高传输效率,发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少,通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去,这样接收方就收到了粘包数据。
- TCP(transport control protocol,传输控制协议)是面向连接的,面向流的,提供高可靠性服务。收发两端(客户端和服务器端)都要有一一成对的socket,因此,发送端为了将多个发往接收端的包,更有效的发到对方,使用了优化方法(Nagle算法),将多次间隔较小且数据量小的数据,合并成一个大的数据块,然后进行封包。这样,接收端,就难于分辨出来了,必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。
- UDP(user datagram protocol,用户数据报协议)是无连接的,面向消息的,提供高效率服务。不会使用块的合并优化算法,, 由于UDP支持的是一对多的模式,所以接收端的skbuff(套接字缓冲区)采用了链式结构来记录每一个到达的UDP包,在每个UDP包中就有了消息头(消息来源地址,端口等信息),这样,对于接收端来说,就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
- tcp是基于数据流的,于是收发的消息不能为空,这就需要在客户端和服务端都添加空消息的处理机制,防止程序卡住,而udp是基于数据报的,即便是你输入的是空内容(直接回车),那也不是空消息,udp协议会帮你封装上消息头,实验略
udp的recvfrom是阻塞的,一个recvfrom(x)必须对一个一个sendinto(y),收完了x个字节的数据就算完成,若是y>x数据就丢失,这意味着udp根本不会粘包,但是会丢数据,不可靠
tcp的协议数据不会丢,没有收完包,下次接收,会继续上次继续接收,己端总是在收到ack时才会清除缓冲区内容。数据是可靠的,但是会粘包。
两种情况下会发生粘包。
发送端需要等缓冲区满才发送出去,造成粘包(发送数据时间间隔很短,数据了很小,会合到一起,产生粘包)
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ from socket import * ip_port=(‘127.0.0.1‘,8080) tcp_socket_server=socket(AF_INET,SOCK_STREAM) tcp_socket_server.bind(ip_port) tcp_socket_server.listen(5) conn,addr=tcp_socket_server.accept() data1=conn.recv(10) data2=conn.recv(10) print(‘----->‘,data1.decode(‘utf-8‘)) print(‘----->‘,data2.decode(‘utf-8‘)) conn.close() 服务端
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ import socket BUFSIZE=1024 ip_port=(‘127.0.0.1‘,8080) s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) res=s.connect_ex(ip_port) s.send(‘hello‘.encode(‘utf-8‘)) s.send(‘feng‘.encode(‘utf-8‘)) 客户端
接收方不及时接收缓冲区的包,造成多个包接收(客户端发送了一段数据,服务端只收了一小部分,服务端下次再收的时候还是从缓冲区拿上次遗留的数据,产生粘包)
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ from socket import * ip_port=(‘127.0.0.1‘,8080) tcp_socket_server=socket(AF_INET,SOCK_STREAM) tcp_socket_server.bind(ip_port) tcp_socket_server.listen(5) conn,addr=tcp_socket_server.accept() data1=conn.recv(2) #一次没有收完整 data2=conn.recv(10)#下次收的时候,会先取旧的数据,然后取新的 print(‘----->‘,data1.decode(‘utf-8‘)) print(‘----->‘,data2.decode(‘utf-8‘)) conn.close() 服务端
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ import socket BUFSIZE=1024 ip_port=(‘127.0.0.1‘,8080) s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) res=s.connect_ex(ip_port) s.send(‘hello feng‘.encode(‘utf-8‘)) 客户端
拆包的发生情况
当发送端缓冲区的长度大于网卡的MTU时,tcp会将这次发送的数据拆成几个数据包发送出去。
补充问题一:为何tcp是可靠传输,udp是不可靠传输
基于tcp的数据传输请参考我的另一篇文章http://www.cnblogs.com/linhaifeng/articles/5937962.html,tcp在数据传输时,发送端先把数据发送到自己的缓存中,然后协议控制将缓存中的数据发往对端,对端返回一个ack=1,发送端则清理缓存中的数据,对端返回ack=0,则重新发送数据,所以tcp是可靠的
而udp发送数据,对端是不会返回确认信息的,因此不可靠
补充问题二:send(字节流)和recv(1024)及sendall
recv里指定的1024意思是从缓存里一次拿出1024个字节的数据
send的字节流是先放入己端缓存,然后由协议控制将缓存内容发往对端,如果待发送的字节流大小大于缓存剩余空间,那么数据丢失,用sendall就会循环调用send,数据不会丢失
问题的根源在于,接收端不知道发送端将要传送的字节流的长度,所以解决粘包的方法就是围绕,如何让发送端在发送数据前,把自己将要发送的字节流总大小让接收端知晓,然后接收端来一个死循环接收完所有数据
low版本的解决方法
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ import socket,subprocess ip_port=(‘127.0.0.1‘,8080) s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) s.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1) s.bind(ip_port) s.listen(5) while True: conn,addr=s.accept() print(‘客户端‘,addr) while True: msg=conn.recv(1024) if not msg:break res=subprocess.Popen(msg.decode(‘utf-8‘),shell=True, stdin=subprocess.PIPE, stderr=subprocess.PIPE, stdout=subprocess.PIPE) err=res.stderr.read() if err: ret=err else: ret=res.stdout.read() data_length=len(ret) conn.send(str(data_length).encode(‘utf-8‘)) data=conn.recv(1024).decode(‘utf-8‘) if data =http://www.mamicode.com/= ‘recv_ready‘: conn.sendall(ret) conn.close() 服务端
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ import socket,time s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) res=s.connect_ex((‘127.0.0.1‘,8080)) while True: msg=input(‘>>: ‘).strip() if len(msg) == 0:continue if msg == ‘quit‘:break s.send(msg.encode(‘utf-8‘)) length=int(s.recv(1024).decode(‘utf-8‘)) s.send(‘recv_ready‘.encode(‘utf-8‘)) send_size=0 recv_size=0 data=b‘‘ while recv_size < length: data+=s.recv(1024) recv_size+=len(data) print(data.decode(‘utf-8‘)) 客户端
为何low:
程序的运行速度远快于网络传输速度,所以在发送一段字节前,先用send去发送该字节流长度,这种方式会放大网络延迟带来的性能损耗
峰哥解决粘包的方法
为字节流加上自定义固定长度报头,报头中包含字节流长度,然后一次send到对端,对端在接收时,先从缓存中取出定长的报头,然后再取真实数据
struct模块
该模块可以把一个类型,如数字,转成固定长度的bytes
import json,struct #假设通过客户端上传1T:1073741824000的文件a.txt #为避免粘包,必须自定制报头 header={‘file_size‘:1073741824000,‘file_name‘:‘/a/b/c/d/e/a.txt‘,‘md5‘:‘8f6fbf8347faa4924a76856701edb0f3‘} #1T数据,文件路径和md5值 #为了该报头能传送,需要序列化并且转为bytes head_bytes=bytes(json.dumps(header),encoding=‘utf-8‘) #序列化并转成bytes,用于传输 #为了让客户端知道报头的长度,用struck将报头长度这个数字转成固定长度:4个字节 head_len_bytes=struct.pack(‘i‘,len(head_bytes)) #这4个字节里只包含了一个数字,该数字是报头的长度 #客户端开始发送 conn.send(head_len_bytes) #先发报头的长度,4个bytes conn.send(head_bytes) #再发报头的字节格式 conn.sendall(文件内容) #然后发真实内容的字节格式 #服务端开始接收 head_len_bytes=s.recv(4) #先收报头4个bytes,得到报头长度的字节格式 x=struct.unpack(‘i‘,head_len_bytes)[0] #提取报头的长度 head_bytes=s.recv(x) #按照报头长度x,收取报头的bytes格式 header=json.loads(json.dumps(header)) #提取报头 #最后根据报头的内容提取真实的数据,比如 real_data_len=s.recv(header[‘file_size‘]) s.recv(real_data_len)
#_*_coding:utf-8_*_ #http://www.cnblogs.com/coser/archive/2011/12/17/2291160.html __author__ = ‘Linhaifeng‘ import struct import binascii import ctypes values1 = (1, ‘abc‘.encode(‘utf-8‘), 2.7) values2 = (‘defg‘.encode(‘utf-8‘),101) s1 = struct.Struct(‘I3sf‘) s2 = struct.Struct(‘4sI‘) print(s1.size,s2.size) prebuffer=ctypes.create_string_buffer(s1.size+s2.size) print(‘Before : ‘,binascii.hexlify(prebuffer)) # t=binascii.hexlify(‘asdfaf‘.encode(‘utf-8‘)) # print(t) s1.pack_into(prebuffer,0,*values1) s2.pack_into(prebuffer,s1.size,*values2) print(‘After pack‘,binascii.hexlify(prebuffer)) print(s1.unpack_from(prebuffer,0)) print(s2.unpack_from(prebuffer,s1.size)) s3=struct.Struct(‘ii‘) s3.pack_into(prebuffer,0,123,123) print(‘After pack‘,binascii.hexlify(prebuffer)) print(s3.unpack_from(prebuffer,0)) 关于struct的详细用法
import socket,struct,json import subprocess phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) #就是它,在bind前加 phone.bind((‘127.0.0.1‘,8080)) phone.listen(5) while True: conn,addr=phone.accept() while True: cmd=conn.recv(1024) if not cmd:break print(‘cmd: %s‘ %cmd) res=subprocess.Popen(cmd.decode(‘utf-8‘), shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE) err=res.stderr.read() print(err) if err: back_msg=err else: back_msg=res.stdout.read() conn.send(struct.pack(‘i‘,len(back_msg))) #先发back_msg的长度 conn.sendall(back_msg) #在发真实的内容 conn.close() 服务端(自定制报头)
#_*_coding:utf-8_*_ __author__ = ‘Linhaifeng‘ import socket,time,struct s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) res=s.connect_ex((‘127.0.0.1‘,8080)) while True: msg=input(‘>>: ‘).strip() if len(msg) == 0:continue if msg == ‘quit‘:break s.send(msg.encode(‘utf-8‘)) l=s.recv(4) x=struct.unpack(‘i‘,l)[0] print(type(x),x) # print(struct.unpack(‘I‘,l)) r_s=0 data=b‘‘ while r_s < x: r_d=s.recv(1024) data+=r_d r_s+=len(r_d) # print(data.decode(‘utf-8‘)) print(data.decode(‘gbk‘)) #windows默认gbk编码 客户端(自定制报头)
我们可以把报头做成字典,字典里包含将要发送的真实数据的详细信息,然后json序列化,然后用struck将序列化后的数据长度打包成4个字节(4个自己足够用了)
发送时:
先发报头长度
再编码报头内容然后发送
最后发真实内容
接收时:
先手报头长度,用struct取出来
根据取出的长度收取报头内容,然后解码,反序列化
从反序列化的结果中取出待取数据的详细信息,然后去取真实的数据内容
import socket,struct,json import subprocess phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) #就是它,在bind前加 phone.bind((‘127.0.0.1‘,8080)) phone.listen(5) while True: conn,addr=phone.accept() while True: cmd=conn.recv(1024) if not cmd:break print(‘cmd: %s‘ %cmd) res=subprocess.Popen(cmd.decode(‘utf-8‘), shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE) err=res.stderr.read() print(err) if err: back_msg=err else: back_msg=res.stdout.read() headers={‘data_size‘:len(back_msg)} head_json=json.dumps(headers) head_json_bytes=bytes(head_json,encoding=‘utf-8‘) conn.send(struct.pack(‘i‘,len(head_json_bytes))) #先发报头的长度 conn.send(head_json_bytes) #再发报头 conn.sendall(back_msg) #在发真实的内容 conn.close() 服务端:定制稍微复杂一点的报头
from socket import * import struct,json ip_port=(‘127.0.0.1‘,8080) client=socket(AF_INET,SOCK_STREAM) client.connect(ip_port) while True: cmd=input(‘>>: ‘) if not cmd:continue client.send(bytes(cmd,encoding=‘utf-8‘)) head=client.recv(4) head_json_len=struct.unpack(‘i‘,head)[0] head_json=json.loads(client.recv(head_json_len).decode(‘utf-8‘)) data_len=head_json[‘data_size‘] recv_size=0 recv_data=b‘‘ while recv_size < data_len: recv_data+=client.recv(1024) recv_size+=len(recv_data) print(recv_data.decode(‘utf-8‘)) #print(recv_data.decode(‘gbk‘)) #windows默认gbk编码 客户端
FTP作业:上传下载文件
import socket import struct import json import subprocess import os class MYTCPServer: address_family = socket.AF_INET socket_type = socket.SOCK_STREAM allow_reuse_address = False max_packet_size = 8192 coding=‘utf-8‘ request_queue_size = 5 server_dir=‘file_upload‘ def __init__(self, server_address, bind_and_activate=True): """Constructor. May be extended, do not override.""" self.server_address=server_address self.socket = socket.socket(self.address_family, self.socket_type) if bind_and_activate: try: self.server_bind() self.server_activate() except: self.server_close() raise def server_bind(self): """Called by constructor to bind the socket. """ if self.allow_reuse_address: self.socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1) self.socket.bind(self.server_address) self.server_address = self.socket.getsockname() def server_activate(self): """Called by constructor to activate the server. """ self.socket.listen(self.request_queue_size) def server_close(self): """Called to clean-up the server. """ self.socket.close() def get_request(self): """Get the request and client address from the socket. """ return self.socket.accept() def close_request(self, request): """Called to clean up an individual request.""" request.close() def run(self): while True: self.conn,self.client_addr=self.get_request() print(‘from client ‘,self.client_addr) while True: try: head_struct = self.conn.recv(4) if not head_struct:break head_len = struct.unpack(‘i‘, head_struct)[0] head_json = self.conn.recv(head_len).decode(self.coding) head_dic = json.loads(head_json) print(head_dic) #head_dic={‘cmd‘:‘put‘,‘filename‘:‘a.txt‘,‘filesize‘:123123} cmd=head_dic[‘cmd‘] if hasattr(self,cmd): func=getattr(self,cmd) func(head_dic) except Exception: break def put(self,args): file_path=os.path.normpath(os.path.join( self.server_dir, args[‘filename‘] )) filesize=args[‘filesize‘] recv_size=0 print(‘----->‘,file_path) with open(file_path,‘wb‘) as f: while recv_size < filesize: recv_data=self.conn.recv(self.max_packet_size) f.write(recv_data) recv_size+=len(recv_data) print(‘recvsize:%s filesize:%s‘ %(recv_size,filesize)) tcpserver1=MYTCPServer((‘127.0.0.1‘,8080)) tcpserver1.run() #下列代码与本题无关 class MYUDPServer: """UDP server class.""" address_family = socket.AF_INET socket_type = socket.SOCK_DGRAM allow_reuse_address = False max_packet_size = 8192 coding=‘utf-8‘ def get_request(self): data, client_addr = self.socket.recvfrom(self.max_packet_size) return (data, self.socket), client_addr def server_activate(self): # No need to call listen() for UDP. pass def shutdown_request(self, request): # No need to shutdown anything. self.close_request(request) def close_request(self, request): # No need to close anything. pass 服务端
import socket import struct import json import os class MYTCPClient: address_family = socket.AF_INET socket_type = socket.SOCK_STREAM allow_reuse_address = False max_packet_size = 8192 coding=‘utf-8‘ request_queue_size = 5 def __init__(self, server_address, connect=True): self.server_address=server_address self.socket = socket.socket(self.address_family, self.socket_type) if connect: try: self.client_connect() except: self.client_close() raise def client_connect(self): self.socket.connect(self.server_address) def client_close(self): self.socket.close() def run(self): while True: inp=input(">>: ").strip() if not inp:continue l=inp.split() cmd=l[0] if hasattr(self,cmd): func=getattr(self,cmd) func(l) def put(self,args): cmd=args[0] filename=args[1] if not os.path.isfile(filename): print(‘file:%s is not exists‘ %filename) return else: filesize=os.path.getsize(filename) head_dic={‘cmd‘:cmd,‘filename‘:os.path.basename(filename),‘filesize‘:filesize} print(head_dic) head_json=json.dumps(head_dic) head_json_bytes=bytes(head_json,encoding=self.coding) head_struct=struct.pack(‘i‘,len(head_json_bytes)) self.socket.send(head_struct) self.socket.send(head_json_bytes) send_size=0 with open(filename,‘rb‘) as f: for line in f: self.socket.send(line) send_size+=len(line) print(send_size) else: print(‘upload successful‘) client=MYTCPClient((‘127.0.0.1‘,8080)) client.run() 客户端
python day8 学习整理