首页 > 代码库 > python - 常用模块 - 序列化相关模块
python - 常用模块 - 序列化相关模块
把数据序列化可以更加方便的在程序之间传输
在python中,常用json和pickle两个模块来对数据序列化:
json模块:
json,用于字符串 和 python数据类型间进行转换
Json 模块提供了四个功能:dumps、dump、loads、load
json.dump() 将数据通过特殊的形式转换为所有程序语言都认识的字符串,并写入文件
json.dumps() 将数据通过特殊的形式转换为所有程序语言都认识的字符串
json.dump和json.dumps很不同,json.dump主要用来json文件读写,和json.load函数配合使用。
json.loads() 加载json文件的内容,并转换为python数据类型
1 ‘‘‘ json.dumps 和 json.loads 应用‘‘‘ 2 >>> import json 3 >>> user_info= { 4 ‘name‘:‘root‘, 5 ‘age‘:22, 6 ‘job‘:‘python‘ 7 } 8 >>> with open(‘data_json.txt‘,‘w‘) as f: 9 f.write(json.dumps(user_info)) #先序列化,再写入文件 10 12 44 # 这是序列化后单个字符的数量(字典在打印时,每个键值对的值前面会有个空格) 13 >>> len(user_info) 14 3 15 >>> with open(‘data_json.txt‘,‘r‘) as fr: 16 json.loads(fr.read()) #先从文件读出来,再反序列化 17 19 {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 20 >>>
1 >>> ‘‘‘json.dump 和 json.load使用‘‘‘ 2 >>> import json 3 >>> user_info = {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 4 >>> 5 >>> with open(‘data_json1.txt‘,‘w‘) as fw: 6 json.dump(user_info,fw) 7 #json.dump(要被序列化对象,文件句柄) 8 9 >>> with open(‘data_json1.txt‘,‘r‘) as fr: 10 json.load(fr) 11 #json.load(文件句柄) 12 13 {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 14 >>>
pickle模块:
pickle,用于python特有的类型 和 python的数据类型间进行转换
pickle模块提供了四个功能:dumps、dump、loads、load
pickle.dumps() 将数据通过特殊的形式转换成只有python语言认识的字符串,不需要写入文件
pickle.dump() 将数据通过特殊的形式转换成只有python语言认识的字符串,并写入文件
pickle.dump(obj, fw, [,protocol])
注解:将对象obj保存到文件fw (‘w‘方式打开的文件句柄)中去。
pickle.dumps(obj):以字节对象形式返回封装的对象,不需要写入文件中
pickle.load(fr)
注解:从file中读取一个字符串,并将它重构为原来的python对象。
fr : ‘r‘方式打开的文件句柄,有read()和readline()接口。
pickle.loads(bytes_object): 从字节对象中读取被封装的对象,并返回
1 >>> ‘‘‘ pickle.dumps 和 pickle.loads 使用‘‘‘ 2 >>> import pickle 3 >>> user_info = {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 4 >>> 5 >>> with open(‘data_pickle.txt‘,‘wb‘) as fw: #用pickle对数据序列化时,要用二进制打开进行读、写 6 fw.write(pickle.dumps(user_info)) 7 9 65 10 >>> with open(‘data_pickle.txt‘,‘rb‘) as fr: 11 pickle.loads(fr.read()) 12 13 14 {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 15 >>>
1 >>> ‘‘‘pickle.dump 和 pickle.load使用‘‘‘ 2 >>> import pickle 3 >>> user_info = {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 4 >>> 5 >>> with open(‘data_pickle1.txt‘,‘wb‘) as fw: 6 pickle.dump(user_info,fw) 7 8 >>> with open(‘data_pickle1.txt‘,‘rb‘) as fr: 9 pickle.load(fr) 10 11 {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 12 >>>
json和pickle两个模块的方法一样,只是在用pickle序列化时,打开文件的方式必须是二进制(‘wb‘,‘rb‘)
以上利用json或pickle都是序列化一条数据,若要同时序列化多条数据,则pickle和json都很麻烦了(两种方式操作过程一样)
>>> ‘‘‘用 pickle 序列化多条数据‘‘‘ >>> import pickle >>> >>> user_info = {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} >>> user_list = [‘root‘,‘admin‘,‘xsec‘] >>> job_list = [‘python‘,‘php‘,‘js‘] >>> >>> with open(‘more_data_pickle.txt‘,‘wb‘) as fw: fw.write(pickle.dumps(user_info)) fw.write(pickle.dumps(user_list)) fw.write(pickle.dumps(job_list)) 65 42 40 >>> with open(‘more_data_pickle.txt‘,‘rb‘) as fr: pickle.loads(fr.read()) pickle.loads(fr.read()) pickle.loads(fr.read()) #用dumps可以序列化多条数据,但是用loads反序列化时,报错了 {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} Traceback (most recent call last): File "<pyshell#83>", line 3, in <module> pickle.loads(fr.read()) EOFError: Ran out of input >>> fr = open(‘more_data_pickle.txt‘,‘rb‘) >>> pickle.loads(fr.read()) {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} >>> pickle.loads(fr.read()) Traceback (most recent call last): File "<pyshell#86>", line 1, in <module> pickle.loads(fr.read()) EOFError: Ran out of input >>> with open(‘more_data_pickle.txt‘,‘wb‘) as fw: #用dump和load成功序列化和反序列化多条数据 pickle.dump(user_info,fw) pickle.dump(user_list,fw) pickle.dump(job_list,fw) >>> with open(‘more_data_pickle.txt‘,‘rb‘) as fr: pickle.load(fr) pickle.load(fr) pickle.load(fr) #在生产时这样load不知道到底要load多少次才能取到想要的数据 {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} #按照dump的先后顺序,依次load (入单向队列,先进先出) [‘root‘, ‘admin‘, ‘xsec‘] [‘python‘, ‘php‘, ‘js‘] >>>
由上面可知,在序列化时问题还不大,可是当我们在读取数据时,感觉就是毫无条理,不知道合适才能取到我们想要的数据。由此,我们有必要学习下面这个模块
shelve 模块
shelve模块是一个简单的通过key,value形式将内存数据通过文件持久化的模块,可以持久化任何pickle可以支持的python数据格式
( shelve 的实质:对pickle再一次封装)
shelve较于pickle优点:
在dump多条数据时,pickle需要dump多次,其在取时,也要对应load多次(先进先出)
而shelve在持久化多条数据之后,只需要根据不同的key就可以调用不同的数据
1 >>> 2 >>> import shelve 3 >>> user_info = {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 4 >>> user_list = [‘root‘, ‘admin‘, ‘xsec‘] 5 >>> job_list = [‘python‘, ‘php‘, ‘js‘] 6 >>> #用shelve序列化数据 7 >>> so = shelve.open(‘more_data_shelve.txt‘) #打开一个用来存储序列化后的数据的文件(不需要打开方式) 8 >>> so[‘u_i‘] = user_info 9 >>> so[‘u_l‘] = user_list #其中的键名(‘u_i‘...)是自定义的,存数据不要求顺序,后面取数据也不要求顺序 10 >>> so[‘j_l‘] = job_list 11 >>> so.close() #存完了记得关闭文件 12 >>>
#反序列化数据 13 >>> so1 = shelve.open(‘more_data_shelve.txt‘) #打开之前存储序列化后的数据的文件,同样不要打开方式 14 >>> so1[‘u_l‘] 15 [‘root‘, ‘admin‘, ‘xsec‘] 16 >>> so1[‘j_l‘] #可以通过键名,只取想要的数据,不需要全部反序列化 17 [‘python‘, ‘php‘, ‘js‘] 18 >>> so1[‘u_i‘] 19 {‘name‘: ‘root‘, ‘age‘: 22, ‘job‘: ‘python‘} 20 >>> so1.close() #关闭文件 21 >>>
python - 常用模块 - 序列化相关模块