最近用Python时,遇到了序列化对象的问题,传统的json和新型序列化工具包msgpack都有涉及,于是做一个简单的总结:
通俗的讲:序列化:将对象信息转化为可以存储或传输的形式;反序列化:把这个存储的内容还原成对象。
json就不用多做解释了,是一种轻量级的数据交换格式,广泛应用于web开发中。当然也是将对象序列化成符合json规范的格式。网上有一堆堆资料。
官网:
msgpack就有意思了,先看下官方解释:
MessagePack is an efficient binary serialization format. It lets you exchange data among multiple languages like JSON. But it’s faster and smaller. Small integers are encoded into a single byte, and typical short strings require only one extra byte in addition to the strings themselves.
MessagePack 是一个高效的二进制序列化格式。它让你像JSON一样可以在各种语言之间交换数据。但是它比JSON更快、更小。小的整数会被编码成一个字节,短的字符串仅仅只需要比它的长度多一字节的大小。
总结一句:就是作用和json一样,就是比json更强:更快,更小!
官网:
我这里主要基于实际python中的使用,对比一下两种序列化效果。具体细节这位兄弟的博客讲解比较详细:
好的,不管别人说的多么牛逼,还是要用自己代码试一试,才是看的到的嘛,简单写了一个测试脚本:
对一个字典对象,用json和msgpack分别序列化、反序列化10000次,观察速度和序列化之后的内存占用。
import json,msgpack,sys,timea = {'name':'yzy','age':26,'gender':'male','location':'Shenzhen'}begin_json = time.clock()for i in range(10000): in_json = json.dumps(a) un_json = json.loads(in_json)end_json = time.clock()print('Json serialization time: %.05f seconds' %(end_json-begin_json))print (type(in_json),'content: ',in_json,'size: ',sys.getsizeof(in_json))print (type(un_json),'content: ',un_json,'size: ',sys.getsizeof(un_json))begin_msg = time.clock()for i in range(10000): in_msg = msgpack.packb(a) un_msg = msgpack.unpackb(in_msg)"""# alias for compatibility to simplejson/marshal/pickle.load = unpackloads = unpackbdump = packdumps = packb"""# in_msg1 = msgpack.dumps(a)# un_msg1 = msgpack.loads(in_msg)end_msg = time.clock()print('Msgpack serialization time: %.05f seconds' %(end_msg-begin_msg))print (type(in_msg),'content: ',in_msg,'size: ',sys.getsizeof(in_msg))print (type(un_msg),'content: ','size: ',sys.getsizeof(un_msg)
结果:
不得不说,从大小上面和耗时上面,msgpack的确有明显优势。
就我自己的测试而言,速度至少快了3倍多。
Json serialization time: 0.16115 secondscontent: {"age": 26, "location": "Shenzhen", "name": "yzy", "gender": "male"} size: 117 content: {'age': 26, 'location': 'Shenzhen', 'name': 'yzy', 'gender': 'male'} size: 288Msgpack serialization time: 0.05043 seconds content: b'\x84\xa3age\x1a\xa8location\xa8Shenzhen\xa4name\xa3yzy\xa6gender\xa4male' size: 78 content: size: 288
这样看来,msgpack还是有很大潜力的。虽然现在现存的系统大都适用json,但随着发展,包括Redis等对msgpack的支持,msgpack肯定会用在越来越多的数据传输中。