有的时候需要用python处理二进制数据,比如,存取文件,socket操作时.这时候,可以使用python的struct模块来完成.可以用struct来处理c语言中的结构体.
struct模块中最重要的三个函数是pack(),unpack(),calcsize()
pack(fmt,v1,v2,...)按照给定的格式(fmt),把数据封装成字符串(实际上是类似于c结构体的字节流)
unpack(fmt,string)按照给定的格式(fmt)解析字节流string,返回解析出来的tuple
calcsize(fmt)计算给定的格式(fmt)占用多少字节的内存
struct中支持的格式如下表:
Format CType Python 字节数 x padbyte novalue 1 c char stringoflength1 1 b signedchar integer 1 B unsignedchar integer 1 ? _Bool bool 1 h short integer 2 H unsignedshort integer 2 i int integer 4 I unsignedint integerorlong 4 l long integer 4 L unsignedlong long 4 q longlong long 8 Q unsignedlonglong long 8 f float float 4 d double float 8 s char[] string 1 p char[] string 1 P void* long注1.q和Q只在机器支持64位操作时有意思
注2.每个格式前可以有一个数字,表示个数
注3.s格式表示一定长度的字符串,4s表示长度为4的字符串,但是p表示的是pascal字符串
注4.P用来转换一个指针,其长度和机器字长相关
注5.最后一个可以用来表示指针类型的,占4个字节
为了同c中的结构体交换数据,还要考虑有的c或c++编译器使用了字节对齐,通常是以4个字节为单位的32位系统,故而struct根据本地机器字节顺序转换.可以用格式中的第一个字符来改变对齐方式.定义如下:
Character Byteorder Sizeandalignment @ native native 凑够4个字节 = native standard 按原字节数 < little-endian standard 按原字节数 > big-endian standard 按原字节数 ! network(=big-endian)standard 按原字节数
使用方法是放在fmt的第一个位置,就像@5s6sif
示例一:
比如有一个结构体
structHeader
{
unsignedshortid;
char[4]tag;
unsignedintversion;
unsignedintcount;
}
通过socket.recv接收到了一个上面的结构体数据,存在字符串s中,现在需要把它解析出来,可以使用unpack()函数.
importstruct
id,tag,version,count=struct.unpack("!H4s2I",s)
上面的格式字符串中,!表示我们要使用网络字节顺序解析,因为我们的数据是从网络中接收到的,在网络上传送的时候它是网络字节顺序的.后面的H表示一个unsignedshort的id,4s表示4字节长的字符串,2I表示有两个unsignedint类型的数据.
就通过一个unpack,现在id,tag,version,count里已经保存好我们的信息了.
同样,也可以很方便的把本地数据再pack成struct格式.
ss=struct.pack("!H4s2I",id,tag,version,count);
pack函数就把id,tag,version,count按照指定的格式转换成了结构体Header,ss现在是一个字符串(实际上是类似于c结构体的字节流),可以通过socket.send(ss)把这个字符串发送出去.
示例二:
importstruct
a=12.34
#将a变为二进制
bytes=struct.pack(i,a)
此时bytes就是一个string字符串,字符串按字节同a的二进制存储内容相同。
再进行反操作
现有二进制数据bytes,(其实就是字符串),将它反过来转换成python的数据类型:
a,=struct.unpack(i,bytes)
注意,unpack返回的是tuple
所以如果只有一个变量的话:
bytes=struct.pack(i,a)
那么,解码的时候需要这样
a,=struct.unpack(i,bytes)或者(a,)=struct.unpack(i,bytes)
如果直接用a=struct.unpack(i,bytes),那么a=(12.34,),是一个tuple而不是原来的浮点数了。
如果是由多个数据构成的,可以这样:
a=hello
b=world!
c=2
d=45.123
bytes=struct.pack(5s6sif,a,b,c,d)
此时的bytes就是二进制形式的数据了,可以直接写入文件比如binfile.write(bytes)
然后,当我们需要时可以再读出来,bytes=binfile.read()
再通过struct.unpack()解码成python变量
a,b,c,d=struct.unpack(5s6sif,bytes)
5s6sif这个叫做fmt,就是格式化字符串,由数字加字符构成,5s表示占5个字符的字符串,2i,表示2个整数等等,下面是可用的字符及类型,ctype表示可以与python中的类型一一对应。
注意:二进制文件处理时会碰到的问题
我们使用处理二进制文件时,需要用如下方法
binfile=open(filepath,rb)读二进制文件
binfile=open(filepath,wb)写二进制文件
那么和binfile=open(filepath,r)的结果到底有何不同呢?
不同之处有两个地方:
第一,使用r的时候如果碰到0x1A,就会视为文件结束,这就是EOF。使用rb则不存在这个问题。即,如果你用二进制写入再用文本读出的话,如果其中存在0X1A,就只会读出文件的一部分。使用rb的时候会一直读到文件末尾。
第二,对于字符串x=abc\ndef,我们可用len(x)得到它的长度为7,\n我们称之为换行符,实际上是0X0A。当我们用w即文本方式写的时候,在windows平台上会自动将0X0A变成两个字符0X0D,0X0A,即文件长度实际上变成8.。当用r文本方式读取时,又自动的转换成原来的换行符。如果换成wb二进制方式来写的话,则会保持一个字符不变,读取时也是原样读取。所以如果用文本方式写入,用二进制方式读取的话,就要考虑这多出的一个字节了。0X0D又称回车符。linux下不会变。因为linux只使用0X0A来表示换行。
本文内容总结:
原文链接:https://www.cnblogs.com/gala/archive/2011/09/22/2184801.html