首页 > 代码库 > 为了解决mysqlbing翻译表字段问题而分析frm文件(持续更新)
为了解决mysqlbing翻译表字段问题而分析frm文件(持续更新)
出处:kelvin19840813 的博客 http://www.cnblogs.com/kelvin19840813/
您的支持是对博主最大的鼓励,感谢您的认真阅读。本文版权归作者所有,欢迎转载,但请保留该声明。
很多人都知道mysqlbinlog 解释出来的binlog的 insert , update 是位置相反的 , 还有表字段都是@1 ... @数字 , 很恶心!!!
但没看到有人在 mysql8.0 功能需求时提问题出来 , 自己也没有提出来
唯有自己解释 frm 文件,获取表字段名称,字段出来, 然后对应一下贴贴贴上去翻译出binlog的sql语句咯 ,并不是高深东西 , 仅此日记记录
0000 ~ 0001: FE 01 识别是否frm文件 , 固定
0002: 0A 是mysql版本识别位置table.cc 的 FRM_VER+3+ MY_TEST(create_info->varchar); 为6是5.0+版本mysql , 9 或者 10是有varchar的frm文件
0003: 0C 影射枚举值从 handler.h文件中 legacy_db_type , 0C 是 12 刚刚好是innodb类型 ,如下:
enum legacy_db_type
{
DB_TYPE_UNKNOWN=0,DB_TYPE_DIAB_ISAM=1,
......, DB_TYPE_INNODB,
......
};
0004 ~ 0005: 03 00 , 反着看 00 30 mysql 5.0+ 总是为3 ,如果不是3,那就算了.....
0006 ~ 0007: 00 10 , 反着看 10 00 IO_SIZE: 4096
0008 ~ 0009: 01 00 暂时不知道是什么
000a ~ 000d: 00 40 00 00 暂时不知道是什么
000e ~ 000f: F9 16 tmp_key_length;如果等于0xffff然后密钥长度是4字节整数偏移0x002f
0010 ~ 0011: 18 08 rec_length ;这是一个默认值存储字符串的字节
0012 ~ 0015: 00 00 00 00 是 create table 语句的 MAX_ROWS 选项
0016 ~ 0019: 00 00 00 00 是 create table 语句的 min_rows 选项 , 在 handler.h 文件
typedef struct st_ha_create_information
{
.......
ulonglong max_rows,min_rows;
...}
001a: 00 没有用
001b: 02 总是2 , 使用长包字段
001c ~ 001d: A3 02 key_info_length - keyinfo部分字节大小
001e ~ 001f: 69 00 是create table [table_option] 的值 my_base.h 文件的 HA_OPTION_* 之类变量
0020: 没用
0021: 05 是 frm 文件的 版本号
0022 ~ 0025: 00 00 00 00 是create table [table_option] 指定的avg_row_length
0026: create table [table_option] 指定字符集编码 [DEFAULT] CHARACTER SET
0027: 00 不知道
0028: 02 是create table [table_option] 的 ROW_FORMAT
rem0types.h文件
enum rec_format_enum {
REC_FORMAT_REDUNDANT = 0, /*!< REDUNDANT row format */
REC_FORMAT_COMPACT = 1, /*!< COMPACT row format */
REC_FORMAT_COMPRESSED = 2, /*!< COMPRESSED row format */
REC_FORMAT_DYNAMIC = 3 /*!< DYNAMIC row format */
};
0029: 00 RAID_TYPE mysql 5之前的 create table [table_option] , 没有研究干嘛的
002a: 00 RAID_CHUNKS mysql 5之前的 create table [table_option] , 没有研究干嘛的
002b ~ 002e: 00 00 00 00 RAID_CHUNKSIZE mysql 5之前的 create table [table_option] , 没有研究干嘛的
002f ~ 0032: F9 16 00 00 index metadata keyinfo部分字节大小
0033 ~ 0036: BF C5 00 00 mysql版本号 ,涉及到一个字节序问题 , 机器是x86所以是Little-Endian ,链接如下:
http://baike.baidu.com/link?url=Dd2Z3o5aNoUYQPG6xqIgNwr-jrNS8BTK72r42WVxr-SHhva4TnMsHrEXTcE_N4F6ZEhhe18Akg3hOBe2Eb-M9K
都是unsigned int ( 占 4 bytes) , little-endian
生成 MYSQL_VERSION_MAJOR , MYSQL_VERSION_MINOR , MYSQL_VERSION_PATCH
0037 ~ 003a: 33 00 00 00 create table [table_option] extra_info 信息
- CONNECTION
- ENGINE
- PARTITION BY
- WITH PARSER
- Table COMMENT
003b ~ 003c: 00 00 extra_rec_buf_length
003d: 00 如果是0C, 就是分区表 , 在handler.h文件的 DB_TYPE_PARTITION_DB = 12
003e ~ 003f: 00 00 create table [table_option] 的 KEY_BLOCK_SIZE 在handler.h文件的 ulong key_block_size;
跟着下来要定位 forminfo_offset , 就是表的字段开始位置
Format | C | Python | 字节数 |
x | pad byte | no value | 1 |
c | char | string of length 1 | 1 |
b | signed char | integer | 1 |
B | unsigned char | integer | 1 |
? | _Bool | bool | 1 |
h | short | integer | 2 |
H | unsigned short | integer | 2 |
i | int | integer | 4 |
I | unsigned int | integer or long | 4 |
l | long | integer | 4 |
L | unsigned long | long | 4 |
q | long long | long | 8 |
Q | unsigned long long | long | 8 |
f | float | float | 4 |
d | double | float | 8 |
s | char[] | string | 1 |
p | char[] | string | 1 |
P | void * | long |
以下的都是固定长度 , 问题是要找出forminfo_offset , metadata_length 和 metadata_offset :
forminfo_offset , 就是表的字段开始位置,可变
metadata_offset = forminfo_offset + forminfo_length + screens_length
metadata_length = column_count * 17 bytes 到达表的第1个字段距离 + metadata_offset
forminfo_length = 288
header_size = 64
forminfo_names_length = 文件位置offset: 0x0004 (H) , 3.23版本之后都是3 , 占 2 bytes
column_count = (forminfo_offset + 258 ) (H) 字段总数 , 占 2 bytes
screens_length 有多少字节数到达 forminfo 的字段metadata , 占 2 bytes
screens_length = (forminfo_offset + 260) (H)
这里算到forminfo_offset: 0x3000
metadata_offset: 0x328C
metadata_length: 0x3446
定位了0x3446 就可以知道表的第1个字段位置 , 将2进制转换成字符 , php, python都有 struct的 pack 和 unpack 函数 , c比较麻烦一点 , 以 0xff 作为字段名成分隔符:
明天待续补充索引信息和注释信息............
为了解决mysqlbing翻译表字段问题而分析frm文件(持续更新)