首页 > 代码库 > InterBase数据库迁移到MySQL(数据导出)

InterBase数据库迁移到MySQL(数据导出)

      这篇我将记叙我的第二个脚本程序,这篇我使用InterBase数据库提供的“isql”命令来导出我所要的数据,但是由于“isql”命令没有直接导出数据的语句,说以我采用的是导入一个配置文件,在这个文件中定义好我要打开的是哪个数据库,以及输入账户名和密码之后使用sql语句查出所要的数据并写入到缓存中。

CONNECT "127.0.0.1:C:\OFFICE.GDB"USER "sysdba"PASSWORD "masterkey";SELECT *FROM DAILYPLU;

       一开始我是打算将数据先导出到文本文件中的,然后再通过第二个程序读取文本文件中的数据,但是后来想想可以讲这个两个程序做成一个的,而且还免去了导出路径以及第二个脚本读取路径的麻烦,于是我便将导出的数据以file类型的变量存在内存中,然后直接对这个变量进行操作,在查看“isql”命令导出的文件格式之后我发现了一个很乱的结果,与我想象的不一样的是,它是先输出一些没有用的话,然后是一行列名,紧接着是一行“===”来隔开列名与数据,然后是20行的内容,紧接着又是一行列名,一行“==”然后循环到数据导完。

      对于这样的数据很难通过直接读取来到MySQL数据库中,所要要在脚本中进行处理,这一步很关键,而且也很复杂…我先使用Python的切片将文件切成两部分,这样我就可以从两部分中分别提取出列名,和数据了,对于第一个部分的列名的读取很简单,应为事先知道列名是第三行,这样我就可以通过切片直接取到第三行的数据了,这样切出来的数据是一行字符串,而使用Python中的join函数可以将一个字符串转换成list,这里还用到了scanf模块,切实很好用,有兴趣的可以深入研究一下,对于后面的数据我发现我遇到的数据全部是数字,于是乎偷了个懒,使用正则表达式将后面的内容除了数字的其他内容全部过滤掉,这样最后的数据就只剩下数字和空格了,对于时间的处理,由于数据中的时间是出现在一行的最后一列的,所以我在处理数据的时候将数据再切成两部分,前面的数字一部分,后面的时间单独进行正则的匹配,然后再把这两组数据拼接在一起组成新的数据,这样得到的仍然是一个字符串,同样通过join函数进行转换,最后再把两部分的数据拼装在一起,这样就输出成了第一行是列名,之后的全部是数据了,下面附上2张图片说明格式化之前和之后的样子:

01

之后将格式化的数据输出到文本文件中,以方便后面脚本的读取,下面是程序:

import osimport re,pdb,sys,getoptopts, args = getopt.getopt(sys.argv[1:], "hi:o:",["help","int=","out="])input_file=""output_file=""def usage():    print """    -h --help              print the help    -i --int               To enter the address configuration file    -o --out               To export the address database     """for op, value in opts:    if op in ("-i","--gbk"):        input_file = value    elif op in ("-o","--gdb"):        output_file = value    elif op in ("-h"):        usage()        sys.exit()#这个是InterBase数据库导出的命令def main():    #执行isql命令将返回一个文件并保存到一个变量中,然后逐行读取这个变量中的内容    file=os.popen("isql<"+input_file)    file3=file    lines = file3.readlines()    #打开配置文件    fp = open(output_file,w)    #将读取到的数据取出表名,然后再写入到导出的文件的第一行    lines11 = file3.readlines()    lines12 = lines11[2:3]    for line in lines2:        result = scanf.sscanf(line,%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s)    linse3 = ",".join(result)    fp.writelines(linse3)    #对isql导出的文件进行切片,删除掉没有用的开头    lines2 = lines[5:-1]    lines3=[]    for line in lines2:    #下面的代码使用正则将空格删除,将时间格式化后拼装回成完整的一条数据        line=re.sub(r[^\d^\s^\-^\:^\.^\n],‘‘,line)        time=re.search(r\d{4}-\d{2}-\d{2}\s\d{2}:\d{2}:\d{2},line)        if time!=None:            line=re.sub(r\d{4}-\d{2}-\d{2}\s\d{2}:\d{2}:\d{2}\.\d{4},‘‘,line)            line=re.sub(r\s+, ,line)            sp=line.split( )            sp.append(time.group())            line=,.join(sp)            line=re.sub(r[,]+,,,line)            line=line.split(,)            line=line[1:]            if len(line)!=0:                lines3.append(line)            else:                line=re.sub(r[^\d^\s^\-^\:^\.^\n],‘‘,line)                line=line[1:].strip()    #将格式化好的数据逐行的写入到指定的文件中    for line2 in lines3:        line2=,.join(line2)        fp.writelines(line2)        fp.write(\r\n)    fp.close()if __name__ == __main__:   main()

InterBase数据库迁移到MySQL(数据导出)