热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

如何利用Myflash解析binlog?

本文主要介绍了对Myflash的测试,从准备测试环境到利用Myflash解析binl


作者 | 李真旭:网名 Roger,Oracle ACE,拥有超过10年的 Oracle 运维管理使用经验;参与过众多移动、电信、联通、银行等大型数据库交付项目, 具有丰富的运维管理经验,对 Oracle 数据库管理运行机制、锁机制、优化机制等具有深入理解;擅长 Oracle 数据库的 performance tunning、troubleshooting 以及异常恢复;个人博客:http://www.killdb.com

新美大在 binlog2sql 的基础只是开源了一款新的小工具叫 Myflash;用于解析binlog 实现快速数据恢复,类似 Oracle 中的 Flashback 功能,不过目前仅支持MySQL 5.6、5.7版本(MariaDB 10 已经引入了 Flashback 功能)。在这里进行了简单测试,以后恢复 DML 误操作就更简单一些了。


1) 首先需要准备好 Myflash 测试环境


大家可以去这里下载源程序:https://github.com/Meituan-Dianping/MyFlash


这里的测试环境是 Redhat Linux 6.5,直接解压 myflash 无法运行,发现 glibc 版本不匹配,需要 2.14 版本。因此首先需要编译新版本的 glibc。


–下载 glibc 2.14


---下载lib包


# wget http://ftp.gnu.org/gnu/glibc/glibc-2.14.tar.gz 

# wget http://ftp.gnu.org/gnu/glibc/glibc-ports-2.14.tar.gz 

# tar -xvf  glibc-2.14.tar.gz 

# tar -xvf  glibc-ports-2.14.tar.gz

# mv glibc-ports-2.14 glibc-2.14/ports

# mkdir glibc-build-2.14

# cd glibc-build-2.14/


–编译

# ../glibc-2.14/configure  --prefix=/usr --disable-profile --enable-add-ons --with-headers=/usr/include --with-binutils=/usr/bin

# make


–拷贝 libc.so.6 到 lib64


[root@killdb glibc-build-2.14]# cp libc.so.6 lib64/libc-2.14.so


–删除原来的 libc


[root@killdb lib64]# rm -rf lib64/libc.so.6

rm: error while loading shared libraries: libc.so.6: cannot open shared object file: No such file or directory

[root@killdb lib64]# export LD_PRELOAD=/lib64/libc-2.14.so

[root@killdb lib64]# rm -rf lib64/libc.so.6                  

[root@killdb lib64]# ln -s lib64/libc-2.14.so lib64/libc.so.6


–make install


# make install


–确认是否 OK


可以看到已经可以了,支持最新的 GLIBC_2.14 了。下面开始测试 myflash。


2) 如下是针对 Myflash 的简单测试过程


–创建测试表


mysql> CREATE TABLE `Test` (

    -> `ID` int(11) NOT NULL AUTO_INCREMENT,

    -> `NAME` varchar(50) NOT NULL,

    -> PRIMARY KEY (`ID`)

    -> ) AUTO_INCREMENT=1000

    -> ;


–创建测试存储过程模拟 10 万条测试数据


mysql> delimiter $$

mysql> create procedure pro_test()

    -> begin

    -> declare id int;

    -> set id = 100000;

    -> while id>0 do

    -> insert into Test(name) values ('www.killdb.com');  

    -> set id = id-1;                                                                                                                                              

    -> end while;

    -> end $$

Query OK, 0 rows affected (0.00 sec)


mysql>  delimiter ;

mysql>  call pro_test();

Query OK, 1 row affected (44.21 sec)


–模拟删除 5 万条数据


mysql> delete from Test limit 50000;

Query OK, 50001 rows affected (0.54 sec)


mysql> select count(1) from Test;

+----------+

| count(1) |

+----------+

|    50001 |

+----------+

1 row in set (0.01 sec)


mysql>


–利用 Myflash 解析 binlog


这里简单的修改了一个小脚本,实现了半自动化。

[root@killdb binary]# ./flashback.sh  

[root@killdb binary]# cat flashback.sh 

#!/bin/bash


file_path=/root/myflash/binary/

cd /root/myflash/binary

./flashback --databaseNames enmotech --tableNames Test --sqlTypes delete  --binlogFileNames=/opt/mysql/mysql-bin.000003 

./flashback --maxSplitSize=15 --binlogFileNames=binlog_output_base.flashback


arr=`find ${file_path} -name "binlog_output_base.0*"|sort -n`


for i in ${arr}

do

        mysqlbinlog ${i} | mysql -S /opt/mysql/mysql.sock

done


–验证数据


mysql> select count(1) from Test;

+----------+

| count(1) |

+----------+

|   100001 |

+----------+

1 row in set (0.02 sec)


可以看到数据很容易就恢复出来了,效率非常高。比 binsql2sql 要高很多。整个恢复过程大概 1~2 秒。不仅是 delete,实际对于 insert 和 update 的 DML 操作,都是支持的。

资源下载

关注公众号:数据和云(OraNews)回复关键字获取

‘2017DTC’,2017 DTC 大会 PPT

‘DBALIFE’,“DBA 的一天”海报

‘DBA04’,DBA 手记4 经典篇章电子书

‘RACV1’, RAC 系列课程视频及 PPT

‘122ARCH’,Oracle 12.2 体系结构图

‘2017OOW’,Oracle OpenWorld 资料

‘PRELECTION’,大讲堂讲师课程资料



推荐阅读
  • 本文介绍了将mysql从5.6.15升级到5.7.15的详细步骤,包括关闭访问、备份旧库、备份权限、配置文件备份、关闭旧数据库、安装二进制、替换配置文件以及启动新数据库等操作。 ... [详细]
  • 本文介绍了在CentOS上安装Python2.7.2的详细步骤,包括下载、解压、编译和安装等操作。同时提供了一些注意事项,以及测试安装是否成功的方法。 ... [详细]
  • 1.ATP方式安装在ubuntu系统的apt软件仓库中,默认存在MySQL数据库,所以直接使用apt命令就可以安装。使用命令:aptapt-getin ... [详细]
  • mysql数据库生成表插件_screw 数据库文档生成工具
    简洁好用的数据库表结构文档工具在企业级开发中、我们经常会有编写数据库表结构文档的时间付出,从业以来,待过几家企业,关于数据库表结构文档状态:要么没有、要么有、但都是手写 ... [详细]
  • 推荐一个ASP的内容管理框架(ASP Nuke)的优势和适用场景
    本文推荐了一个ASP的内容管理框架ASP Nuke,并介绍了其主要功能和特点。ASP Nuke支持文章新闻管理、投票、论坛等主要内容,并可以自定义模块。最新版本为0.8,虽然目前仍处于Alpha状态,但作者表示会继续更新完善。文章还分析了使用ASP的原因,包括ASP相对较小、易于部署和较简单等优势,适用于建立门户、网站的组织和小公司等场景。 ... [详细]
  • 本文介绍了在Mac上搭建php环境后无法使用localhost连接mysql的问题,并通过将localhost替换为127.0.0.1或本机IP解决了该问题。文章解释了localhost和127.0.0.1的区别,指出了使用socket方式连接导致连接失败的原因。此外,还提供了相关链接供读者深入了解。 ... [详细]
  • 本文介绍了Linux系统中正则表达式的基础知识,包括正则表达式的简介、字符分类、普通字符和元字符的区别,以及在学习过程中需要注意的事项。同时提醒读者要注意正则表达式与通配符的区别,并给出了使用正则表达式时的一些建议。本文适合初学者了解Linux系统中的正则表达式,并提供了学习的参考资料。 ... [详细]
  • imx6ull开发板驱动MT7601U无线网卡的方法和步骤详解
    本文详细介绍了在imx6ull开发板上驱动MT7601U无线网卡的方法和步骤。首先介绍了开发环境和硬件平台,然后说明了MT7601U驱动已经集成在linux内核的linux-4.x.x/drivers/net/wireless/mediatek/mt7601u文件中。接着介绍了移植mt7601u驱动的过程,包括编译内核和配置设备驱动。最后,列举了关键词和相关信息供读者参考。 ... [详细]
  • 数据库进入全新时代,腾讯云发布五大数据库提前布局
    8月28日,腾讯云数据库在京正式启动战略升级,宣布未来将聚焦云原生、自治、超融合三大战略方向,以用户为中心,联接未来。并在现场面向全球用户同步发布五大战略级新品,包括数据库智能管家 ... [详细]
  • MySQL/MariaDB/PerconaDB提权条件漏洞
    背景  2016年11月01日,国外安全研究员DawidGolunski在MyS ... [详细]
  • 本文是搭建的mariadb-10.0.17版本的下载地址:https:downloads.mariadb.orginterstitialmariadb-10.0.17sourcemariadb-10.0.17.tar.gzfromhtt ... [详细]
  • MySQL之left join表查询中发生字符集转换导致表索引失效
    mysql,之,left,join,表,查询,中,发生,字符,集,转换, ... [详细]
  • 篇首语:本文由编程笔记#小编为大家整理,主要介绍了CentOS7编译mysql8.0.12相关的知识,希望对你有一定的参考价值。步骤一:安装 ... [详细]
  • 如何部署Zabbix监控实现监测和报警机制
    这篇文章的知识点包括:Zabbix的安装部署、Zabbix监控的实现以及Zabbix报警机制的实现,阅读完整文相信大家对Zabbix监控的使用有了一定的认识。Zabb ... [详细]
  • MYsql_linux mysql
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了linuxmysql相关的知识,希望对你有一定的参考价值。一数据库安装查看:[[email pr ... [详细]
author-avatar
小丹巛丹布莱妮
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有