《MySQL高可用數據庫內核深度優化的四重定制》要點:
本文介紹了MySQL高可用數據庫內核深度優化的四重定制,希望對您有用。如果有疑問,可以聯系我們。
作者介紹
王松磊,現任職于UCloud,從事MySQL數據庫內核研發工作.主要負責UCloud云數據庫UDB的內核故障排查工作以及數據庫新特性的研發工作.
近期我們的數據庫團隊對原生復制的多個方面進行了深度優化,提升了UDB高可用數據庫的功能和性能.今天借社群這個平臺,跟大家分享一二.
UDB以虛擬IP、HAProxy、單節點UDB數據庫搭建雙節點高可用架構:
在上述架構中,從節點UDB的數據是否完整、是否與主庫保證數據一致性是整個高可用架構的關鍵,所以用于數據傳輸的半同步復制起著至關重要的作用.針對原生的半同步復制,我們作了內核層面的深度優化.
UDB是以開源數據庫MySQL Community Server 5.7.16為基線版本,圍繞高可用架構做內核深度優化.
復制流程,如上圖所示,主要經過如下幾個步驟:
我們在原生復制的基礎上做了內核的深度優化,針對上述流程中的部分步驟,在功能和性能上做了改進,使得 UDB更加穩定.
存在的問題
原生半同步復制存在退化問題,在網絡抖動導致超時或者從庫追趕主庫日志進度時,復制會由半同步復制退化為異步復制.
相比于可靠的半同步復制,異步復制過程中,從庫是沒有辦法感知接收到relay log與主庫的binlog是否一致.如果發生宕機,也就沒有辦法確認從庫數據是否與主庫一致,是否可以發生數據庫切換,這種不確定的情況是我們不希望看到的.
優化方案
建立雙通道復制,在原有半同步復制的基礎上增加一條UDB復制通道:
如上圖所示,當從庫發生宕機或者網絡發生故障后,主從復制停止.當從庫復制恢復正常后,原生復制通道通過異步復制的方式進行數據追補,UDB復制通道只接收最新的binlog記錄位置,這樣可以最大限度地減少主從之間異步復制的時間.即在網絡可連通的情況下,無論何時發生宕機,從庫均知道與主庫是否處于數據一致的狀態(或者落后了多少).
存在的問題
在MySQL中,binlog是以event為基本單位進行記錄,以MySQL 5.7 ROW格式(開啟GTID)的binlog為例,一個DML(insert)會以5個event的格式記錄到binlog中(其他操作均以一個或者多個event組成,不再一一羅列),分別為:
全部event組成一個完整的事務,完整的事務才會被SQL線程正確復現到從庫上.當前IO線程接收binlog時,是以event為單位進行接收,即接收到一個event,記錄到relay log中后再繼續接收下一個.這種做法是低效的,也沒有充分利用到MySQL本身的文件緩存.
優化方案
優化IO線程記錄relay log的方式,將以event為單位記錄,修改為以事務為單位進行記錄.合并IO線程小的IO操作,提高IO性能.
將單個的event寫操作合并為多個event統一寫操作,將小的IO操作合并成較大的IO操作,提高IO性能.
存在的問題
Master.info文件在搭建復制時,記錄主庫IP、PORT等連接主庫的相關信息,在復制過程中,記錄IO線程從主庫接收到的binlog的文件名和位置,文件和位置會在每次記錄relay log成功后更新.
在基于GTID搭建復制后,master.info中記錄的binlog文件和位置不再作為復制的依據,所以master.info中記錄的binlog的文件和位置不再是有效的數據,也就沒有必要每次進行更新.
優化方案
在IO線程記錄relay log成功后,更新master.info文件之前,添加判斷.如果開啟了GTID并且使用GTID作為復制的依據(auto_position=1),那么不再更新master.info中binlog的文件和位置.
其它的master.info操作仍然保留,如change master、shutdown等操作.
存在的問題
在IO線程和SQL線程復制進度相似的情況下,在操作relay log時,會使用同一塊文件緩存,在讀寫文件緩存時,需要加鎖來保證操作的正確性.而IO線程和SQL線程需要頻繁地讀寫這塊公共內存,就需要對同一把鎖頻繁的競爭,從而導致性能下降.
優化方案
將IO線程和SQL線程對relay log的操作拆分開來,不再使用同一塊文件緩存.雖然這樣做會導致SQL線程增加一次讀IO操作.但是消除了對鎖的競爭,大大地提高了IO線程和SQL線程整體的性能.
優化后的復制流程圖如下:
數據庫原生復制流程中包括記錄binlog、記錄relay log、記錄master.info、relay-log.info等,針對上述流程中的部分步驟以及其它未列出的優化,在功能和性能上進行改進,UDB高可用數據庫在功能和性能上均得到了明顯的提升.
文章來自微信公眾號:DBAplus社群
轉載請注明本頁網址:
http://www.snjht.com/jiaocheng/1964.html