2021年3月20日——
日前,青云QingCloud(qingcloud.com,股票代碼:688316)受邀參加3306π成都站活動。青云QingCloud數(shù)據(jù)庫研發(fā)工程師邰翀帶來《MaterializeMySQL:MySQL到ClickHouse的高速公路》的主題演講,分享了如何打破異構數(shù)據(jù)庫壁壘,同步MySQL數(shù)據(jù)庫中的數(shù)據(jù)至ClickHouse中,幫助用戶在應對海量數(shù)據(jù)高并發(fā)場景時,提升數(shù)據(jù)分析能力,挖掘數(shù)據(jù)價值。
青云QingCloud數(shù)據(jù)庫研發(fā)工程師 邰翀
此次活動由3306π社區(qū)發(fā)起,旨在圍繞MySQL核心技術,將互聯(lián)網(wǎng)行業(yè)中最重要的數(shù)據(jù)化解決方案和核心技術理念帶到傳統(tǒng)行業(yè)中,構建良好交流互動環(huán)境,分享數(shù)據(jù)庫前沿知識。
在演講中,邰翀介紹了MySQL復制歷程,從最早的同構數(shù)據(jù)庫復制,到2013年的增強半同步復制,再到2017年支持組復制(MGR),實現(xiàn)金融級別可用的數(shù)據(jù)同步方案。隨后,以青云QingCloud為代表的各大廠商開始研發(fā)高可用組件,如QingCloud MySQL Plus,通過真正的強一致性和高可用能力,來管理MySQL選舉、探活,并訂正數(shù)據(jù)準確性,從而達到集群數(shù)據(jù)強一致性、主從秒級切換、無中心化自動選主,以及依托于云的跨區(qū)容災能力。但MySQL在有了高可用能力后,雖然可通過增加只讀實例的方式來增強AP能力,但是其數(shù)據(jù)結構和分布方式?jīng)Q定了AP能力相對較弱。
那么,如何增強AP能力呢?答案是:ClickHouse。但ClickHouse 能否主動同步并訂閱MySQL數(shù)據(jù)呢?答案是:當然可以。青云QingCloud ClickHouse 團隊自主研發(fā)的庫引擎——MaterializeMySQL引擎,就很好地解決這一問題。
邰翀闡述道:“MaterializeMySQL是對MySQL庫級別的映射,目前已作為實驗特性合并到ClickHouse 20.8版本中。其通過消費binlog存儲到MergeTree的方式來訂閱MySQL數(shù)據(jù),可以直接將ClickHouse作為一個分析實例加入到MySQL復制中,替代MySQL一部分只讀實例進行商務分析、用戶畫像等分析業(yè)務。ClickHouse本身在支持海量函數(shù)來提升分析能力的同時,還支持標準 SQL,可以讓使用者享受到更好的體驗。”
與其他的ClickHouse 同步MySQL數(shù)據(jù)的方式相比,MaterializeMySQL的優(yōu)勢更加明顯。邰翀認為,MaterializeMySQL打通了從MySQL到ClickHouse的數(shù)據(jù)傳輸通路,不僅提供了將MySQL數(shù)據(jù)精細化分析的能力,也為接下來的HTAP打下了基礎。
隨著萬物互聯(lián)的快速發(fā)展,數(shù)據(jù)開始呈現(xiàn)爆炸式增長,這也促使MySQL的能力進化加速。青云QingCloud將繼續(xù)發(fā)揮自主創(chuàng)新的優(yōu)勢,為解決海量數(shù)據(jù)分析提供先進的技術和產品支持,助力企業(yè)在海量數(shù)據(jù)中深度挖掘數(shù)據(jù)價值,為數(shù)字化轉型提供決策支持。