雖然許多人不滿意MySQL被Oracle收購后的發(fā)展進度，但是該開源數(shù)據(jù)庫被應(yīng)用的廣泛程度仍然不容質(zhì)疑。然而開源到大型企業(yè)應(yīng)用必然存在著很多的技術(shù)挑戰(zhàn)，這里我們一起看不同并發(fā)訪問量級下，Mysql架構(gòu)的演變。
雖然許多人不滿意MySQL被Oracle收購后的發(fā)展進度，但是該開源數(shù)據(jù)庫被應(yīng)用的廣泛程度仍然不容質(zhì)疑。然而開源到大型企業(yè)應(yīng)用必然存在著很多的技術(shù)挑戰(zhàn)，這里我們一起看不同并發(fā)訪問量級下，Mysql架構(gòu)的演變。
作為最流行的開源數(shù)據(jù)庫，MySQL被廣泛應(yīng)用在Web應(yīng)用程序以及其它中小型項目上。然而不可忽視的是，在許多大型IT公司中，MySQL在高度優(yōu)化和定制化后，已逐漸偏離了原有的開源版本，更像是一種分支，比如Facebook前不久開源的WebScaleSQL。近日，有一篇博文，從大型網(wǎng)站架構(gòu)發(fā)展的角度看MySQL應(yīng)用所發(fā)生的改變，這里為大家分享。
寫在最前：
本文主要描述在網(wǎng)站的不同的并發(fā)訪問量級下，Mysql架構(gòu)的演變。
可擴展性
架構(gòu)的可擴展性往往和并發(fā)是息息相關(guān)，沒有并發(fā)的增長，也就沒有必要做高可擴展性的架構(gòu)，這里對可擴展性進行簡單介紹一下，常用的擴展手段有以下兩種：
一個服務(wù)，當(dāng)面臨更高的并發(fā)的時候，能夠通過簡單增加機器來提升服務(wù)支撐的并發(fā)度，且增加機器過程中對線上服務(wù)無影響（no down time），這就是可擴展性的理想狀態(tài)！架構(gòu)的演變V1.0 簡單網(wǎng)站架構(gòu)一個簡單的小型網(wǎng)站或者應(yīng)用背后的架構(gòu)可以非常簡單，數(shù)據(jù)存儲只需要一個Mysql Instance就能滿足數(shù)據(jù)讀取和寫入需求（這里忽略掉了數(shù)據(jù)備份的實例），處于這個時間段的網(wǎng)站，一般會把所有的信息存到一個Database Instance里面。
在這樣的架構(gòu)下，我們來看看數(shù)據(jù)存儲的瓶頸是什么？
只有當(dāng)以上3件事情任何一件或多件滿足時，我們才需要考慮往下一級演變。 從此我們可以看出，事實上對于很多小公司小應(yīng)用，這種架構(gòu)已經(jīng)足夠滿足他們的需求了，初期數(shù)據(jù)量準(zhǔn)確評估是杜絕過度設(shè)計很重要的一環(huán)，畢竟沒有人愿意為不可能發(fā)生的事情而浪費自己的精力。
這里簡單舉個我的例子，對于用戶信息這類表 （3個索引），16G內(nèi)存能放下，大概2000萬行數(shù)據(jù)的索引，簡單的讀和寫混合訪問量3000/s左右沒有問題，你的應(yīng)用場景是否？
一般當(dāng)V1.0 遇到瓶頸時，首先最簡便的拆分方法就是垂直拆分，何謂垂直？就是從業(yè)務(wù)角度來看，將關(guān)聯(lián)性不強的數(shù)據(jù)拆分到不同的Instance上，從而達到消除瓶頸的目標(biāo)。以圖中的為例，將用戶信息數(shù)據(jù)，和業(yè)務(wù)數(shù)據(jù)拆分到不同的三個實例上。對于重復(fù)讀類型比較多的場景，我們還可以加一層Cache，來減少對DB的壓力。
在這樣的架構(gòu)下，我們來看看數(shù)據(jù)存儲的瓶頸是什么？
單實例單業(yè)務(wù)依然存在V1.0所述瓶頸：遇到瓶頸時可以考慮往本文更高V版本升級，若是讀請求導(dǎo)致達到性能瓶頸可以考慮往V3.0升級， 其他瓶頸考慮往V4.0升級。
此類架構(gòu)主要解決V2.0架構(gòu)下的讀問題，通過給Instance掛數(shù)據(jù)實時備份的思路來遷移讀取的壓力，在MySQL的場景下就是通過主從結(jié)構(gòu)，主庫抗寫壓力，通過從庫來分擔(dān)讀壓力，對于寫少讀多的應(yīng)用，V3.0主從架構(gòu)完全能夠勝任。
在這樣的架構(gòu)下，我們來看看數(shù)據(jù)存儲的瓶頸是什么？很明了，寫入量主庫不能承受。
對于V2.0、V3.0方案遇到瓶頸時，都可以通過水平拆分來解決，水平拆分和垂直拆分有較大區(qū)別，垂直拆分拆完的結(jié)果，在一個實例上是擁有全量數(shù)據(jù)的，而水平拆分之后，任何實例都只有全量的1/n的數(shù)據(jù)，以下圖UserInfo的拆分為例，將UserInfo拆分為3個Cluster，每個Cluster持有總量的1/3數(shù)據(jù)，3個Cluster數(shù)據(jù)的總和等于一份完整數(shù)據(jù)。
注：這里不再叫單個實例 而是叫一個Cluster 代表包含主從的一個小MySQL集群。
那么，這樣架構(gòu)中的數(shù)據(jù)該如何路由？
1. Range拆分
sharding key按連續(xù)區(qū)間段路由，一般用在有嚴(yán)格自增ID需求的場景上，如UserId、UserId Range的小例子，以UserId 3000萬為Range進行拆分：1號Cluster的UserId是1-3000萬，2號Cluster UserId是 3001萬-6000萬。
2. List拆分
List拆分與Range拆分思路一樣，都是通過給不同的sharding key來路由到不同的Cluster，但是具體方法有些不同。List主要用來做sharding key不是連續(xù)區(qū)間的序列落到一個Cluster的情況，如以下場景：
假定有20個音像店，分布在4個有經(jīng)銷權(quán)的地區(qū)，如下表所示：
地區(qū) 商店ID 號 北區(qū) 3, 5, 6, 9, 17 東區(qū) 1, 2, 10, 11, 19, 20 西區(qū) 4, 12, 13, 14, 18 中心區(qū) 7, 8, 15, 16業(yè)務(wù)希望能夠把一個地區(qū)的所有數(shù)據(jù)組織到一起來搜索，這種場景List拆分可以輕松搞定
3. Hash拆分
通過對sharding key 進行哈希的方式來進行拆分，常用的哈希方法有除余，字符串哈希等等，除余如按UserId%n的值來決定數(shù)據(jù)讀寫哪個Cluster，其他哈希類算法這里就不細(xì)展開講了。
4. 數(shù)據(jù)拆分后引入的問題
數(shù)據(jù)水平拆分引入的問題主要是只能通過sharding key來讀寫操作，例如以UserId為sharding key的切分例子，讀UserId的詳細(xì)信息時，一定需要先知道UserId，這樣才能推算出在哪個Cluster進而進行查詢，假設(shè)我需要按UserName進行檢索用戶信息，需要引入額外的反向索引機制（類似HBase二級索引），如在Redis上存儲username->userid的映射，以UserName查詢的例子變成了先通過查詢username->userid，再通過userid查詢相應(yīng)的信息。
實際上這個做法很簡單，但是我們不要忽略了一個額外的隱患，那就是數(shù)據(jù)不一致的隱患。存儲在Redis里的username->userid和存儲在MySQL里的userid->username必須需要是一致的，這個保證起來很多時候是一件比較困難的事情，舉個例子來說，對于修改用戶名這個場景，你需要同時修改Redis和Mysql。這兩個東西是很難做到事務(wù)保證的，如MySQL操作成功，但是Redis卻操作失敗了（分布式事務(wù)引入成本較高）。對于互聯(lián)網(wǎng)應(yīng)用來說，可用性是最重要的，一致性是其次，所以能夠容忍小量的不一致出現(xiàn). 畢竟從占比來說，這類的不一致的比例可以微乎其微到忽略不計。（一般寫更新也會采用mq來保證直到成功為止才停止重試操作）
在這樣的架構(gòu)下，我們來看看數(shù)據(jù)存儲的瓶頸是什么？
在這個拆分理念上搭建起來的架構(gòu)，理論上不存在瓶頸（sharding key能確保各Cluster流量相對均衡的前提下)。不過確有一件惡心的事情，那就是Cluster擴容的時候重做數(shù)據(jù)的成本，如我原來有3個Cluster，但是現(xiàn)在我的數(shù)據(jù)增長比較快，我需要6個Cluster，那么我們需要將每個Cluster 一拆為二，一般的做法是：
- 摘下一個slave，停同步
- 對寫記錄增量log（實現(xiàn)上可以業(yè)務(wù)方對寫操作多一次寫持久化mq或者MySQL主創(chuàng)建trigger記錄寫等等方式）
- 開始對靜態(tài)slave做數(shù)據(jù)一拆為二
- 回放增量寫入，直到追上的所有增量，與原Cluster基本保持同步
- 寫入切換，由原3 Cluster 切換為6 Cluster
有沒有類似飛機空中加油的感覺，這是一個臟活，累活，容易出問題的活，為了避免這個，我們一般在最開始的時候，設(shè)計足夠多的sharding cluster來防止可能的Cluster擴容這件事情。
V5.0 ?云計算 騰飛（云數(shù)據(jù)庫）
云計算現(xiàn)在是各大IT公司內(nèi)部作為節(jié)約成本的一個突破口，對于數(shù)據(jù)存儲的MySQL來說，如何讓其成為一個SaaS是關(guān)鍵點。在MS的官方文檔中，把構(gòu)建一個足夠成熟的SaaS（MS簡單列出了SAAS應(yīng)用的4級成熟度）所面臨的3個主要挑戰(zhàn)：可配置性，可擴展性，多用戶存儲結(jié)構(gòu)設(shè)計稱為"three headed monster"?？膳渲眯院投嘤脩舸鎯Y(jié)構(gòu)設(shè)計在MySQL SaaS這個問題中并不是特別難辦的一件事情，所以這里重點說一下可擴展性。
MySQL作為一個SaaS服務(wù)，在架構(gòu)演變?yōu)閂4.0之后，依賴良好的sharding key設(shè)計，已經(jīng)不再存在擴展性問題，只是他在面對擴容縮容時，有一些臟活需要干，而作為SaaS，并不能避免擴容縮容這個問題，所以只要能把V4.0的臟活變成：第1，擴容縮容對前端APP透明（業(yè)務(wù)代碼不需要任何改動）；第2，擴容縮容全自動化且對在線服務(wù)無影響。如果實現(xiàn)了這兩點，那么他就拿到了作為SaaS的門票。
對于架構(gòu)實現(xiàn)的關(guān)鍵點，需要滿足對業(yè)務(wù)透明，擴容縮容對業(yè)務(wù)不需要任何改動，那么就必須eat our own dog food，在你MySQL SaaS內(nèi)部解決這個問題，一般的做法是我們需要引入一個Proxy，Proxy來解析SQL協(xié)議，按sharding key來尋找Cluster，判斷是讀操作還是寫操作來請求Master或者Slave，這一切內(nèi)部的細(xì)節(jié)都由Proxy來屏蔽。
這里借淘寶的圖來列舉一下Proxy需要干哪些事情
對于架構(gòu)實現(xiàn)的關(guān)鍵點，擴容縮容全自動化且對在線服務(wù)無影響； 擴容縮容對應(yīng)到的數(shù)據(jù)操作即為數(shù)據(jù)拆分和數(shù)據(jù)合并，要做到完全自動化有非常多不同的實現(xiàn)方式，總體思路和V4.0介紹的瓶頸部分有關(guān)，目前來看這個問題比較好的方案就是實現(xiàn)一個偽裝Slave的Sync Slave，解析MySQL同步協(xié)議，然后實現(xiàn)數(shù)據(jù)拆分邏輯，把全量數(shù)據(jù)進行拆分。具體架構(gòu)見下圖：
?
其中Sync Slave對于Original Master來說，和一個普通的Mysql Slave沒有任何區(qū)別，也不需要任何額外的區(qū)分對待。需要擴容/縮容時，掛上一個Sync slave，開始全量同步+增量同步，等待一段時間追數(shù)據(jù)。以擴容為例，若擴容后的服務(wù)和擴容前數(shù)據(jù)已經(jīng)基本同步了，這時候如何做到切換對業(yè)務(wù)無影響？ 其實關(guān)鍵點還是在引入的Proxy，這個問題轉(zhuǎn)換為了如何讓Proxy做熱切換后端的問題。這已經(jīng)變成一個非常好處理的問題了。
另外值得關(guān)注的是：2014年5月28日——為了滿足當(dāng)下對Web及云應(yīng)用需求，甲骨文宣布推出MySQL Fabric，在對應(yīng)的資料部分我也放了很多Fabric的資料，有興趣的可以看看，說不定會是以后的一個解決云數(shù)據(jù)庫擴容縮容的手段。
V more ?等待革命……
淘寶用例
Mysql ?Fabric
http://mysqlmusings.blogspot.jp/2013/09/brief-introduction-to-mysql-fabric.html
http://vnwrites.blogspot.jp/2013/09/mysqlfabric-sharding-introduction.html
http://vnwrites.blogspot.in/2013/09/mysqlfabric-sharding-example.html
http://vnwrites.blogspot.in/2013/09/mysqlfabric-sharding-migration.html
http://vnwrites.blogspot.jp/2013/09/mysqlfabric-sharding-maintenance.html
