佳木斯湛栽影视文化发展公司

主頁 > 知識庫 > sqlserver數(shù)據(jù)庫大型應(yīng)用解決方案經(jīng)驗總結(jié)

sqlserver數(shù)據(jù)庫大型應(yīng)用解決方案經(jīng)驗總結(jié)

熱門標(biāo)簽:百度競價排名 鐵路電話系統(tǒng) 網(wǎng)站排名優(yōu)化 AI電銷 Linux服務(wù)器 地方門戶網(wǎng)站 服務(wù)外包 呼叫中心市場需求

隨著互聯(lián)網(wǎng)應(yīng)用的廣泛普及,海量數(shù)據(jù)的存儲和訪問成為了系統(tǒng)設(shè)計的瓶頸問題。對于一個大型的互聯(lián)網(wǎng)應(yīng)用,每天百萬級甚至上億的PV無疑對數(shù)據(jù)庫造成了相當(dāng)高的負載。對于系統(tǒng)的穩(wěn)定性和擴展性造成了極大的問題。

一、負載均衡技術(shù)
負載均衡集群是由一組相互獨立的計算機系統(tǒng)構(gòu)成,通過常規(guī)網(wǎng)絡(luò)或?qū)S镁W(wǎng)絡(luò)進行連接,由路由器銜接在一起,各節(jié)點相互協(xié)作、共同負載、均衡壓力,對客戶端來說,整個群集可以視為一臺具有超高性能的獨立服務(wù)器。

1、實現(xiàn)原理
實現(xiàn)數(shù)據(jù)庫的負載均衡技術(shù),首先要有一個可以控制連接數(shù)據(jù)庫的控制端。在這里,它截斷了數(shù)據(jù)庫和程序的直接連接,由所有的程序來訪問這個中間層,然后再由中間層來訪問數(shù)據(jù)庫。這樣,我們就可以具體控制訪問某個數(shù)據(jù)庫了,然后還可以根據(jù)數(shù)據(jù)庫的當(dāng)前負載采取有效的均衡策略,來調(diào)整每次連接到哪個數(shù)據(jù)庫。

2、實現(xiàn)多據(jù)庫數(shù)據(jù)同步
對于負載均衡,最重要的就是所有服務(wù)器的數(shù)據(jù)都是實時同步的。這是一個集群所必需的,因為,如果數(shù)不據(jù)實時、不同步,那么用戶從一臺服務(wù)器讀出的數(shù)據(jù),就有別于從另一臺服務(wù)器讀出的數(shù)據(jù),這是不能允許的。所以必須實現(xiàn)數(shù)據(jù)庫的數(shù)據(jù)同步。這樣,在查詢的時候就可以有多個資源,實現(xiàn)均衡。比較常用的方法是Moebius for SQL Server集群,Moebius for SQL Server集群采用將核心程序駐留在每個機器的數(shù)據(jù)庫中的辦法,這個核心程序稱為Moebius for SQL Server 中間件,主要作用是監(jiān)測數(shù)據(jù)庫內(nèi)數(shù)據(jù)的變化并將變化的數(shù)據(jù)同步到其他數(shù)據(jù)庫中。數(shù)據(jù)同步完成后客戶端才會得到響應(yīng),同步過程是并發(fā)完成的,所以同步到多個數(shù)據(jù)庫和同步到一個數(shù)據(jù)庫的時間基本相等;另外同步的過程是在事務(wù)的環(huán)境下完成的,保證了多份數(shù)據(jù)在任何時刻數(shù)據(jù)的一致性。正因為Moebius 中間件宿主在數(shù)據(jù)庫中的創(chuàng)新,讓中間件不但能知道數(shù)據(jù)的變化,而且知道引起數(shù)據(jù)變化的SQL語句,根據(jù)SQL語句的類型智能的采取不同的數(shù)據(jù)同步的策略以保證數(shù)據(jù)同步成本的最小化。

數(shù)據(jù)條數(shù)很少,數(shù)據(jù)內(nèi)容也不大,則直接同步數(shù)據(jù)
數(shù)據(jù)條數(shù)很少,但是里面包含大數(shù)據(jù)類型,比如文本,二進制數(shù)據(jù)等,則先對數(shù)據(jù)進行壓縮然后再同步,從而減少網(wǎng)絡(luò)帶寬的占用和傳輸所用的時間。
數(shù)據(jù)條數(shù)很多,此時中間件會拿到造成數(shù)據(jù)變化的SQL語句, 然后對SQL語句進行解析,分析其執(zhí)行計劃和執(zhí)行成本,并選擇是同步數(shù)據(jù)還是同步SQL語句到其他的數(shù)據(jù)庫中。此種情況應(yīng)用在對表結(jié)構(gòu)進行調(diào)整或者批量更改數(shù)據(jù)的時候非常有用。

3、優(yōu)缺點
(1) 擴展性強:當(dāng)系統(tǒng)要更高數(shù)據(jù)庫處理速度時,只要簡單地增加數(shù)據(jù)庫服務(wù)器就 可以得到擴展。
(2) 可維護性:當(dāng)某節(jié)點發(fā)生故障時,系統(tǒng)會自動檢測故障并轉(zhuǎn)移故障節(jié)點的應(yīng)用,保證數(shù)據(jù)庫的持續(xù)工作。
(3) 安全性:因為數(shù)據(jù)會同步的多臺服務(wù)器上,可以實現(xiàn)數(shù)據(jù)集的冗余,通過多份數(shù)據(jù)來保證安全性。另外它成功地將數(shù)據(jù)庫放到了內(nèi)網(wǎng)之中,更好地保護了數(shù)據(jù)庫的安全性。
(4) 易用性:對應(yīng)用來說完全透明,集群暴露出來的就是一個IP

(1) 不能夠按照Web服務(wù)器的處理能力分配負載。
(2) 負載均衡器(控制端)故障,會導(dǎo)致整個數(shù)據(jù)庫系統(tǒng)癱瘓。

二、數(shù)據(jù)庫的讀寫分離
1,實現(xiàn)原理:讀寫分離簡單的說是把對數(shù)據(jù)庫讀和寫的操作分開對應(yīng)不同的數(shù)據(jù)庫服務(wù)器,這樣能有效地減輕數(shù)據(jù)庫壓力,也能減輕io壓力。主數(shù)據(jù)庫提供寫操作,從數(shù)據(jù)庫提供讀操作,其實在很多系統(tǒng)中,主要是讀的操作。當(dāng)主數(shù)據(jù)庫進行寫操作時,數(shù)據(jù)要同步到從的數(shù)據(jù)庫,這樣才能有效保證數(shù)據(jù)庫完整性。

(ebay的讀寫比率是260:1,ebay的讀寫分離)

(微軟數(shù)據(jù)庫分發(fā)) 

2,實現(xiàn)方法:在MS Sql server中可以使用發(fā)布定義的方式實現(xiàn)數(shù)據(jù)庫復(fù)制,實現(xiàn)讀寫分離,復(fù)制是將一組數(shù)據(jù)從一個數(shù)據(jù)源拷貝到多個數(shù)據(jù)源的技術(shù),是將一份數(shù)據(jù)發(fā)布到多個存儲站點上的有效方式。使用復(fù)制技術(shù),用戶可以將一份數(shù)據(jù)發(fā)布到多臺服務(wù)器上。復(fù)制技術(shù)可以確保分布在不同地點的數(shù)據(jù)自動同步更新,從而保證數(shù)據(jù)的一致性。SQL SERVER復(fù)制技術(shù)類型有三種,分別是:快照復(fù)制、事務(wù)復(fù)制、合并復(fù)制。SQL SERVER 主要采用出版物、訂閱的方式來處理復(fù)制。源數(shù)據(jù)所在的服務(wù)器是出版服務(wù)器,負責(zé)發(fā)表數(shù)據(jù)。出版服務(wù)器把要發(fā)表的數(shù)據(jù)的所有改變情況的拷貝復(fù)制到分發(fā)服務(wù)器,分發(fā)服務(wù)器包含有一個分發(fā)數(shù)據(jù)庫,可接收數(shù)據(jù)的所有改變,并保存這些改變,再把這些改變分發(fā)給訂閱服務(wù)器。

3,優(yōu)缺點
(1)數(shù)據(jù)的實時性差:數(shù)據(jù)不是實時同步到自讀服務(wù)器上的,當(dāng)數(shù)據(jù)寫入主服務(wù)器后,要在下次同步后才能查詢到。

(2)數(shù)據(jù)量大時同步效率差:單表數(shù)據(jù)量過大時插入和更新因索引,磁盤IO等問題,性能會變的很差。

(3)同時連接多個(至少兩個)數(shù)據(jù)庫:至少要連接到兩個數(shù)據(jù)數(shù)據(jù)庫,實際的讀寫操作是在程序代碼中完成的,容易引起混亂

(4)讀具有高性能高可靠性和可伸縮:只讀服務(wù)器,因為沒有寫操作,會大大減輕磁盤IO等性能問題,大大提高效率;只讀服務(wù)器可以采用負載均衡,主數(shù)據(jù)庫發(fā)布到多個只讀服務(wù)器上實現(xiàn)讀操作的可伸縮性。

三、數(shù)據(jù)庫/數(shù)據(jù)表  拆分(分布式) 

通過某種特定的條件,將存放在同一個數(shù)據(jù)庫中的數(shù)據(jù)分散存放到多個數(shù)據(jù)庫上,實現(xiàn)分布存儲,通過路由規(guī)則路由訪問特定的數(shù)據(jù)庫,這樣一來每次訪問面對的就不是單臺服務(wù)器了,而是N臺服務(wù)器,這樣就可以降低單臺機器的負載壓力。提示:sqlserver 2005版本之后,可以友好的支持“表分區(qū)”。

垂直(縱向)拆分:是指按功能模塊拆分,比如分為訂單庫、商品庫、用戶庫...這種方式多個數(shù)據(jù)庫之間的表結(jié)構(gòu)不同。

水平(橫向)拆分:將同一個表的數(shù)據(jù)進行分塊保存到不同的數(shù)據(jù)庫中,這些數(shù)據(jù)庫中的表結(jié)構(gòu)完全相同。

(縱向拆分)

(橫向拆分)

1,實現(xiàn)原理:使用垂直拆分,主要要看應(yīng)用類型是否合適這種拆分方式,如系統(tǒng)可以分為,訂單系統(tǒng),商品管理系統(tǒng),用戶管理系統(tǒng)業(yè)務(wù)系統(tǒng)比較明的,垂直拆分能很好的起到分散數(shù)據(jù)庫壓力的作用。業(yè)務(wù)模塊不明晰,耦合(表關(guān)聯(lián))度比較高的系統(tǒng)不適合使用這種拆分方式。但是垂直拆分方式并不能徹底解決所有壓力問題,例如 有一個5000w的訂單表,操作起來訂單庫的壓力仍然很大,如我們需要在這個表中增加(insert)一條新的數(shù)據(jù),insert完畢后,數(shù)據(jù)庫會針對這張表重新建立索引,5000w行數(shù)據(jù)建立索引的系統(tǒng)開銷還是不容忽視的,反過來,假如我們將這個表分成100個table呢,從table_001一直到table_100,5000w行數(shù)據(jù)平均下來,每個子表里邊就只有50萬行數(shù)據(jù),這時候我們向一張只有50w行數(shù)據(jù)的table中insert數(shù)據(jù)后建立索引的時間就會呈數(shù)量級的下降,極大了提高了DB的運行時效率,提高了DB的并發(fā)量,這種拆分就是橫向拆分

2,實現(xiàn)方法:垂直拆分,拆分方式實現(xiàn)起來比較簡單,根據(jù)表名訪問不同的數(shù)據(jù)庫就可以了。橫向拆分的規(guī)則很多,這里總結(jié)前人的幾點,

(1)順序拆分:如可以按訂單的日前按年份才分,2003年的放在db1中,2004年的db2,以此類推。當(dāng)然也可以按主鍵標(biāo)準(zhǔn)拆分。

優(yōu)點:可部分遷移

缺點:數(shù)據(jù)分布不均,可能2003年的訂單有100W,2008年的有500W。

(2)hash取模分: 對user_id進行hash(或者如果user_id是數(shù)值型的話直接使用user_id的值也可),然后用一個特定的數(shù)字,比如應(yīng)用中需要將一個數(shù)據(jù)庫切分成4個數(shù)據(jù)庫的話,我們就用4這個數(shù)字對user_id的hash值進行取模運算,也就是user_id%4,這樣的話每次運算就有四種可能:結(jié)果為1的時候?qū)?yīng)DB1;結(jié)果為2的時候?qū)?yīng)DB2;結(jié)果為3的時候?qū)?yīng)DB3;結(jié)果為0的時候?qū)?yīng)DB4,這樣一來就非常均勻的將數(shù)據(jù)分配到4個DB中。

優(yōu)點:數(shù)據(jù)分布均勻
缺點:數(shù)據(jù)遷移的時候麻煩;不能按照機器性能分攤數(shù)據(jù) 。

(3)在認證庫中保存數(shù)據(jù)庫配置
就是建立一個DB,這個DB單獨保存user_id到DB的映射關(guān)系,每次訪問數(shù)據(jù)庫的時候都要先查詢一次這個數(shù)據(jù)庫,以得到具體的DB信息,然后才能進行我們需要的查詢操作。
優(yōu)點:靈活性強,一對一關(guān)系
缺點:每次查詢之前都要多一次查詢,會造成一定的性能損失。

您可能感興趣的文章:
  • SQLserver安裝時要求CDKEY的解決辦法
  • SQL SERVER 2008 無法附加數(shù)據(jù)庫的解決方法
  • Sql Server安裝出錯,安裝程序配置服務(wù)器失敗的解決方法小結(jié)
  • 使用SQL Server 2008遠程鏈接時SQL數(shù)據(jù)庫不成功的解決方法
  • 安裝sql server 2008時的4個常見錯誤和解決方法
  • 圖解mysql數(shù)據(jù)庫的安裝
  • SQL Server安裝完成后3個需要立即修改的配置選項
  • SQL Server數(shù)據(jù)庫安裝時常見問題解決方案集錦

標(biāo)簽:衡水 銅川 仙桃 崇左 蘭州 黃山 湖南 湘潭

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《sqlserver數(shù)據(jù)庫大型應(yīng)用解決方案經(jīng)驗總結(jié)》,本文關(guān)鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266
    板桥市| 华池县| 绿春县| 英山县| 肇源县| 德令哈市| 高平市| 虹口区| 石楼县| 临潭县| 宁乡县| 垦利县| 翁源县| 任丘市| 安乡县| 财经| 孝感市| 阜平县| 定陶县| 富民县| 库伦旗| 嘉祥县| 乌恰县| 历史| 丰县| 睢宁县| 鄱阳县| 棋牌| 兴隆县| 兴义市| 商河县| 任丘市| 米脂县| 湟源县| 株洲市| 东台市| 桓仁| 瓦房店市| 德州市| 陇南市| 桦川县|