獲取信息的速度快慢已經成為制約互聯網發展的重要因素。如何在現有的網絡資源下提高用戶獲取信息的速度,已成為困擾眾多數據中心、ISP和企業的一大難題。以負載均衡器為代表的互聯網加速產品應運而生。它們將成為未來互聯網上不可或缺的一部分。
為了不再看到“Server Too Busy”
上網過程中用戶最不滿意的是什麼?來自CNNIC的最新調查報告表明,用戶認為上網過程中最不能令人滿意的地方是速度太慢。
電子商務逐步走入眾多傳統企業時遇到的最大阻力是什麼?網絡平台的性能和服務水平仍不可靠顯然是重要的因素之一。
由於用戶急劇增長,獲取信息的速度快慢已經成為制約互聯網發展的重要因素。尤其隨著電子商務的迅速發展,企業的信息中心已經從側重計算與數據處理的計算中心和側重網絡與數據通訊的網絡中心發展成為一個將計算中心與網絡中心功能平衡優化的集成一體的數據中心。作為企業電子商務網絡的基礎核心,數據中心將匯集高性能計算、數據通訊、語音通訊等處理功能於一體,成為支持企業未來電子商務系統應用的必然平台。
但是,作為企業網的心髒,數據中心面臨著眾多的挑戰。擴展性、靈活性、高性能、可靠性、高密度和安全性無一不是數據中心不可或缺的要求,尤其是在數據流急劇增長的時候還要進行持續穩定的運行。很難想象用戶會在屢次遇到“Server Too Busy”後還能再次訪問這個網站;更難以想象正在進行信用卡支付時遇到掉線會有多麼嚴重的後果。那麼,如何解決這個瓶頸問題呢?如何才能切實提高網絡的服務質量呢?
顯然,傳統的網絡結構已經不能滿足這種高質量的需求。在僅靠不斷增加帶寬的方式提高訪問速度收效甚微的情況下,想切實提高網絡服務質量,就需要在現有網絡層次結構中專門增加一層,以專門用於提高網絡的響應時間。
目前這種用於加速互聯網絡的產品有許多,代表技術有負載均衡、高速緩存、SSL/XML加速、流量與帶寬管理等。目前,此系列產品已經越來越普遍地被各數據中心、ISP、企業網站使用。他們往往分布在應用服務器和路由器/交換機之間,有人稱之為“前端基礎設施”。
所有這些技術都能改善網絡速度、提高服務質量,但機理不同,適用的范圍也不盡相同。以下詳細介紹各個技術的特點和適用范圍。
負載均衡技術
現在互聯網上有多少客戶?十分鐘後客戶數目會增長嗎?這些問題恐怕誰也回答不了。互聯網的快速增長已經使網絡服務器面對的訪問數量大大增加並且更加不可預知。如今,服務器必須具備提供大量並發訪問服務的能力,其處理能力和I/O能力已經成為提供服務的瓶頸。如果客戶的增多導致通信量超出了服務器能承受的范圍,那麼其結果必然是——宕機。
顯然,單台服務器有限的性能不可能解決這個問題,一台普通服務器的處理能力只能達到每秒幾萬個到幾十萬個請求,無法在一秒鐘內處理上百萬個甚至更多的請求。但若能將10台這樣的服務器組成一個系統,並通過軟件技術將所有請求平均分配給所有服務器,那麼這個系統就完全擁有每秒鐘處理幾百萬個甚至更多請求的能力。這就是負載均衡最初的基本設計思想。
最早的負載均衡技術是通過DNS來實現的,在DNS中為多個地址配置同一個名字,因而查詢這個名字的客戶機將得到其中一個地址,從而使得不同的客戶訪問不同的服務器,達到負載均衡的目的。DNS負載均衡是一種簡單而有效的方法,但是它不能區分服務器的差異,也不能反映服務器的當前運行狀態。
其實,這種負載均衡的基本設計思想只能算是負載均衡技術的最初應用。現代負載均衡技術除了可以做到合理、平均、實時地均衡系統負載外,還能夠確保系統正常運行的高可用性和高可靠性。
負載均衡服務能夠平衡服務器群中所有的服務器和應用之間的通信負載,根據實時響應時間進行判斷,將任務交由負載最輕的服務器來處理,以實現真正的智能通信管理和最佳的服務器群性能。
假設每個服務器能響應的請求為每秒10萬個。如果不采用負載均衡,那麼該系統就只能達到每秒10萬個的響應,即使采用三台服務器,也有可能在不到每秒 30萬個響應的時候就會出現某台服務器由於訪問量過大而宕機;如果某台服務器出現故障,則可能導致數萬個請求不能得到正確的響應。但如果采用負載均衡,不僅當服務器出現故障時可以自動將指向該服務器上的響應分擔到其他服務器,還可以在數據量不太大時也將任務分配到各個服務器中,避免出現有些服務器數據量很小而有的已因數據量接近極限導致性能急劇下降的現象。如果數據量超出了服務器的響應能力,只需增加服務器數目就可以平滑升級。也就是說,負載均衡技術不僅可以維持網絡系統中負載的均衡分配,還能夠維護網絡系統的高可用性運行,因而是保證網絡系統高性能的重要技術。
現代負載均衡技術通常操作於網絡的第四層或第七層。負載均衡器可以根據實際的響應時間制定優先級交付決策,從而實現高性能、智能化流量管理,達到最佳的服務器群性能。采用第七層應用控制還可以減少通信高峰期的錯誤訊息,因為差錯控制和流量管理技術可以偵測到一些錯誤信息並透明地將會話重定向到另一個服務器,使用戶順利地進行使用。例如,圖一中服務器A不可用或者數據庫出現錯誤,錯誤信息將會返回到負載均衡器上,然後會將客戶的訪問指向服務器B或者將消息重放到其他數據庫中去,整個過程對用戶是透明的。
由於采用了負載均衡技術,自動故障恢復得以實現,服務的時間可以延長,24×7可靠性和持續運行成為可能。另外,負載均衡器一般也支持路徑外返回模式,即繞過流量分配器,為那些焦急等待大量數據文件請求響應的客戶提供更快的響應時間。
在最新的負載均衡產品中,智能化越來越明顯。一些智能化的負載均衡器能夠偵測到像數據庫錯誤、服務器不可用等信息,從而采取措施使會話恢復和重定向服務器使電子商務能夠得以順利進行。多址負載均衡器可以對客戶發來的訪問請求進行解析,計算出最佳地址,然後將該地址返回客戶,使客戶自動連接到對其請求來說最佳的數據中心。
負載均衡技術解決了出現大流量數據時服務器的智能化分配,但統計發現,在網絡應用的需求中存在著許多冗余的內容,這些重復的需求占用了大量的網絡資源。具體地說,在互聯網上80%的用戶都在訪問20%的熱門網站,而在這些熱門網站中又有一些熱門的內容吸引了絕大多數訪問者的注意;對於企業局域網而言,員工所發出的網絡指令也存在著很大的重復。以上的情況造成了計算機執行的指令具有很高的重復性,這是僅用負載均衡技術不能解決的。
緩存技術就是基於以上的情況產生的。緩存設備會監視Web請求,檢索它們,然後存儲為它的對象。後來的用戶將直接從本地的緩存設備而不是真正的目標站點獲取該對象,從而達到提高響應性能,減少帶寬壓力的目的。
有效放置的緩存設備可以及時向最終用戶傳送Web網頁,提高Web站點的效率,減少WAN訪問費用,甚至可以建立起一道抵御外部黑客攻擊的安全防線。因此,不僅對於那些能夠迅速地從緩存技術節省下來的費用中盈利的ISP和電信公司,而且對於企業而言,緩存技術也同樣具有著越來越大的吸引力。
緩存技術的基本概念是:由於從網絡的邊緣索取對象比從Internet中索取的速度更快、費用更低廉,因此將Web數據靠近最終用戶保存,可以使服務提供商保留帶寬,節省費用。緩存設備工作在比路由器更高的層次上,能夠把用戶所要訪問的網絡信息“抓”到本地,在最短的時間內將信息連續、完整、實時地傳遞給最終用戶,不僅大大縮短了訪問響應時間,而且極大地提高了高峰時間網絡所能承受的訪問容量。可以說,緩存技術降低了目前廣域網通訊帶寬成本,是提升互聯網訪問性能的最好方法。
早期的緩存技術可用來節省帶寬以減少網絡擁塞,但它們不可避免地引起了以下問題:一是用戶有可能得不到網頁的及時更新,因為緩存區不可能自動跟蹤網頁的變化;二是為得到最新網頁,用戶訪問時需要首先查詢真正的服務器上的內容,這將導致訪問速度的降低。
目前使用最多的緩存技術產品是Web Cache。一提Cache,大家自然會想到計算機裡面的高速緩存,實際上,Web Cache的功用遠不止存儲和提供數據這麼簡單。Cache是作為基於軟件的代理服務器的一部分或專門的硬件(appliances,容器)出現的,本文主要談後者。與前者相比,它可以提供更好的性能。不同的生產商提供的產品在許多方面存在著差異,其中包括配置和設置的難易程度、使用的協議、安全性能、遠程管理、能夠用於緩存的 Web傳輸的類型以及價格、售後技術支持等。
Cache設備可在用戶端儲存最常浏覽的網頁內容,隨時提供給用戶存取,還可同時監控內容的來源,以測知網頁是否已更新,並同步更新儲存的內容。一般來說,在配置了互聯網加速設備後,由於很多用戶浏覽的內容可以從高速緩存中直接調出,網絡效能會有明顯的大幅提升:網頁響應時間最多可以減少90%以上;頻寬使用率將增加30%~50%。
SSL/XML加速
解決了服務器分配和緩存的問題之後,在網絡傳輸的內容上,由於SSL和XML仍占用相當的服務器資源,仍然會影響網絡的傳輸速度。它們能加速嗎?
SSL(加密套接字協議層)是一種應用極為廣泛的WEB信息安全傳送協議。最初由Netscape開發以提供Internet上的安全連接和傳送,目前,98%的Web上的安全傳送都運用SSL。SSL已經成了安全互聯網交易中數據加密的工業標准,采用SSL的網站在1998年和1999年間增加了兩倍。由於SSL運用加密算法和密碼,其加密/解密過程需大量占用服務器的CPU資源,使CPU利用率接近100%,從而大大降低了服務器性能。當網絡用戶大大增加後,網絡性能將急劇降低,很可能用戶會因網絡響應欠佳而失去耐心離開網站。
電子商務時代,服務器反應速度至關重要,為根本解決SSL給服務器運行帶來的不利影響,必須采用專門設備處理SSL協議,以使服務器CPU從繁重的加密/解密過程中解脫出來。
當使用SSL加速器時,所有非SSL數據流可以未受任何改變地通過加速器;但是當由SSL加密過的數據流經過SSL加速器時,進入的SSL數據流被解密並干淨地傳給服務器,而外流的SSL數據流被加密並傳向客戶。這樣服務器只需簡單地處理SSL請求,原本消耗眾多計算資源的HTTP/SSL現在被專用的 SSL加速設備負責處理。使用了SSL加速器之後,系統每秒處理的安全連接數可由原來幾十個增長到數百個。當然,如果需要最大限度地利用服務器,也可以卸載SSL處理工作。
此外,SSL加速器可以實現靈活的動態堆疊,實行自動的“任務分擔”以得到最大的擴展能力。一般SSL加速器可以自動與所有類型的服務器協同運行,並可以支持一台或多台服務器。
XML(擴展標識語言)是SGML(標准通用標識語言)的一個子集,它已經快速取代EDI(電子數據交換)成為B2B網上交易的統一格式。事實已經證明,XML所采用的標准技術最適合Web開發。XML支持結構化的數據,可以更詳細地定義某個數據對象的數據結構,例如,描述產品,詳細定義該產品的生產廠、產品名、產品號、產地等信息,這種定義不僅為標記該產品提供方便,而且這種XML數據很容易按生產廠、產品名等排序,使用戶的查詢變得更方便。
XML加速器可以將XML交易進行分類,如按照商業合作伙伴名稱或類型、交易價值或數量以及時刻或時區為依據,配置業務優先級,從而提高響應速度,解放服務器資源,更快地處理交易。
智能化的XML加速器可以使用多變量分類包括與、或,以滿足復雜業務的優先級要求。還有的XML加速器自身提供服務器的負載均衡,以達到快速、安全的目的。
帶寬的重要性對網絡來說不言而喻。但在實際應用中,由於眾多數據流同時使用帶寬卻無法按照任務的關鍵性和時間的敏感性分級,所以關鍵應用帶寬往往未被高效使用,帶寬的使用效率低下,成為網絡傳輸的瓶頸。//本文來自電腦軟硬件應用網www.45it.com轉載請注明
例如,與Web浏覽相比,電子郵件的任務關鍵性要高一些,但對時間的敏感性並沒有過高的要求;而實時的游戲等,對時間非常敏感,但任務的關鍵性並不大。如果對這些數據流不加分析地傳輸,必然會影響網絡傳輸的效率。
帶寬管理器使用戶可以高效地管理網絡通信、提供差別服務並控制廣域網絡帶寬分配。由於使用帶寬管理器可以賦予帶寬優先級,因此可以加大關鍵業務的帶寬,限制非關鍵或大容量應用的帶寬,提高眾多應用和服務的功能。
帶寬管理器適用於高速局域網和廣域網的交界處,是所有數據流的唯一路徑。它根據定制的帶寬計劃進行網絡分析,進行精確的流量控制,智能地將通信進行分類。在大容量數據流的情況下,關鍵應用得以保證,帶寬獲得高效應用。由於各種應用、多種服務級別都能得到高質量服務,帶寬使用效率達到了最大化。
帶寬管理器不僅可以分析網絡通信狀態,還可以提供網絡報告,使服務提供商可以根據具體數字進行容量規劃並評估配置變化所產生的影響。
值得說明的是,以上談到的負載均衡、高速緩存、SSL加速和帶寬管理等各項技術既可以單獨使用,也可以相互結合,或者集成到交換機或服務器中去。目前許多廠家已經生產了集合兩種或兩種以上加速技術的產品。也許幾年以後,我們可以看到更為集成的“互聯網加速器”或者已經集成所有加速技術的新型互聯網服務器。
選擇適合自己的加速產品
隨著電子商務開始真正騰飛,網絡加速設備的重要性越來越明顯,漸漸從服務器中分離出來,成為網絡環節中的重要部分。從全球市場上看,從1995年市場開始啟動,到目前已經進入快速增長期。預計從明年起到2003年,網絡加速市場將進入成熟期。在中國,目前幾乎所有的數據中心、大型ISP/ICP都已經采用了一種或數種網絡加速設備。相信隨著市場的競爭加劇和互聯網的進一步發展,此類產品將被越來越多的企業網站和ISP、ICP采用。
如前所述,網絡加速系列產品種類較多。目前市場上此類設備的主要廠家有Intel、Alteon WebSystems(已被北電收購,現稱北電網絡內容傳輸部,下仍簡稱耀騰公司)、CacheFlow、 ArrowPoint Communications(已被Cisco收購)、F5 Networks、Foundry等公司。
負載均衡產品、流量管理和寬帶管理產品主要用於數據中心等數據量非常大的場所,對動態的電子交易尤為重要。國內市場Intel、Cisco和耀騰公司都有相當的份額,如世紀互聯、263、中國萬網等都采用了他們的產品。此類產品種類較多,從基本的基於響應時間的負載均衡,到可以提供智能會話恢復和服務器錯誤恢復的智能負載均衡器,以及DNS多址負載均衡,都有相應比較成熟的產品。用戶選擇負載均衡產品時,需要考慮自己的流量、服務器負載能力和數目等情況,根據自己的需求選擇適當的產品。寬帶管理器目前產品還不太豐富,許多被集成在其他產品中。
Intel公司擁有網絡流量管理的全套解決方案,有以上介紹的各種類型的負載均衡產品。耀騰公司的系列Web交換機提供服務器負載均衡和帶寬管理,尤其是其防火牆的負載均衡技術被許多數據中心采用。Cisco公司將ArrowPoint的產品更名為Cisco11000系列內容服務轉換器,采用負載均衡技術避免服務器的超負荷工作。
高速緩存技術可以適用於企業用戶、服務提供商和信息提供商,具體說來,DDN用戶、有眾多分支的單位(如銀行、石油、電力、證卷、政府、學校等)以及ISP、ICP(如教育網、科技網、各大型網站等)和電子商務站點都可以從高速緩存中受益。
Cache的性能指標有很多,如同時支持的連接數、每秒鐘的供應對象數、吞吐量以及平均對象命中率(用戶從Cache中取到的對象數與所獲得的總對象數 ——包括從Internet上獲取的對象數和從Cache中獲得的對象數——的比值)和平均字節命中率(用戶從Cache中獲取對象的平均字節數和從網上獲取的全部對象的平均字節數的比值)等。連接的數目是選擇適當容量、確定產品種類的依據,用戶可以根據自身環境選擇支持數百個連接或者幾萬個連接的產品;吞吐量是影響性能的另一個重要因素,如果選擇不好,Cache反而會成為網絡中的瓶頸;對象命中率和字節命中率則顯示了Cache的效果,例如某個 Cache的命中率是50%,就意味著Cache可以滿足一半的數據請求,而另外一半數據則需要通過Inernet得到。目前大多數Cache的命中率都在30%左右,容量大一些的Cache通常可以達到60%到65%。根據性能的不同,用戶可以選擇適合自身環境的Cache設備。
目前市場有CacheFlow、Cisco、耀騰、Intel、聯想等數十家廠商提供Cache產品。CacheFlow提供了從入門級到頂級的各種產品。Alteon的系列內容智能交換機能對進入的客戶端請求具備智能過濾能力,避免將不可緩存的請求傳遞給高速緩沖服務器。Cisco、Intel也都有數款系列緩存器。聯想iCache是硬件和軟件組合的解決方案,它借助Novell公司的高速緩存文件系統,擁有面向各級各類企業、ISP、ICP的產品。
由於SSL一般適用在互聯網交易中,所以SSL加速產品廣泛應用在商業網站服務器上。但這並不意味著其他場合不需要進行 SSL加速。在企業的內聯網,隨著越來越多的資源和工具都開始面向因特網,對潛在的敏感性數據(如工資表或個人信息)進行加密的需求使公司內部網絡也在逐漸采用SSL技術。另外遠程公司與公司合作伙伴之間的安全通信也通常采用SSL來加密HTTP文件傳輸。
目前在SSL加速器市場上Intel和耀騰都有自己的產品,CacheFlow公司也於今年推出了SSL加速設備。
作為一種完整的解決方案,Cicso提出了全面的CDN(內容傳播網絡)解決方案,包括內容分發和管理、內容路由、內容交換、內容邊緣交付、智能的網絡服務等。其中Cisco CSS(Content Smart Switch)系列交換機是整個體系結構的重要組成部分。除了高速智能Web內容交付、防火牆負載均衡功能、高質量的Cache服務外,Cisco CSS系列還配備了Cisco WebNS軟件,它知道用戶是誰、希望干什麼以及如何在一個全球性的Web網絡內最佳地服務於用戶的請求,能使Web和應用服務供應商、Web內容供應商以及參與電子商務的企業為電子商務和Web內容交付建立優化的全球Web網絡。
負載均衡產品
Intel NetStructure 網擎7175/7185
英特爾網擎7175網絡應用負載均衡器使用有效的第七層應用進行智能內容決策的制定,對交付進行優先級劃分,從而平衡了通信負載並優化了服務器群的性能。該產品可進行第四層至第七層應用/內容流量控制,使用基於實際響應時間的負載均衡進行通信管理,還可檢測HTTP400、500和600系列錯誤,並透明地將通信重新導向至另一台服務器。自動服務器故障切換和冗余特性可以讓通信繞過故障點,從而使站點始終保持開放狀態。//本文來自電腦軟硬件應用網www.45it.com轉載請注明
英特爾網擎7185網絡智能負載均衡器可以實現安全快速的流量管理並提供SSL加速。它采用機架安裝式設計,可以被輕而易舉地安裝在路由器和服務器群之間。支持安全交易的智能管理技術,同時支持內容驅動處理與優先級劃分的第4層到第7層識別。該產品支持SSL環境中的cookies,確保交易安全;可以將處理速度提高到每秒鐘多達1200個SSL連接,提高安全交易的響應速度。
Alteon ACEdirector
ACEdirector可同時支持第2、3以及4至7層上的交換。與傳統數據包交換機不同,ACEdirector 在高性能以太網交換機內結合了獨有的流量管理服務,為每秒轉發數十萬個Web會話而進行了優化。本地和全局服務器負載平衡、應用程序重定向、SSL負載平衡、基於URL的重定向和負載平衡以及高級 TCP/IP 過濾功能等,都集成在同一個ACEdirector中。ACEdirector能夠以驚人的速度轉發Web會話,每秒可處理高達200,000個會話的負載平衡。
高速緩存產品
聯想 iCache 2000
聯想iCache是系列產品,擁有從入門級到高端的各級產品。iCache2000定位於中端產品,面向用戶為中型企業、中型ISP/ICP、科研機構等,它所能承載的每秒點擊數是800次。iCache使用簡單,借助Novell公司特有的高速緩存文件系統,可以很大程度上加速在企業中或ISP基礎設施中、在Internet上向員工和商業合作伙伴及客戶提供Internet和Intranet內容的訪問速度,一方面提高用戶網上交易的效率,同時也極大地降低了用戶的上網費用和ISP、ICP的運營成本。
CacheFlow 5000
CacheFlow 擁有針對從中小企業到ISP的各級互聯網加速器,其中CacheFlow 5000是電信級互聯網加速器。它最高可以支持到T3或OC3的流量,同時也是目前系列中擴展性最強的高速緩存設備。CacheFlow 5000內置有CacheFlow公司專為互聯網加速設計的操作系統CacheOS,可以保證用戶在現有網絡條件下以最快的速度獲取到最新、最即時的網上信息。
SSL加速產品
Intel NetStructure 網擎7115
英特爾網擎7115 SSL加速器每秒能處理多達600個安全連接,提高了SSL處理能力。可以使用串行連接端口直接管理設備或通過Telnet或SSH進行遠程管理。可利用事件監視功能察看主要的設備指標,如SSL每秒連接速率,並接收時間告警,如加密狀態改變、被拒絕的SSL連接、阈值告警、過載告警及網絡鏈接。隨著商業網站通信量的增長,該產品還支持多個單位級聯在一起進行擴充。故障切換直通技術使英特爾網擎7115 SSL加速器能夠自動關閉服務,並根據情況切斷SSL功能,使與之連接的其他單元或服務器接替其工作,以實現不間斷的服務。
Alteon iSD-SSL
iSD-SSL是業界性能較高的安全套接層處理引擎,一台Alteon Web交換機和一個或多個iSD-SSL單元成對組合在一起,能每秒鐘完成400到12,000個安全套接層的會話,這種處理量是一台HTTP-S服務器所能處理的5到250倍。能在本地服務器卸載SSL處理,從而能智能地對安全的電子交易加速,最終在同一個數據通路中對其它的流量沒有耽擱。
帶寬管理器
Intel NetStructure網擎7370
英特爾網擎7370應用帶寬管理器支持關鍵應用,調整非關鍵應用,以使性能滿足應用服務級協議(ASLA)的要求。針對每應用、基於政策的帶寬分配與通信調節使用戶能夠監視、測量和跟蹤應用及網絡性能。服務分界點減少了用於診斷非服務提供商負責問題的時間。基於Web的界面可以使用戶利用標准互連網浏覽器即可從任何地方配置、控制和監視SLA和應用性能。
綜合
Cisco CSS-11000系列
Cisco CSS系列交換機可以根據完整的URL、Cookie及資源可用性信息選擇最佳的站點和服務器,提供高速智能Web內容交付;具有防火牆負載均衡功能,可為後台數據庫和應用系統提供可伸縮的安全保護。透明Cache代理、反向Cache代理及智能Cache旁路功能可使Web高速緩存效率提高400%。 Cisco CSS配備了Cisco WebNS軟件,在分配Web站點資源和實現最佳電子商務等方面為企業提供完善的解決方案。
Cisco CSS系列交換機有CSS11050、CSS11150、CSS 11800多種型號,可滿足各級數據中心、電子商務網站的需要。
Internet Appliance Enterprise Stack
IA公司的INTERNETpro Enterprise Stack系列是面向互聯網數據中心的低成本Web服務基礎設施解決方案。其中的企業指導堆棧(EDS)具有負載均衡、系統和應用故障接替、狀態監視等功能。企業緩存堆棧(ECP)具有兩個內置的10/100M以太端口和透明的代理服務器,可充分利用帶寬,加速內容傳遞。緩存堆棧將經常訪問的網頁存儲在網絡邊緣(POP),使原本遙遠的內容更接近用戶,從而大大提高了Web沖浪的速度。