??? 摘 要: 網格技術" title="網格技術">網格技術是一種新興技術,有著很多的優點和亟待解決的問題。本文詳細闡述了網格的基本概念及其內涵,分析了目前廣泛研究的體系結構。在討論了關于網格的研究狀況之后,指出網格研究必須面臨的問題和發展前景。
??? 關鍵詞: 網格? Globus? 開放網格服務" title="網格服務">網格服務結構OGSA? 沙漏結構
?
??? 2003年10月13日,IBM與中國國家教育部在京宣布,雙方將建立中國教育科研網格以促進全國高校在教育、科研及更廣泛項目上的全面合作。該項目由北京大學、華南理工大學、清華大學等12所大學聯合提出,是迄今為止由政府推出的最宏大的網格工程,也是迄今為止世界上規模最大的網格計算" title="網格計算">網格計算工程之一。其應用領域包括從生命科學、圖像處理到遠程教育等方面的眾多領域。到網格建成時,它將在教育科研網上把全國100所211工程建設重點大學的資源廣泛共享。屆時中國教育科研網格將擁有超過6萬億浮點運算,并將在該工程完成時達到超過15萬億浮點運算的功能。美國《福布斯》雜志的科技版《Forbes ASAP》2001年就曾預言下一代互聯網浪潮將是萬維網(World Wide Web)升級為網格(Great Global Grid)。那么到底什么是網格呢?
1 網格的涵義
1.1 網格概念
??? 網格就是一個集成的計算與資源環境,或者說是一個計算資源池。它能夠把整個國際互聯網集成為一臺巨大的超級計算機,實現全球范圍的計算資源、存儲資源、數據資源、信息資源、知識資源、專家資源、設備資源甚至是人才等各種相關的廣泛分布的各種資源的全面共享。網格的根本特征是資源共享" title="資源共享">資源共享,消除資源孤島。當然,我們也可以構造地區性的網格、企事業內部網格、局域網網格甚至家庭網格和個人網格?？蓮囊韵氯矫胬斫饩W格概念:
??? 第一,從概念上, 網格的目標是資源共享和分布協同工作。網格的這種概念可以清晰地指導行業和企業中各個部門的資源進行行業或企業整體上的統一規劃、部署、整合和共享,而不僅僅是行業或大企業中的各個部門自己規劃、占有和使用資源。
??? 第二,網格是一種技術。為了達到多種類型的分布資源共享和協作,網格計算技術必須解決多個層次的資源共享和合作技術,制定網格的標準,將Internet從通訊和信息交互的平臺提升到資源共享的平臺。但是目前并行計算、分布計算中間件等現行技術遠遠沒有解決多組織之間資源的共享問題,以及廣域范圍的多系統之間聯合處理和計算等網格計算所面臨的關鍵問題。因此,網格計算技術研究具有獨特性、緊迫性和挑戰性。
??? 第三,網格是基礎設施, 是通過各種網絡綜合計算機、數據、設備和服務等資源的基礎設施。這種設施的建立,將使用戶如同今天我們按需使用電力一樣,無需在用戶端配套大量的全套計算機系統和復雜軟件,就可以簡便地得到網格提供的各種服務。這樣,設備、軟件投資和維護開銷將大大減少。
1.2 網格組成
??? 網格環境的構建層次如圖1所示,主要由資源、中間件、工具軟件和應用程序等幾部分組成。其中資源由分布在Internet上的各類資源組成,包括各類主機、工作站甚至PC機,也可以是上述機型的機群系統、大型存儲設備、數據庫或其他設備。中間件是網格計算的核心,負責提供遠程進程管理、資源分配、存儲訪問、登錄和認證、安全性和服務質量(QoS)等。工具軟件和應用程序提供用戶二次開發利用的環境、工具、語言及接口等,以便更好地利用網格資源。
?
1.3 網格的判斷標準
??? 評判一個系統是否是網格,從根本上說,必須看此系統所能提供的應用、商業價值和科學結論,而不是它的系統結構。全球網格研究的領軍人物伊安·福斯特(Ian Foster)對于網格作了三點限制:
??? 首先,協調非集中控制資源。網格整合各種資源、協調各種使用者。這些資源和使用者在不同控制域中,比如,個人電腦和中心計算機、相同或不同公司的不同管理單元;網格還解決在這種分布式環境中出現的安全、策略、使用費用、成員權限等問題。否則,只能稱得上本地管理系統而非網格。
??? 其次,使用標準、開放、通用的協議和界面。網格建立在多功能的協議和界面之上,這些協議和界面解決認證、授權、資源發現和資源存取等基本問題。否則,只能是一個具體應用系統而非網格。
??? 第三,得到非平凡的服務質量。網格允許它的資源被協調使用,以得到多種服務質量,滿足不同使用者需求,如系統響應時間、流通量、有效性、安全性及資源重定位,使得聯合系統的功效比其各部分的功效總和要大得多。
2 網格的體系結構
??? 目前,比較重要的網格體系結構有兩個:一個是伊安·福斯特(Ian Foster)等在早些時候提出的五層沙漏結構;另一個是以IBM為代表的工業界的影響下,在考慮到Web技術的發展與影響后,伊安·福斯特(Ian Foster)等結合Web Service提出的開放網格服務結構OGSA(Open Grid Services Architecture)。
2.1 五層沙漏結構
??? 五層沙漏結構是一種影響十分廣泛的結構,它的主要特點就是簡單,主要側重于定性的描述而不是具體的協議定義。其基本思想就是以“協議”為中心,也十分強調與API(Application Programming Interfaces)和SDK(Software Development Kits)的重要性。
??? 五層沙漏模型從底層開始分別為構造層、連接層、資源層、匯聚層" title="匯聚層">匯聚層和應用層。
??? 網格構造層由各種物理資源所構成,包括存儲資源、計算資源、目錄、數據庫、網絡資源、傳感器等,構造層的基本功能就是控制和管理局部的資源,向上提供訪問這些資源的接口。
??? 網格連接層實現構造層資源之間的通信、數據交換,定義了核心的通信和認證協議。
??? 網格資源層建立在連接層的通信與認證協議之上,提供數據訪問、計算機訪問、狀態與性能信息訪問等服務。它考慮的是單個的局部資源,全局狀態和跨越分布資源集合的原子操作由匯聚層考慮。
??? 網格匯聚層的主要功能是協調“多種”資源的共享,協同完成任務。匯聚層在資源層基礎上,實現更高級的應用。匯聚層可分為通用的匯聚層和面向特定問題的匯聚層。
??? 網格應用層是在虛擬組織環境中存在的,應用可根據上面作一層次上定義的服務來構造,它可以調用資源層的服務,也可以調用匯聚層的服務,從而滿足應用需求。拿電力系統做個比喻,前四個層次就相當于發電廠、 電網、變電所和配電房,而應用層相當于住宅里的電閘、電表和電源插座。
??? 其另一個重要特點就是沙漏形狀,如圖2所示。核心協議就形成了協議層次結構中的一個瓶頸,資源層和連接層共同組成這一核心的瓶頸部分,它們提供資源的安全訪問。
?
2.2 開放網格服務結構OGSA
??? 開放式的網格服務體系OGSA是一個由節點和連線構成的框架。該框架的節點是網格服務而網格服務之間的連線是網格服務相互交流時所用的語言。網格服務是特殊的網絡服務專供用來維持和管理網格體系。
??? OGSA網格也為五層結構,其結構同五層沙漏結構,自下而上為構造層、連接層、資源層、匯聚層及應用層。但OGSA結構較五層沙漏結構有著以下特點:
??? (1)以服務為中心的模型
??? 如果說五層沙漏結構是以協議為中心的“協議結構”,其試圖實現的是對資源的共享,則OGSA就是以服務為中心的“服務結構”,其實現的是對服務的共享。OGSA將一切看作服務,并定義了“網格服務”,該服務提供了一組接口,這些接口明確遵守特定的慣例,解決服務發現、動態服務創建、生命周期管理、通知等問題。因此,網格是可擴展的網格服務的集合。簡單地說,網格服務=接口/行為+服務數據。
??? (2)統一的Web Service框架
??? Web Service描述了一種新出現的、重要的分布式計算范式,定義了一種技術,用于描述被訪問的軟件組件、訪問組件的方法以及找到相關服務者的發現方法,解決了發現和激發永久服務的問題。OGSA是符合標準的Web service框架的。但是在網格中,大量的是臨時服務,因此OGSA對Web service進行了擴展,提出的網格服務(Grid Service)的模仿,使得它可以支持臨時服務實例,并且能夠支柱創建和刪除。
??? (3)突破科技應用領域
??? 正如Web技術一開始是為科學協作而出現的,但是后來在商業領域卻大量使用一樣,OGSA將原來主要在科技領域應用的網格技術轉移到工商業領域。OGSA面向服務的特點允許我們在不同的層次虛擬化資源,因此相同的機制與抽象可以應用于多個組織之間的分布式網格支持的協作,或者是跨越多個結點的主機環境。
2.3 應用實例:Globus系統
??? Globus是美國Argonne國家實驗室研發的網絡計算項目,有12所大學和研究機構參加該項目。Globus對資源管理、信息安全、信息服務、數據管理等網絡計算關鍵理論進行了研究,開發了在各種平臺上運行的網格計算工具軟件?穴Toolkit?雪,幫助組建和規劃大型網絡試驗平臺,開發大型網絡系統運行的應用軟件。Toolkit是Globus最重要的成果,其第一版在1999年推出。2003年1月13日,符合OGSA 規范的Globus Toolkit 3.0(Alpha版)已經在第一屆Globus world 會議上發布。這標志著OGSA已經從一種理念、一種體系結構,走到付諸實踐的階段了。Toolkit開放源碼,任何人都可以從其網站上直接下載源代碼。
??? Globus的協議分為五層:構造層、連接層、資源層、匯集層和應用層。每層都有自已的服務、API和SDK,上層協議調用下層協議的服務。網格內的全局應用都通過協議提供的服務調用操作系統。Globus的網格計算協議建立在互聯網協議之上,以互聯網協議中的通信、路由、名字解析等功能為基礎。在Globus看來,現有的共享方案,比如互聯網、B2B、ASP、SSP、Java、CORBA、DCE等,要么在共享配置的靈活性上、要么在共享資源種類上不能完全滿足虛擬組織的需要。同時,Globus并不試圖取代現有技術,而是希望在現有技術之上建立更高層次的共享。為了有效支持網格計算環境,Globus工具包針對Globus項目中提出的各種協議,提供了一系列的服務、軟件庫、編程接口(API)和使用例子。
??? 迄今為止,Globus Toolkit已經成為事實上的網格標準。一些重要的公司,包括IBM、Microsoft、Compaq、Cray、SGI、Sun、Fujitsu、Hitachi、NEC 等公開宣布支持Globus Toolkit。目前大多數網格項目都是基于Globus Toolkit 所提供的協議及服務而建設的,例如美國的物理網格GriPhyN、歐洲的數據網格DataGrid、荷蘭的集群計算機網格DAS-2、美國能源部的科學網格、DISCOM 網格、美國學術界的TeraGrid等等。
3 網格的研究歷史與現狀
??? 從美國、日本及歐洲的發達國家到印度這樣的發展中國家都啟動了大型網格研究計劃,并得到了產業界的大力支持。網格的發展到目前為止基本上可以劃分為以下幾個階段:
??? 一是萌芽階段:在上個世紀90年代初期,主要是千兆網的測試床以及一些元計算的實施。
??? 二是早期實驗階段:在上個世紀90年代中期到晚期,如I-WAY項目,還包括一些學術性的軟件項目,例如Globus、Legion等。
??? 三是飛速發展階段:2002年以來,出現了大量的應用社團和項目,主要基礎市話的開發和使用,工業界對網格計算的興趣在增長,例如IBM、Platform、Microsoft、Sun、Compaq等重要的公司。同時也出現了一比較顯著的技術基礎,如Globus Toolkit,形成了具有相當規模和世界影響的全球網格論壇GGF(Global Grid Forum)組織。
??? 目前,IBM是網格系統和服務方面的領先供應商,已經為很多科技團體、政府機構、商業化用戶的網格系統提供了產品和服務,其中包括英國國家網格、荷蘭國家網格、北卡州的生物網格等等。美國太陽微系統公司2002年發布了“網格引擎”企業版的測試版。HP公司也提出了Utility Computing計劃和Utility Data Center產品。Oracle公司2002年11月推出面向網格的基于Globus的數據庫應用工具。2008年北京奧運會的計算機信息處理系統將應用網格,IBM、Oracle、SUN、HP都已推出了一系列可應用網格的產品。日本文部科學省2003年5月決定投資700億日元開發超大型網格計算機,它比現在世界上運算速度最快的計算機還快近10倍,將達每秒300萬億次。
??? 我國“十五”863計劃的高性能計算專項和軟件專項等重大科研項目都與網格技術相關。目前,我國已開展了“國家高性能計算環境”和“先進計算基礎設施北京上海試點工程”兩個項目,對網格計算進行研究。中科院計算所正在進行的“織女星計劃”(Vega計劃)正是以元數據、構件框架、智能體、網格公共信息協議和網格計算協議為主要突破點對網格計算進行的研究。
4 網格存在問題及發展前景
4.1 存在問題
??? 下—代互聯網技術是完全嶄新的,從光纖到路由器、交換機、上層服務器、操作系統、各種系統軟件和應用軟件都將產生革命性的變革。因而,在網格的發展道路上,Globus和它的各種替代版本將面臨巨大障礙。為實現網格的廣泛應用,還必須解決下列問題:
??? (1)標準是成功關鍵。就像TCP/IP協議是互聯網的核心一樣,構建網格計算也需要對標準協議和服務進行定義。迄今為止,網格計算還沒有正式的標準,但在核心技術上, GlobusToolkit已成為網格計算事實上的標準。
??? (2)網格資源動態分配問題。如何在動態、異構虛擬組織間實現協同的資源共享以及協同是網格中非常重要的問題。已有的一些并行和分布計算系統的資源分配技術,并不能很好地適應計算網格資源分配問題的特點。
??? (3)數據通過因特網時形成的延遲問題。智能軟件應確保按時傳送數據,否則,網格處理問題的手段將被限定在“并行運算”。并行計算在不同的機器上完成,某一臺計算機不需要等待另一臺計算機的處理結果。
??? (4)目前互聯網的數據傳輸能力不足問題。為此,發展網格要和建設下一代寬帶互聯網(如美國的“下一代Internet(NGI)”和“Internet2”等)結合起來。另一方面,采用無線移動通信和衛星通信,也是一種現實的途徑。
??? (5)進一步解決人機結合問題,使網格更加個性化、智能化和科學化。
??? (6)通過法律的手段解決網上資源共享中的知識產權、相互信任和報酬等問題以及如何保障網格計算的安全性、認證和可靠性等。
4.2 發展前景
??? 網格是一種面向問題和應用的技術,它的目標是實現網絡虛擬環境上的高性能資源共享和協同工作,消除信息孤島和資源孤島。這種新的網絡體系不僅僅可能帶來信息資源的獲取、分布、傳輸和有效利用的、革命性的、結構性的巨大變化,而且將根本改變我們的研究方式、教育方式、生活方式與生產活動的方式。一旦建立起了網格,就可以開展許多以前無法進行的工作和研究,可以帶動工業界大量的相關產品的生產和消費,基于網格會激發無數的服務提供和服務消費。據《Forbes ASAP》預測,網格技術將在2005年達到高峰,并帶來因特網的新生。如果網格技術能促使市場按預期的17%年增長率持續成長的話,那么在2020年將會形成一個年產值20萬億美元的大產業。
參考文獻
1 李三立.Internet和后PC時代.我國機遇何在.中國計算機世界,2000-1-3
2 李 剛.網格概念及要解決的問題.中國網格?熏2003-10-18
3 徐志偉,李 偉.織女星網格的體系結構研究.中科院計算所
4 都志輝,陳 渝,劉 鵬.網格計算.中國網格論壇CGF,http://www.gridhome.com/grid/datateam/index.htm
5 http://www-900.ibm.com/cn/grid/index.shtml