2018-07-24
網(wǎng)絡(luò)巨頭們正以瘋狂速度擴(kuò)充資料中心規(guī)模,他們正在為資訊科學(xué)寫歷史,但還不清楚這樣的趨勢最后會(huì)帶來什么…電子設(shè)計(jì)模塊
各家網(wǎng)路巨頭正在進(jìn)行一場類似要跟上摩爾定律(Moore's Law)的競速,積極打造更大的分散式運(yùn)算網(wǎng)路;他們正在為資訊科學(xué)寫歷史,但還不清楚這樣的趨勢最后會(huì)帶來什么…
舉例來說,F(xiàn)acebook在過去十年就打造了一個(gè)包含15個(gè)大型資料中心以及數(shù)百邊緣網(wǎng)路站點(diǎn)的全球性網(wǎng)路,負(fù)責(zé)運(yùn)作服務(wù)數(shù)億用戶、數(shù)以千計(jì)的軟體程式,而且每兩個(gè)小時(shí)就有一次軟體更新。該公司工程與基礎(chǔ)建設(shè)主管Jay Parikh表示:”當(dāng)你正在打造的分散式系統(tǒng)每天會(huì)影響數(shù)十億人,真的很酷…也很嚇人。“
Parikhy在該公司首度于美國加州總部舉行的大型分散式軟體系統(tǒng)研討會(huì)上,對(duì)臺(tái)下約200名軟體工程師與來賓表示:“我們處理的所有事情都是分散式系統(tǒng)問題,這在過去的擴(kuò)展式(scaled)環(huán)境中是從未做過的…包括自己布建海底電纜──都是這個(gè)產(chǎn)業(yè)以往不曾處理過的。”
他指出,電腦與網(wǎng)路硬體遭遇的挑戰(zhàn),還有在硬體中執(zhí)行的資料庫與其他軟體”會(huì)相互影響,衍生出關(guān)于效率、文化、預(yù)算編列…等等問題,所有事情都會(huì)互相連結(jié)。“
這場活動(dòng)還邀請(qǐng)到了來自亞馬遜云端服務(wù)(Amazon Web Services)、Google、共乘服務(wù)業(yè)者Lyft,以及電商平臺(tái)Shopify等公司的程式設(shè)計(jì)師,分享最新的技術(shù),以及探討利用包括管理全球性分散式資料庫、系統(tǒng)除錯(cuò),還有如何在系統(tǒng)中斷時(shí)加速復(fù)原等議題。
Facebook討論了兩項(xiàng)開放源碼分散式軟體系統(tǒng)工作的進(jìn)展,一是能快速將配置變化推送到數(shù)以百萬計(jì)伺服器的架構(gòu),另一項(xiàng)是處理作業(yè)系統(tǒng)使用者空間中記憶體失序問題的程式。
它們是Facebook為了支援旗下四大被廣泛使用之應(yīng)用程式──News Feed、Instagram、Messenger與WhatsApp──以及使用者族群規(guī)模較小的Oculus軟體,所打造之廣大云端運(yùn)算軟體平臺(tái)的一部分。
Facebook一直在慢慢將網(wǎng)路架構(gòu)中的現(xiàn)成商用軟硬體以自家開發(fā)的軟體或硬體方案來取代,并將之轉(zhuǎn)為開放源碼;舉例來說,在過去幾年,該公司將現(xiàn)成的資料庫(MySQL)、儲(chǔ)存(Memcached)程式與網(wǎng)路服務(wù)語言(PHP),以自家開發(fā)的程式碼取代,并釋出為開放源碼。
在總部舉行的這場Systems@Scale活動(dòng),也是為了要讓Facebook的軟體工程師能與其他公司的同業(yè)相互交流,目標(biāo)是加速為他們面臨之分散式系統(tǒng)挑戰(zhàn)尋找通用解決方案的腳步。
在硬體方面,F(xiàn)acebook現(xiàn)在一般都是使用以現(xiàn)成晶片、采用自家規(guī)格打造的伺服器與交換機(jī),而非來自供應(yīng)商的商用系統(tǒng)。有業(yè)界消息指出,F(xiàn)acebook從今年春天起就一直在招募半導(dǎo)體工程師;該公司發(fā)言人婉拒對(duì)此發(fā)表評(píng)論,僅透露可能會(huì)在9月舉辦的一場活動(dòng)中討論到關(guān)于晶片開發(fā)的計(jì)畫。
Facebook的系統(tǒng)硬體規(guī)格通常透過2011年成立的Open Compute Project釋出開放源碼,該公司是否也會(huì)在未來將自己設(shè)計(jì)的晶片規(guī)格開放,還有待觀察。
Facebook在全球有15座大型資料中心,但其實(shí)比起Amazon截至2017年在全球的18個(gè)據(jù)點(diǎn)仍相形見絀;Amazon的據(jù)點(diǎn)各有數(shù)量不一的資料中心(黃圈中的數(shù)字)
(來源:“Computer Architecture: A Quantitative Approach,” Hennessy/Patterson)
另一個(gè)更大的問題是,F(xiàn)acebook與其競爭對(duì)手要以瘋狂的速度將運(yùn)算世界的未來帶向何方,還有他們可能遭遇的瓶頸為何?
某些美國的立法者認(rèn)為,F(xiàn)acebook因?yàn)樵谏弦淮慰偨y(tǒng)大選讓外來者利用其自動(dòng)化系統(tǒng)影響了數(shù)以百萬計(jì)的選民,已經(jīng)觸及了政治上的一道障礙;也有人說他們是在玩弄消費(fèi)者,那些無辜使用者開心分享的每一項(xiàng)資料都被販?zhǔn)?,但是到目前為止幾乎不受政府監(jiān)督。
在技術(shù)上,這家網(wǎng)路巨頭多年來推動(dòng)速度更快的銅纜與光學(xué)網(wǎng)路,他們同時(shí)需要這兩種技術(shù)來資料中心內(nèi)連結(jié)數(shù)量更龐大的伺服器以及資料中心本身。
多年來,網(wǎng)路工程師在催生Terabit/sec等級(jí)網(wǎng)路的行動(dòng)上一直有所延遲,Terabit/sec網(wǎng)路的速度超越其他商用需求,在某些程度上什至超越了摩爾定律或物理定律的極限。無論Facebook等公司不斷擴(kuò)大資料中心規(guī)模的趨勢將會(huì)帶來什么結(jié)果,顯然我們會(huì)很快看到。
未來的場景就如同Parikh所言,會(huì)“很酷也很嚇人”;網(wǎng)路巨頭們正在以前所未見的速度打造、擴(kuò)充大型自動(dòng)化系統(tǒng),數(shù)以百億計(jì)的消費(fèi)者與成千上萬的企業(yè),則正在大量吞噬他們運(yùn)作的各種服務(wù)。他表示:”讓我振作的第一大動(dòng)力,就是在穩(wěn)定的基礎(chǔ)建設(shè)上快速行動(dòng)。“