大數(shù)據(jù)是指無(wú)法在一定時(shí)間內(nèi)使用傳統(tǒng)數(shù)據(jù)庫(kù)軟件工具對(duì)其內(nèi)容進(jìn)行抓取、管理和處理的數(shù)據(jù)集。大數(shù)據(jù)不僅僅是大,還有它的復(fù)雜性和沙里淘金的重要性。
數(shù)據(jù)大爆炸時(shí)代 如何正確看待云計(jì)算
隨著網(wǎng)絡(luò)和信息技術(shù)的不斷普及,人類(lèi)產(chǎn)生的數(shù)據(jù)量正在呈指數(shù)級(jí)增長(zhǎng)。大約每?jī)赡攴环,這意味著人類(lèi)在最近兩年產(chǎn)生的數(shù)據(jù)量相當(dāng)于之前產(chǎn)生的全部數(shù)據(jù)量。
戰(zhàn)國(guó)《風(fēng)賦》:“夫風(fēng)生于地,起于青蘋(píng)之末,侵淫溪谷,盛怒于土囊之口,……”
DT時(shí)代,未來(lái)已來(lái)——數(shù)據(jù)“大爆炸”
首先要明白大家為何從前幾年開(kāi)始談大數(shù)據(jù)了?這是一個(gè)基本問(wèn)題,包含著對(duì)當(dāng)下數(shù)據(jù)現(xiàn)實(shí)的基本認(rèn)識(shí)。一個(gè)不可忽視的事實(shí)是,隨著網(wǎng)絡(luò)和信息技術(shù)的不斷普及,人類(lèi)產(chǎn)生的數(shù)據(jù)量正在呈指數(shù)級(jí)增長(zhǎng)。大約每?jī)赡攴环,這意味著人類(lèi)在最近兩年產(chǎn)生的數(shù)據(jù)量相當(dāng)于之前產(chǎn)生的全部數(shù)據(jù)量。
數(shù)據(jù)“大爆炸”
對(duì)于如此巨量數(shù)據(jù)(而且單純的增量數(shù)據(jù)都是一個(gè)巨量),與之相關(guān)的存儲(chǔ)、分析、流轉(zhuǎn)、使用到交易等等環(huán)節(jié)產(chǎn)生了一系列關(guān)聯(lián)的問(wèn)題,而在當(dāng)下的時(shí)間節(jié)點(diǎn),我們不得不明確面對(duì),而不僅僅是先找個(gè)地方把數(shù)據(jù)存起來(lái)。
國(guó)家信息中心專(zhuān)家委員會(huì)主任寧家駿表示:大數(shù)據(jù)是指無(wú)法在一定時(shí)間內(nèi)使用傳統(tǒng)數(shù)據(jù)庫(kù)軟件工具對(duì)其內(nèi)容進(jìn)行抓取、管理和處理的數(shù)據(jù)集。大數(shù)據(jù)不僅僅是大,還有它的復(fù)雜性和沙里淘金的重要性。
以上是寧家駿從技術(shù)分析角度對(duì)數(shù)據(jù)與大數(shù)據(jù)做的區(qū)分,傳統(tǒng)軟件處理的數(shù)量主要是結(jié)構(gòu)化數(shù)據(jù),而且數(shù)量上相對(duì)小。當(dāng)規(guī)模大到需要新的技術(shù)方案的時(shí)候,那正是我們重新認(rèn)識(shí)它的時(shí)候。
大數(shù)據(jù)有兩大特點(diǎn),一是數(shù)據(jù)來(lái)源多源,包括各種結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù),如網(wǎng)絡(luò)日志、視頻、圖片、地理位置信息等等,同時(shí)數(shù)量相對(duì)巨大,大數(shù)據(jù)中的‘大’本身就是一個(gè)相對(duì)的概念;二是數(shù)據(jù)處于“on line”即在線(xiàn)的狀態(tài),能夠隨時(shí)被吸取和關(guān)聯(lián),并進(jìn)行分析。
一般來(lái)講,更多智能硬件和這能設(shè)備的加入,更多數(shù)據(jù)實(shí)時(shí)產(chǎn)生,于是就需要大數(shù)據(jù)技術(shù)來(lái)實(shí)現(xiàn)對(duì)數(shù)據(jù)信息的價(jià)值挖掘。大數(shù)據(jù)技術(shù)包括了數(shù)據(jù)采集,數(shù)據(jù)存取,基礎(chǔ)架構(gòu),數(shù)據(jù)處理,統(tǒng)計(jì)分析,數(shù)據(jù)挖掘,模型預(yù)測(cè),結(jié)果呈現(xiàn)等八個(gè)方面。
而以上幾個(gè)方面都離不開(kāi)云平臺(tái)和云計(jì)算能力,比如說(shuō)數(shù)據(jù)采集之后的數(shù)據(jù)存儲(chǔ),現(xiàn)在很多非核心敏感數(shù)據(jù)都可以存儲(chǔ)在云端;數(shù)據(jù)挖掘也是需要通過(guò)云計(jì)算和機(jī)器學(xué)習(xí)才能實(shí)現(xiàn)。那什么才是云計(jì)算呢?
云計(jì)算——低成本部署、隨需使用的計(jì)算大腦
所謂云計(jì)算,非常教科書(shū)的說(shuō)法是“能通過(guò)網(wǎng)絡(luò)訪(fǎng)問(wèn)可擴(kuò)展的、靈活的、可共享的物理或虛擬資源池,并按需自助獲取和管理這些資源的模式。其中資源實(shí)例包括服務(wù)器、操作系統(tǒng)、網(wǎng)絡(luò)、軟件、應(yīng)用和存儲(chǔ)設(shè)備等。 ”
從以上概念可以看出其包括軟件、硬件等資源,簡(jiǎn)單說(shuō)云計(jì)算有三層云平臺(tái),第一個(gè)是Iaas(Infrastructure as a Service),基礎(chǔ)設(shè)施即服務(wù),以前這些資源都是企業(yè)固有資源,現(xiàn)在可以不再擁有,通過(guò)平臺(tái)服務(wù)商提供,減輕部署成本;
第二個(gè)是Paas(Platform as a service),平臺(tái)即服務(wù),開(kāi)放式的API可以由合作方提供行業(yè)和內(nèi)容的服務(wù);
第三個(gè)是SaaS(Software as a service),軟件即服務(wù)。比如我們經(jīng)常使用的手機(jī)APP等;
云計(jì)算有一個(gè)很重要的特點(diǎn)和優(yōu)勢(shì)就是資源池化,就是把Iaas,Paas,Saas層的資源(CPU、存儲(chǔ)、網(wǎng)絡(luò)等)放入到資源池中(云服務(wù)器),由云服務(wù)器進(jìn)行集中管理。云計(jì)算里所有的服務(wù)都是通過(guò)資源池里的資源而提供的。
我們已經(jīng)進(jìn)入了新一輪技術(shù)驅(qū)動(dòng)的時(shí)代
那如何理解大數(shù)據(jù)與云計(jì)算的關(guān)系?
在中國(guó)計(jì)算機(jī)學(xué)會(huì)大數(shù)據(jù)專(zhuān)家委員會(huì)副主任車(chē)品覺(jué)看來(lái):人工智能、深度學(xué)習(xí),這些都是二十年前就有的技術(shù),但是二十年前沒(méi)有大數(shù)據(jù),沒(méi)有可以關(guān)聯(lián)的數(shù)據(jù)。所以大數(shù)據(jù)的故事從有了關(guān)聯(lián)才真正開(kāi)始。
那如何應(yīng)用大數(shù)據(jù)?車(chē)品覺(jué)表示:首先要了解數(shù)據(jù)的生命周期。“布點(diǎn)”、“收集”、“存儲(chǔ)”,這些是前端,之后需要對(duì)數(shù)據(jù)做“識(shí)別”、“關(guān)聯(lián)”、“分析”。還有一個(gè)能把整個(gè)過(guò)程包起來(lái)的,就是“實(shí)時(shí)刷新”。這就是數(shù)據(jù)的生命周期,它是一個(gè)閉環(huán)。不管你怎么使用大數(shù)據(jù),你首先要了解這個(gè)周期。
阿里巴巴集團(tuán)首席技術(shù)官王堅(jiān)在一次小型論壇上分享到:“云計(jì)算是工業(yè)時(shí)代的電,大數(shù)據(jù)就是福特生產(chǎn)線(xiàn),云存儲(chǔ)就是鋼鐵工業(yè)。也就是說(shuō),沒(méi)有鋼鐵,就沒(méi)有電,就不會(huì)有大規(guī)模工業(yè)化生產(chǎn)。沒(méi)有云計(jì)算,大數(shù)據(jù)不會(huì)出來(lái),如果云計(jì)算沒(méi)有解決云存儲(chǔ)的問(wèn)題,也不會(huì)出來(lái)。”
中國(guó)科學(xué)院院士、西安交通大學(xué)教授徐宗本在剛剛結(jié)束的工業(yè)大數(shù)據(jù)大會(huì)·錢(qián)塘峰會(huì)上介紹,大數(shù)據(jù)是新一代信息技術(shù)的基礎(chǔ)性技術(shù),被普遍認(rèn)為是繼互聯(lián)網(wǎng)之后,能對(duì)全球社會(huì)、經(jīng)濟(jì)、工業(yè)產(chǎn)生重大影響的技術(shù)。
面對(duì)一股面向大數(shù)據(jù)的市場(chǎng)狂熱,徐院士講到兩點(diǎn)基本觀點(diǎn):
第一,我不認(rèn)為大數(shù)據(jù)對(duì)近一兩年GDP的貢獻(xiàn)有那么大,但肯定的說(shuō)對(duì)于三年、五年之后的GDP貢獻(xiàn)巨大。換句話(huà)說(shuō),只有沉得下心,愿意扎扎實(shí)實(shí)打好基礎(chǔ)的政府和企業(yè),才能從大數(shù)據(jù)技術(shù)上獲益。
第二,大數(shù)據(jù)技術(shù)并不是已經(jīng)成熟的技術(shù),是一個(gè)正在從應(yīng)用中逐漸走向成熟的技術(shù),目前的挑戰(zhàn)多于成熟。
所以,要從整體視角來(lái)觀察大數(shù)據(jù)和云計(jì)算,而不能因?yàn)槠渲幸粋(gè)而偏廢其他,總體來(lái)講,大數(shù)據(jù)技術(shù)與云計(jì)算都是很有效的工具手段,有待人們?nèi)ゲ粩嗤诰颉?/p>
我們用叢龍峰博士的話(huà)來(lái)作結(jié):“歷史規(guī)律告訴我們,任何一次大型技術(shù)革命,早期人們總是高估它的影響,會(huì)有一輪一輪的泡沫;中期又會(huì)低估它的影響,覺(jué)得不過(guò)是些概念而已;當(dāng)你覺(jué)得它是概念的時(shí)候,它已經(jīng)開(kāi)始生根發(fā)芽,開(kāi)始茁壯成長(zhǎng)。”