產(chǎn)品背景
國(guó)家的第十三個(gè)五年計(jì)劃中由工業(yè)和信息部倡導(dǎo)的《大數(shù)據(jù)產(chǎn)業(yè)發(fā)展規(guī)劃通知》中明確指出“數(shù)據(jù)是國(guó)家基礎(chǔ)性戰(zhàn)略資源”,當(dāng)前大數(shù)據(jù)應(yīng)用推進(jìn)勢(shì)頭良好,在互聯(lián)網(wǎng)服務(wù)中得到廣泛的運(yùn)用,并且政府需相關(guān)部門加快大數(shù)據(jù)關(guān)鍵技術(shù)研發(fā),圍繞數(shù)據(jù)科學(xué)理論體系、大數(shù)據(jù)計(jì)算系統(tǒng)與分析、大數(shù)據(jù)應(yīng)用模型等領(lǐng)域進(jìn)行布局。在如此背景下,催生了大數(shù)據(jù)的人才的強(qiáng)烈需求,而高校也做為政府的科研的中堅(jiān)力量,也需要對(duì)大數(shù)據(jù)技術(shù)進(jìn)行研究。
產(chǎn)品介紹
教學(xué)實(shí)訓(xùn)平臺(tái)一體機(jī)系統(tǒng)是一套用于高校進(jìn)行大數(shù)據(jù)教學(xué)的軟件,由兩部分組成:系統(tǒng)軟件和傳統(tǒng)X86服務(wù)器。系統(tǒng)軟件由我司研發(fā),服務(wù)器則可以根據(jù)用戶實(shí)際情況進(jìn)行配制。根據(jù)我方的市場(chǎng)調(diào)查,實(shí)訓(xùn)平臺(tái)包括系統(tǒng)軟件、服務(wù)器、交換機(jī)、防火墻、機(jī)柜等。在這里我們主要介紹系統(tǒng)軟件部分。
我司研發(fā)的實(shí)訓(xùn)平臺(tái)基于B/S的軟件架構(gòu)。采用Web前端與用戶進(jìn)行人機(jī)交互。底層采用Kubernetesr技術(shù)將操作系統(tǒng)虛擬化成數(shù)十個(gè)docker,在docker里面進(jìn)行大數(shù)據(jù)組件的安裝和運(yùn)行。如hadoop、HDFS、hive等等。通過(guò)Kubernetes和大數(shù)據(jù)的技術(shù)實(shí)現(xiàn)并行計(jì)算,同時(shí)又可以滿足學(xué)校的實(shí)驗(yàn)、教學(xué)、研究的需求
產(chǎn)品特點(diǎn)
于是我司研發(fā)這款大數(shù)據(jù)實(shí)訓(xùn)一體機(jī)系統(tǒng),旨在為高校的研究人員打造一套大數(shù)據(jù)的研究平臺(tái)、為學(xué)生提供大數(shù)據(jù)的實(shí)訓(xùn)環(huán)境。滿足高校對(duì)大數(shù)據(jù)研究的需求、提高學(xué)生的動(dòng)手能力。
通過(guò)市場(chǎng)的同類實(shí)訓(xùn)平臺(tái)產(chǎn)品的調(diào)研,實(shí)訓(xùn)平臺(tái)一般分為幾類技術(shù)框架:
1. 采用傳統(tǒng)vmware技術(shù),將大數(shù)據(jù)組件安裝到服務(wù)器上,一臺(tái)服務(wù)器最多安裝兩套左右,非常浪費(fèi)服務(wù)器資源。
2. 采用mesos,mesos為通用的資源管理框架,也可以支持docker技術(shù),但是現(xiàn)在不再流行
采用Kubernetesr,專業(yè)的docker技術(shù)框架、原生支持大數(shù)據(jù)的并行架構(gòu),采用容器技術(shù)可以像應(yīng)用程序一樣對(duì)大數(shù)據(jù)組件進(jìn)行安裝和銷毀,非常適用于實(shí)驗(yàn)環(huán)境。