10月24日,由華為技術有限公司與福建鯤鵬生態(tài)創(chuàng)新中心聯(lián)合主辦的“1024鯤鵬開發(fā)者技術沙龍”在福州順利舉行。
在沙龍上,來自福建鯤鵬生態(tài)創(chuàng)新中心運營總監(jiān)宋宗佑為活動進行致辭,福建鯤鵬生態(tài)創(chuàng)新中心生態(tài)總監(jiān)朱曉彤對鯤鵬生態(tài)創(chuàng)業(yè)中心進行介紹,加深了大家對于鯤鵬產(chǎn)業(yè)的理解。
宋宗佑:這是一個萬億級的市場,也是非常龐大的生態(tài)體系
福建鯤鵬生態(tài)創(chuàng)新中心運營總監(jiān)宋宗佑
創(chuàng)新引領未來,代碼改變世界。鯤鵬積極參與發(fā)展戰(zhàn)略,各省也積極擁抱出臺鯤鵬產(chǎn)業(yè)。與此同時,各地方政府現(xiàn)在已經(jīng)是把鯤鵬計算產(chǎn)業(yè)放在戰(zhàn)略布局中,今年,福州市政府出臺了77號文件《關于構建鯤鵬產(chǎn)業(yè)生態(tài)的實施意見》幫助本地鯤鵬產(chǎn)業(yè)和鯤鵬伙伴共同發(fā)展。鯤鵬生態(tài)是華為開放自主的鯤鵬處理器主板、部件,以及聯(lián)合伙伴打造,拓展到虛擬化、大數(shù)據(jù)平臺、中間件零服務等上層應用軟件,這是一個萬億級的市場,也是非常龐大的生態(tài)體系?,F(xiàn)在,華為在各地區(qū)打造鯤鵬產(chǎn)業(yè)生態(tài)基地,聯(lián)合伙伴開展應用示范,培養(yǎng)產(chǎn)業(yè)人才,孵化產(chǎn)業(yè)標準。我們的目標就是要構筑一個鯤鵬生態(tài)圈,激活商業(yè)市場。在今天的開發(fā)者日上,希望大家能夠結識新朋友,對鯤鵬生態(tài)有更深的了解,與鯤鵬生態(tài)一起成長!
朱曉彤:鵬計算產(chǎn)業(yè)已成燎原之勢,產(chǎn)業(yè)生態(tài)逐步走向快車道
福建鯤鵬生態(tài)創(chuàng)新中心生態(tài)總監(jiān)朱曉彤
我來對鯤鵬生態(tài)創(chuàng)業(yè)中心做個介紹。當前全球進入了數(shù)據(jù)為關鍵生產(chǎn)要素的數(shù)字經(jīng)濟時代,數(shù)字應用多樣性促使數(shù)據(jù)資源發(fā)生變化。鯤鵬計算產(chǎn)業(yè)致力打造全球競爭力計算產(chǎn)業(yè)集群,通過業(yè)界提供基于鯤鵬處理器的軟硬件基礎設施,滿足市場對新計算的需求,支撐全社會的的數(shù)字化轉型。當前,自動駕駛、人工智能、云游戲、智能制造、物聯(lián)網(wǎng)等應用場景的多樣化,傳統(tǒng)單一的架構難以滿足現(xiàn)在市場的數(shù)據(jù)處理和用戶體驗的要求,因此對計算平臺提出新的要求。
新計算發(fā)展的成功關鍵在于完善整個生態(tài)體系,鯤鵬生態(tài)基于鯤鵬處理器的基礎軟硬件設施、行業(yè)應用以及服務,涵蓋了從底層硬件、基礎軟件到上層應用的全產(chǎn)業(yè)鏈。縱觀全景,從硬件上,鯤鵬生態(tài)圍繞昇騰AI芯片、存儲控制芯片、網(wǎng)絡控制芯片等主要部件,以及它構成的PC、服務器、存儲等整機產(chǎn)品;從上層基礎軟件上,鯤鵬包括數(shù)據(jù)庫、操作系統(tǒng)中間鍵等軟件,如歐拉和高斯系統(tǒng)與數(shù)據(jù)庫;基于行業(yè)應用,鯤鵬主要涵蓋了金融、制造、政府、交通、農林電力等各個行業(yè),并且提供數(shù)字化的行業(yè)應用解決方案。
華為公司對鯤鵬的投入也在持續(xù),2019年華為發(fā)布了面向所有開發(fā)者的破土計劃2.0,未來5年會投入15億美元用于發(fā)展鯤鵬生態(tài)。
福建鯤鵬生態(tài)創(chuàng)新中心目前可以為開發(fā)者和企業(yè)伙伴提供服務器資源,鯤鵬創(chuàng)新中心的主要運營職責,包括產(chǎn)業(yè)服務、人才培養(yǎng)、生態(tài)培育等,可以發(fā)放華為的認證考試券。
如今,鯤鵬計算產(chǎn)業(yè)一年多來發(fā)展已成燎原之勢,聚集了1000多家軟硬件企業(yè),形成了基于鯤鵬的軟硬件產(chǎn)品3000多款,產(chǎn)業(yè)生態(tài)逐步走向快車道。
接下來,華為的技術專家對鯤鵬云平臺和大數(shù)據(jù)平臺展開了詳細介紹,并通過實踐講解了平臺解決方案。
鯤鵬云平臺解決方案
鯤鵬云平臺解決方案工程師劉繼周
我今天主要對鯤鵬生態(tài)做介紹,加深大家對于鯤鵬在虛擬化方面所做的事情的理解。
首先從當前業(yè)界的趨勢,也就是虛擬化云計算開始。從PC時代到移動互聯(lián)網(wǎng)時代,再到AI+5G的云時代,不斷變化擴展的新場景需要多樣性的計算,云平臺也隨之出現(xiàn)云化和虛擬化的趨勢。
傳統(tǒng)行業(yè)市場基于KVM技術構筑成熟、穩(wěn)定的IaaS平臺,互聯(lián)網(wǎng)行業(yè)基于Docker容器技術構筑靈活、標準化、輕量化PaaS平臺。在這樣的背景下,華為鯤鵬計算云平臺應運而生。
鯤鵬的優(yōu)化方向主要是兩大主線,一個是KVM,一個是docker技術的虛擬化?,F(xiàn)在,鯤鵬推出的OpenStack+KVM是主流,上圖中可以看到OpenStack+KVM開發(fā)框架虛擬化管理平面,是基于虛擬化之上。最底層為鯤鵬平臺。
目前,鯤鵬在虛擬化開源上已支持Qemu,KVM,并基于KVM進行調優(yōu),在硬件、虛擬化和操作系統(tǒng)上做了優(yōu)化。
鯤鵬還支持Kubernetes+Docker云平臺。
目前,鯤鵬主要部署在金融、政府、運營商、政府網(wǎng)。
鯤鵬一個很大的優(yōu)點是核多,64核+多核計算架構,資源池大,整機性能高。虛擬機基于物理核構建,VM隔離性好,性能更穩(wěn)定。
另外,鯤鵬還支持混合部署,新的OpenStack+KVM把原有的作為計算節(jié)點,混合不同的云,基于原有的X86AZ,可以把鯤鵬平臺作為計算平臺進行擴容。
鯤鵬很多虛擬化方案代碼和調優(yōu)手段都是開源的,希望大家能夠共同參與到虛擬化共建中來。
鯤鵬計算大數(shù)據(jù)解決方案
鯤鵬大數(shù)據(jù)研發(fā)工程師王登陽
首先從整體架構上介紹一下鯤鵬大數(shù)據(jù)解決方案,它主要由硬件基礎、操作系統(tǒng)、中間件,以及大數(shù)據(jù)平臺等多個部分組成。
硬件基礎方面,鯤鵬大數(shù)據(jù)解決方案提供了基于鯤鵬處理器的泰山服務器,在高速緩存的情況下,同時支持SSD用于加速。
操作系統(tǒng)方面,支持當前主流的商用開源操作系統(tǒng)和國產(chǎn)化操作系統(tǒng),比如華為自研的歐拉等。中間件JDK、GCC等大數(shù)據(jù)編譯器中間件目前也都是支持鯤鵬產(chǎn)業(yè)生態(tài)的。
加速特性方面,支持EC編解碼指令加速,同時提供了基于指令與算法優(yōu)化的KAL機器學習庫等。除此之外,也支持常見的Hbase等眾多大數(shù)據(jù)組件,和華為自研的FusionLnsight、開源的Apache、CDh/HDP和星環(huán)等平臺。
目前,鯤鵬生態(tài)基礎逐漸完善,技術成熟,也支持更多的合作伙伴進行大數(shù)據(jù)平臺的移植。
大數(shù)據(jù)對應的典型配置方案主要是針對實時流處理、實時檢索、離線分析/數(shù)據(jù)挖掘和冷數(shù)據(jù)存儲進行數(shù)據(jù)處理的優(yōu)化。
離線分析以HDFS為數(shù)據(jù)底座,常見的計算引擎以Hive/Spark為主。在離線分析上,推薦的典型配置是鯤鵬5220搭配12塊SATA數(shù)據(jù)盤。實時檢索,主要是針對海量數(shù)據(jù),進行實時查詢,其對查詢響應時間要求比較高,一般采用的是2P的鯤鵬5250和24塊1.2GSAS數(shù)據(jù)盤。最后是實時流處理,一般通過Kafka將數(shù)據(jù)傳輸給Stom和Flink,完成數(shù)據(jù)處理后,上傳到Redis進行存儲。這同樣對查詢響應時間要求較高,通常采用2P的鯤鵬5220和12塊1.2G的SAS盤。
此外,鯤鵬大數(shù)據(jù)還做了一些適配和開源的實踐。在大數(shù)據(jù)的適配上,常見的大數(shù)據(jù)組件移植主要是針對包含移植內容有JAr包、SO文件和可執(zhí)行二進制文件等。鯤鵬大數(shù)據(jù)還在大數(shù)據(jù)上進行了特性開發(fā)并開源,包括SM4的國密加速,通過內置加解密加速引擎,明文數(shù)據(jù)通過總線傳輸,來有效保證數(shù)據(jù)的安全性,目前支持SM3/SM4的國密算法。
目前,鯤鵬大數(shù)據(jù)開源生態(tài)發(fā)展迅速,在Hbase等幾個核心組件上開源社區(qū)都支持ARM、最新的ES和Hadoop。后期,鯤鵬大數(shù)據(jù)將繼續(xù)完善社區(qū)對應的ARM構建,保證不同版本的軟件對應的編譯流程打包,甚至是測試流程能力完整和完備,確保代碼在ARM上的質量。
圍繞生態(tài)建設,鯤鵬大數(shù)據(jù)也有了一些進展。比如2019年在HC大會上,鯤鵬四個開發(fā)套件亮相,包括分析掃描、代碼遷移工具、編譯器和性能優(yōu)化工具。而且,隨著鯤鵬影響力與日俱增,鯤鵬社區(qū)也應運而生,現(xiàn)已涵蓋了10+的軟件領域,包括中間件、操作系統(tǒng)等,同時提供200+主流軟件和豐富的產(chǎn)品技術支持和解決方案。另外,鯤鵬大數(shù)據(jù)還打通了自己的Maven倉庫和RPM倉庫,提供含有SO文件空文檔的jar包。
總結起來,鯤鵬大數(shù)據(jù)有以下幾大優(yōu)勢:
·高性能:鯤鵬多核實現(xiàn)高并發(fā)IO
·平滑擴容:支持鯤鵬與x86混合部署,實現(xiàn)現(xiàn)網(wǎng)集群平滑擴容 • 安全加解密:基于芯片內置硬件加解密,支持國密算法
·豐富生態(tài):支持主流開源軟件和國產(chǎn)化商業(yè)軟件,軟硬件解耦
鯤鵬展翅,未來可期,希望后期鯤鵬發(fā)展道路上,可以看到在座各位的身影。
想要了解沙龍上還發(fā)生了哪些有趣的互動嗎?
圖片直播:
https://www.pailixiang.com/album_ia883432105.html
分享到微信 ×
打開微信,點擊底部的“發(fā)現(xiàn)”,
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。