網贏中國專注大數據營銷 [會員登錄][免費注冊][網贏中國下載]我要投稿|加入合伙人|設為首頁|收藏|RSS
網贏中國是大數據營銷代名詞。
大數據營銷
當前位置:網贏中國 > 行業資訊 > 行業動態 > 大數據營銷行業動態 > 盤點人氣云計算&大數據開源技術變遷
盤點人氣云計算&大數據開源技術變遷
編輯: 發布時間: 2016-5-3    文章來源:DevStore
大數據營銷



  從2010年開始,CSDN連續參與舉辦了六年中國云計算大會。在這6年時間,我們看到過被人質疑的云計算,也看到了現在云計算成為各種創業公司的基礎,甚至走入各種互聯網之外的傳統企業,見證了其在中國的發展的整個過程。整個發展過程中,在服務可靠性技術問題得以解決之后,數據歸屬成為不折不扣的導火索,公有云與私有云之爭一度也異常激勵,而經過了長時間實踐之后,則形成當下公有云、私有云、混合云等解決方案并存的狀態。


大數據


  在這個基礎上,我們看到很多開源云計算、大數據技術框架得到了飛速發展,其中更有一些已經成文業內事實上的標準。這些開源框架的出現大幅度降低了云計算和大數據技術的使用門檻,然而同時新的問題也隨之浮現,即如生產環境使用挑戰。為此,2016年,CSDN特舉辦了一場面向開發者的云計算技術大會——2016中國云計算技術大會(CCTC 2016),以實際應用和實踐調優為主,力邀Intel、微軟、IBM、AWS、Hortonworks、Databricks、Elastic、百度、阿里、騰訊、華為、樂視、京東、小米、微博、迅雷、青云、國家電網、中國移動、長安汽車、廣發證券、民生銀行、國家超級計算廣州中心等機構的60+頂級技術講師授業布道,為各位基礎設施維護的與會者指點迷津。


  大會召開前期,特別梳理了歷屆大會亮點以記錄中國云計算技術大會發展歷程,并立足當下生態圈現狀對即將召開的CCTC 2016進行展望。


  讀開源云計算&大數據技術演變


  業務需求刺激下,大數據生態繁花似錦


  近年內,隨著越來越多的設備接入互聯網,當下一年所產生的數據往往是以往數年的總和。而據Global Cloud Index預計,截止至2020年互聯設備數量將達到500億,眾多爆發式增長的設備預計在2017年便會產生高達7.7 ZB的互聯網數據。在這個大背景下,各個機構都積累了足夠多的數據,從而對數據進行分析并產生指導實踐的見解也成為了企業提高競爭力的迫切需求。在這個需求刺激下,開源大數據技術生態圈得到了飛速發展——在數據的整個生命周期中,從收集到處理,一直到數據可視化和儲存,各種開源技術框架林立。


  在開源大數據處理上,出于對成本和數據量的考慮,橫向擴展已經必不可少,因此在這個領域涌現出大量優秀的集群計算框架,其中大家首先想到的就是Hadoop。Hadoop天生高貴,由原雅虎工程師Doug Cutting在Google論文的啟發下建立,也是時下生產環境部署最多的計算框架。然而,隨著內存成本的降低和對不同處理類型需求的增加,缺乏對內存有效利用及資源調度粒度的不夠,業內涌現出大量優秀的計算框架并占據一席之地,其中備受關注的包括Apache Spark、Apache Flink、Apache Storm/JStorm等,整個大數據生態繁華似錦。


  開源IaaS發展,從百花齊放到一家獨大


  如上文所述,隨著接入互聯網的設備增多,企業IT基礎設施往往需要承受以往數倍的壓力,從而對原有的資源組織方式提出了嚴峻的挑戰。在這個前提下,云計算得以快速發展并在各行各業落地,更成為許多創業公司的立足之本。而作為云計算的一種重要形式,IaaS服務有各種開源和商業云平臺方案,作為當前最成功的云計算平臺,AWS更是吸引了眾多的關注和模仿,如果說云計算發展到如今的火爆,除了IT技術的發展趨勢,更重要的是背后頂級云計算廠商的大力支持和推廣。我們最早聽到IaaS概念可以追溯到1983年,一家在現在看來非常厲害的公司Sun Microsystems就提出了“網絡是電腦”的概念,但是由于概念太超前,在當時并沒有引起重視。


  隨著Amazon推出其彈性云計算,并在IaaS領域大獲成功,Google、微軟、VMware、IBM等IT巨頭們大舉跟進,紛紛涉足云計算領域,云計算的熱潮洶涌而至。在這期間,開源IaaS領域發展同樣迅猛,從最早的Eucalyptus、OpenNebula、CloudStack等到我們熟知的OpenStack,百花齊放,百家爭鳴,一時云計算領域熱鬧非凡,當然,隨著眾多大型廠商的支持、社區的壯大以及生態的不斷完善,OpenStack如今大放異彩,開始逐漸占據主導。不是說OpenStack現在完美無缺,只是在當下的開源IaaS領域,OpenStack已經毫無爭議的成為最受關注的云計算技術,并逐漸成為開源IaaS領域的代名詞。


  容器技術異軍突起,從技術演進到標準、生態之爭


  Docker,時下最火的容器技術,從誕生到進軍生產環境,每一步的技術演進都受到了巨大的關注。其實,談及容器技術,其實Docker并非首創,早在十數年前,容器技術便已有雛形,但是以Solomon Hykes為首的一幫工程師敏銳的發現了容器技術在云計算領域的巨大潛力,隨后迅速技術轉型,開始投向容器技術并且從一開始就走開源路線,這位身上流著美國與法國的血統,喜歡網咖打電動,酷愛摩托車的年輕人開始了一段非凡的浪漫之旅。


  無論是版本的迭代還是進軍生產環境,Docker這三年來的發展可以說是如魚得水,當然,期間也受到過質疑,比如CoreOS與Docker的標準之爭就在容器圈引起了不大不小的轟動,最后以Solomon和CoreOS的創始人Alex Polvi握手言和告終。之后隨著Docker版本的更新,在網絡和安全、存儲等領域的短板被逐漸補足之后,Docker的集群能力得以完善。


  容器引擎領域,雖說有CoreOS團隊開源的rkt項目,但是和Docker相比,在用戶以及社區活躍度方面都有很大差距。容器的編排,可以說在目前Docker領域受到的關注度前所未有,從Mesos到Kubernetes,圍繞兩種技術的編排之爭超乎想象,由于背后都有大批的廠商支持,短期內,這兩種技術都將得到迅速的發展,某一方不會形成壓倒性優勢,另外,從Docker公司的角度,背后的動作也有對編排的考量,綜述所述,容器生態中,圍繞Docker的生態之爭才剛剛開始。


  分析開源云計算&大數據技術最新實踐


  Docker短板補足,生產級實踐備受關注


  如上文所述,在Docker版本的更新過程中,自身的一些技術缺陷得到了彌補,Docker在安全、存儲以及網絡領域的短板得到逐步的解決,Docker進軍生產環境已經成為大勢所趨。國外,在Docker應用領域有著比較先進的經驗。國內目前真正將Docker應用在生產領域的很少,其中應用在核心業務的就更少,Docker從誕生到現在,已經3年時間,如果繼續炒作Docker的優越已經毫無意義,當下,開發者們最為關心的是如何讓Docker真正落地,如何在生產環境中使用Docker,急需這個領域有一些第一個吃螃蟹的企業出來分享他們的經驗和教訓。


  為此,2016 Container峰會聚焦生產級實踐,邀請了在金融、教育、制造、證券等領域已經應用Docker的企業技術負責人到場,給我們談談他們在生產環境中是如何使用Docker的,大規模部署Docker的經驗和趟過的坑。比如我們請到了民生銀行架構管理中心副主任周越博帶來《Docker助力互聯網金融新架構》,長安汽車分布式技術架構室室主任黃俊帶來《容器化技術在長安汽車中的實踐》,廣發證券信息技術部資深架構師、交易云技術研發團隊負責人楊濤帶來的《廣發證券基于大規模docker容器集群的OpenTrading證券交易云實踐之路》,另外,哈有永信至誠科技股份有限公司副總裁帶來的《CloudStack+Docker構建云端信息安全實驗場》。


  OpenStack式微?如何借勢Docker


  無可否認,Docker的發展熱度在一定程度上掩蓋了OpenStack的光芒,但是作為開源IaaS領域的首選平臺,IaaS如何和Docker和諧發展,或者如何借勢Docker彌補OpenStack在技術領域的短板,已經成為很多開發者關注的焦點。另外,上屆的OpenStack技術峰會,我們邀請到IBM云計算架構師劉光亞分享了《深度解析Docker和OpenStack系統集成》收到了眾多參會者的廣泛關注,今年OpenStack技術峰會,我們同樣邀請到九州云OpenStack 開發工程師張雷為大家分享如何基于Docker部署升級OpenStack,此外,對于已經部署了OpenStack基礎服務的用戶而言,如何最大化地發揮底層服務的能力、優化資源使用,同時提升用戶體驗,我們邀請到IBM高級研究員,OpenStack Senlin項目組長、Heat項目的Core滕啟明博士來為我們分享如何通過編程充分發揮OpenStack云的能力。值得一提的是,對于OpenStack在企業的實踐,我們也邀請到中國移動,中國銀聯、國家電網、華為、ebay、順豐快遞等頂級工程師,分享他們在OpenStack實踐方面的感悟。


  Hadoop老矣?時下開源大數據生態解讀


  如前文所述,在海量數據處理上,橫向擴展已毋庸置疑。而在這個領域,由Hadoop 2.0中誕生的YARN無疑最為耀眼,也是時下生產環境部署最為廣泛的開源框架。在本屆CCTC 2016上,華為印研Hadoop工程團隊架構師、Hadoop Committer Naganarasimha Garla將從技術角度解析YARN的異構實現,而Hulu大數據架構組負責人董西成將分享YARN在生產環境中的異構應用與實踐。


  談到開源海量數據處理,行業內首先落地的無疑是批量計算,而在這方面,MapReduce無疑是鼻祖,也是時下生產環境部署最多的計算框架。然而正如上文所述,缺少對內存的有效利用和業務對不同類型計算的需求,效率比較低的MapReduce同樣面臨著大量競爭者,其中兩個備受關注的就是Spark和Flink。因此,在CCTC 2016上,主辦方特設置了2016中國Spark技術峰會,不僅有3位Apache Spark Committer Ram Sriharsha、連城、范文臣為大家解析Spark 2.0,來自Intel、Hortonworks、Elastic、騰訊、新浪微博、Admaster、MediaV等國內外機構的近十位專家將帶來最新的Spark實踐分享,詳情可以看筆者之前的峰會解析。而在Flink方面,Flink 活躍貢獻者,萬達金融李呈祥將為大家分享名為“Apache Flink: Stream engine beyond Batch”的議題。


  此外,基于大量用戶的生產歡迎使用,Hadoop同樣亦在飛速進步,就比如說之前一直由HDF和HBase的存儲層已面臨Kudu(Cloudera開源)的強力挑戰,而在本次會議上,小米云平臺軟件工程師常冰琳將帶來小米在Kudu等開源大數據上的實踐。同時,阿里云技術專家曹龍(封神)也會分享阿里的Hadoop相關實踐。


 


  當然,滿足業務需求,生產環境使用是大家所追求的共同目的,因此在本屆峰會上,我們特邀了中移動蘇研薛港,百度高級產品經理、百度開放云大數據平臺產品負責人張琪,騰訊高級工程師許振文,京東搜索與大數據平臺部數據倉庫研發部高級經理劉業輝,平安科技高級研究員夏磊豪,青云QingCloud系統工程師周小四為大家分享各大知名機構的第一手實踐,詳情可訪問 CCTC 2016 日程。








大數據營銷
編輯推薦
圖片行業資訊
  • 營銷的核心:從“定位”到“到位
  • 沒有狗血與吐槽,《歡樂頌》這碗營銷安利我還是干了
  • 數據驅動的營銷:公司與營銷機構想法差別大
  • 郵件營銷撩妹利器:個性化郵件
  • 事故營銷——時下最強效果的營銷之術(禁術,謹慎收藏)
營銷資訊搜索
大數據營銷
推薦工具
    熱點關注
    大數據營銷
    大數據營銷
    大數據營銷
    大數據營銷
     

    大數據營銷之企業名錄

    網絡營銷之郵件營銷

    大數據營銷之搜索采集系列

    大數據營銷之QQ號采集

    大數據營銷之QQ精準營銷

    大數據營銷之QQ消息群發

    大數據營銷之空間助手

    大數據營銷之QQ聯盟

    大數據營銷之QQ群助手
     
    設為首頁 | 營銷資訊 | 營銷學院 | 營銷寶典 | 本站動態 | 關于網贏中國 | 網贏中國渠道 | 網站RSS | 友情鏈接
    本站網絡實名:網贏中國  國際域名:www.fdtzms.live  版權所有 2004-2016  深圳愛網贏科技有限公司
    郵箱:[email protected] 電話:+86-755-26010839(十八線) 傳真:+86-755-26010838
    在線咨詢:點擊這里給我發消息 點擊這里給我發消息 點擊這里給我發消息  點擊這里給我發消息  點擊這里給我發消息

    深圳網絡警
    察報警平臺
    公共信息安
    全網絡監察
    經營性網站
    備案信息
    不良信息
    舉報中心
    中國文明網
    傳播文明
    分享
    拳皇98怎么玩