Ⅰ 國家如何共同推動大數據產業創新發展
2018中國國際大數據產業博覽會26日在貴州省貴陽市開幕,國家主席版向會議致賀信。
主席強調,中國高度重視大數據發展。我們秉持創新、協調、綠色、開放、共享的發展理念,圍繞建設網路強國、數字中國、智慧社會,全面實施國家大數據戰略,助力中國經濟從高速增長轉向高質量發展。希望各位代表和嘉賓圍繞「數化萬物·智在融合」的博覽會主題,深入交流,集思廣益,共同推動大數據產業創新發展,共創智慧生活,造福世界各國人民,共同推動構建人類命運共同體。
Ⅱ 大數據技術能夠帶動哪些產業的發展
金融行業:隨著大數據技術的廣泛普及和發展成熟,金融大數據應用已經成為行業熱點趨勢,在交易欺詐識別、精準營銷、黑產防範、消費信貸、信貸風險評估、供應鏈金融、股市行情預測、股價預測、智能投顧、騙保識別、風險定價等涉及銀行、證券、保險等多領域的具體業務中,得到廣泛應用。對於大數據的應用分析能力,正在成為金融機構未來發展的核心競爭要素。
金融大數據發展應用趨勢:
一是大數據應用水平正在成為金融企業競爭力的核心要素。金融的核心就是風控,風控以數據為導向。
二是金融行業數據整合、共享和開放成為趨勢。數據越關聯越有價值,越開放越有價值。隨著各國政府和企業逐漸認識到數據共享帶來的社會效益和商業價值,全球已經掀起一股數據開放的熱潮。
Ⅲ 目前國內大數據產業發展到什麼地步了呢
“大數據”作為一種概念和思潮由計算領域發端,之後逐漸延伸到科學和商業領域。大數據與物聯網、雲計算、人工智慧等技術有較為密切的關系,從大數據行業發展來看,目前大數據處在落地應用的初期,未來大數據的發展空間依然非常大。
大數據相關技術、產品、應用和標准不斷發展,逐漸形成了包括數據資源與API、開源平台與工具、數據基礎設施、數據分析、數據應用等板塊構成的大數據生態系統,並持續發展和不斷完善,其發展熱點呈現了從技術向應用、再向治理的逐漸遷移。
國家大數據戰略實施以來,地方政府紛紛響應聯動、積極謀劃布局。國家發改委組織建設11個國家大數據工程實驗室,為大數據領域相關技術創新提供支撐和服務。發改委、工信部、中央網信辦聯合批復貴州、上海、京津冀、珠三角等8個綜合試驗區,正在加快建設。各地方政府紛紛出台促進大數據發展的指導政策、發展方案、專項政策和規章制度等,使大數據發展呈蓬勃之勢。
Ⅳ 當下大數據發展的 8 個要點
作者 | 章劍鋒
筆者從 2008 年開始工作到現在也有 11 個年頭了,一路走來都在和數據打交道,做過大數據底層框架內核的開發(Hadoop,Pig,Tez,Spark,Livy),也做過上層大數據應用開發(寫 MapRece Job 做 ETL ,用 Hive 做 Ad hocquery,用 Tableau 做數據可視化,用 R 做數據分析)。今天我想藉此機會和大家聊聊我所理解的大數據現狀和未來。
首先讓我們來聊聊什麼是大數據。大數據這個概念已經出來很多年了(超過10年),但一直沒有一個准確的定義(也許也並不需要)。數據工程師(DataEngineer)對大數據的理解會更多從技術和系統的角度去理解,而數據分析人員(Data Analyst)對大數據理解會從產品的角度去理解,所以數據工程師(Data Engineer) 和數據分析人員(Data Analyst)所理解的大數據肯定是有差異的。我所理解的大數據是這樣的,大數據不是單一的一種技術或者產品,它是所有與數據相關的綜合學科。看大數據我會從 2 個維度來看,一個是數據流的維度(下圖的水平軸),另外一個是技術棧的維度(下圖的縱軸)。
其實我一直不太喜歡張口閉口講「大數據」,我更喜歡說「數據」。因為大數據的本質在於「數據」,而不是「大」。由於媒體一直重點宣揚大數據的「大」,所以有時候我們往往會忽然大數據的本質在「數據」,而不是「大」,「大」只是你看到的表相,本質還是數據自身。
在我們講清楚大數據的含義之後,我們來聊聊大數據目前到底處在一個什麼樣的位置。從歷史發展的角度來看,每一項新技術都會經歷下面這樣一個技術成熟度曲線。
當一項新技術剛出來的時候人們會非常樂觀,常常以為這項技術會給人類帶來巨大的變革,對此持有過高的期望,所以這項技術一開始會以非常快的速度受到大家追捧,然後到達一個頂峰,之後人們開始認識到這項新技術並沒有當初預想的那麼具有革命性,然後會過於悲觀,之後就會經歷泡沫階段。等沉寂一定階段之後,人們開始回歸理性,正視這項技術的價值,然後開始正確的應用這項技術,從此這項技術開始走向穩步向前發展的道路。(題外話,筆者在看這幅圖的時候也聯想到了一個男人對婚姻看法的曲線圖,大家自己腦補)。
1、從大數據的歷史來看,大數據已經經歷了 2 個重要階段
兩個重要階段是指過高期望的峰值和泡沫化的底谷期 。現在正處於穩步向前發展的階段。我們可以從 googletrend 上 big data 的曲線就能印證。大數據大約從 2009 年開始走向人們的視野,在 2015 年左右走向了頂峰,然後慢慢走向下降通道(當然這張曲線並不會和上面這張技術成熟度曲線完全擬合,比如技術曲線處在下降通道有可能會使討論這項技術的搜索量增加)。
接下來我想講一下我對大數據領域未來趨勢的幾個判斷。
2、數據規模會繼續擴大,大數據將繼續發揚光
前面已經提到過,大數據已經度過了過高期望的峰值和泡沫化的底谷期,現在正在穩步向前發展。做這樣判斷主要有以下 2 個原因:
上游數據規模會繼續增長,特別是由於 IOT 技術的發展和成熟,以及未來 5G 技術的鋪開。在可預測的未來,數據規模仍將繼續快速增長,這是能夠帶動大數據持續穩定向前發展的基本動力。 下游數據產業還有很多發展的空間,還有很多數據的價值我們沒有挖掘出來。雖然現在人工智慧,區塊鏈搶去了大數據的風口位置,也許大數據成不了未來的主角,但大數據也絕對不是跑龍套的,大數據仍將扮演一個重要而基礎的角色。可以這么說,只要有數據在,大數據就永遠不會過時。我想在大部分人的有生之年,我們都會見證大數據的持續向上發展。
3、數據的實時性需求將更加突出
之前大數據遇到的最大挑戰在於數據規模大(所以大家會稱之為「大數據」),經過工業界多年的努力和實踐,規模大這個問題基本已經解決了。接下來幾年,更大的挑戰在於速度,也就是實時性。而大數據的實時性並不是指簡單的傳輸數據或者處理數據的實時性,而是從端到端的實時,任何一個步驟速度慢了,就影響整個大數據系統的實時性。所以大數據的實時性,包括以下幾個方面:
快速獲取和傳輸數據 快速計算處理數據 實時可視化數據 在線機器學習,實時更新機器學習模型目前以 Kafka,Flink 為代表的流處理計算引擎已經為實時計算提供了堅實的底層技術支持,相信未來在實時可視化數據以及在線機器學習方面會有更多優秀的產品涌現出來。當大數據的實時性增強之後,在數據消費端會產生更多有價值的數據,從而形成一個更高效的數據閉環,促進整個數據流的良性發展。
4、大數據基礎設施往雲上遷移勢不可擋
目前IT基礎設施往雲上遷移不再是一個大家還需要爭論的問題,這是大勢所趨。當然我這邊說的雲並不單單指公有雲,也包括私有雲,混合雲。因為由於每個企業的業務屬性不同,對數據安全性的要求不同,不可能把所有的大數據設施都部署在公有雲上,但向雲上遷移這是一個未來註定的選擇。目前各大雲廠商都提供了各種各樣的大數據產品以滿足各種用戶需求,包括平台型(PAAS) 的 EMR ,服務型 (SAAS) 的數據可視化產品等等。大數據基礎設施的雲化對大數據技術和產品產生也有相應的影響。大數據領域的框架和產品將更加 Cloud Native 。
計算和存儲的分離。我們知道每個公有雲都有自己對應的分布式存儲,比如 AWS 的 S3 。 S3 在一些場合可以替換我們所熟知的 HDFS ,而且成本更低。而 S3 的物理存儲並不是在 EC2 上面,對 EC2 來說, S3 是 remote storage 。所以如果你要是 AWS 上面做大數據開發和應用,而且你的數據是在 S3 上,那麼你就自然而然用到了計算和存儲的分離。 擁抱容器,與 Kubernate 的整合大勢所趨,我們知道在雲環境中 Kuberneate 基本上已經是容器資源調度的標准。 更具有彈性(Elastic)。 與雲上其他產品和服務整合更加緊密。5、大數據產品全鏈路化
全鏈路化是指提供端到端的全鏈路解決方案,而不是簡單的堆積一些大數據產品組件。以 Hadoop 為代表的大數據產品一直被人詬病的主要問題就是用戶使用門檻過高,二次開發成本太高。全鏈路化就是為了解決這一問題,用戶需要的並不是 Hadoop,Spark,Flink 等這些技術,而是要以這些技術為基礎的能解決業務問題的產品。 Cloudera 的從 Edge 到 AI 是我比較認同的方案。大數據的價值並不是數據本身,而是數據背後所隱藏的對業務有影響的信息和知識。下面是一張摘自 wikipedia 的經典數據金字塔的圖。
大數據技術就是對最原始的數據進行不斷處理加工提煉,金字塔每上去一層,對應的數據量會越小,同時對業務的影響價值會更大更快。而要從數據(Data) 最終提煉出智慧(Wisdom),數據要經過一條很長的數據流鏈路,沒有一套完整的系統保證整條鏈路的高效運轉是很難保證最終從數據中提煉出來有價值的東西的,所以大數據未來產品全鏈路化是另外一個大的趨勢。
6、大數據技術往下游數據消費和應用端轉移
上面講到了大數據的全鏈路發展趨勢,那麼這條長長的數據鏈路目前的狀況是如何,未來又會有什麼樣的趨勢呢?
我的判斷是未來大數據技術的創新和發力會更多的轉移到下游數據消費和應用端。之前十多年大數據的發展主要集中在底層的框架,比如最開始引領大數據風潮的 Hadoop ,後來的計算引擎佼佼者 Spark,Flink 以及消息中間件 Kafka ,資源調度器 Kubernetes 等等,每個細分領域都涌現出了一系列優秀的產品。總的來說,在底層技術框架這塊,大數據領域已經基本打好了基礎,接下來要做的是如何利用這些技術為企業提供最佳用戶體驗的產品,以解決用戶的實際業務問題,或者說未來大數據的側重點將從底層走向上層。之前的大數據創新更偏向於 IAAS 和 PAAS ,未來你將看到更多 SAAS 類型的大數據產品和創新。從近期一些國外廠商的收購案例,我們可以略微看出一些端倪。1、2019 年 6 月 7 日,谷歌宣布以 26 億美元收購了數據分析公司 Looker,並將該公司並入 Google Cloud。2、2019 年 6 月 10 日,Salesforce 宣布以 157 億美元的全股票交易收購 Tableau ,旨在夯實在數據可視化以及幫助企業解讀所使用和所積累的海量數據的其他工具方面的工作。3、2019 年 9 月初,Cloudera 宣布收購 Arcadia Data 。 Arcadia Data 是一家雲原生 AI 驅動的商業智能實時分析廠商。面對最終用戶的大數據產品將是未來大數據競爭的重點,我相信會未來大數據領域的創新也將來源於此,未來 5 年內大概率至少還會再出一個類似 Looker 這樣的公司,但是很難再出一個類似 Spark 的計算引擎。
7、底層技術的集中化和上層應用的全面開花
學習過大數據的人都會感嘆大數據領域的東西真是多,特別是底層技術,感覺學都學不來。經過多年的廝殺和競爭,很多優秀的產品已經脫穎而出,也有很多產品慢慢走向消亡。比如批處理領域的 Spark 引擎基本上已經成為批處理領域的佼佼者,傳統的 MapRece 除了一些舊有的系統,基本不太可能會開發新的 MapRece 應用。 Flink 也基本上成為低延遲流處理領域的不二選擇,原有的 Storm 系統也開始慢慢退出歷史舞台。同樣 Kafka 也在消息中間件領域基本上占據了壟斷地位。未來的底層大數據生態圈中將不再有那麼多的新的技術和框架,每個細分領域都將優勝劣汰,走向成熟,更加集中化。未來更大的創新將更多來來自上層應用或者全鏈路的整合方面。在大數據的上層應用方面未來將會迎來有更多的創新和發展,比如基於大數據上的BI產品, AI 產品等等,某個垂直領域的大數據應用等等,我相信未來我們會看到更多這方面的創新和發展。
8、開源閉源並駕齊驅
大數據領域並不是只有 Hadoop,Spark,Flink 等這類大家耳熟能詳的開源產品,還有很多優秀的閉源產品,比如 AWS 上的 Redshift ,阿里的 MaxCompute 等等。這些產品雖然沒有開源產品那麼受開發者歡迎,但是他們對於很多非互聯網企業來說是非常受歡迎的。因為對於一個企業來說,採用哪種大數據產品有很多因素需要考慮,否開源並不是唯一標准。產品是否穩定,是否有商業公司支持,是否足夠安全,是否能和現有系統整合等等往往是某些企業更需要考慮的東西,而閉源產品往往在這類企業級產品特性上具有優勢。
最近幾年開源產品受公有雲的影響非常大,公有雲可以無償享受開源的成果,搶走了開源產品背後的商業公司很多市場份額,所以最近很多開源產品背後的商業公司開始改變策略,有些甚至修改了 Licence 。不過我覺得公有雲廠商不會殺死那些開源產品背後的商業公司,否則就是殺雞取卵,殺死開源產品背後的商業公司,其實就是殺死開源產品的最大技術創新者,也就是殺死開源產品本身。我相信開源界和公有雲廠商最終會取得一個平衡,開源仍然會是一個主流,仍然會是創新的主力,一些優秀的閉源產品同樣也會占據一定的市場空間。
最後我想再次總結下本文的幾個要點:
1、目前大數據已經度過了最火的峰值期和泡沫化的底谷期,現在正處於穩步向前發展的階段。2、數據規模會繼續擴大,大數據將繼續發揚光大3、 數據的實時性需求將更加突出4、大數據基礎設施往雲上遷移勢不可擋5、大數據產品全鏈路化6、大數據技術往下游數據消費和應用端轉移7、底層技術的集中化和上層應用的全面開花8、開源閉源並駕齊驅
Ⅳ 結合材料二,從政治生活的角度看,簡述大數據產業的發展有什麼潛在風險
存在著侵犯個人合法權益,威脅國家安全利益等風險。立法機關應加快制定保護信息安全的相關法律,為大數據產業的健康發展提供法律保障。政府部門必須切實履行好職能,加大對大數據安全保障關鍵技術研發的資金投入和人才培養力度,提高我國大數據安全技術產品水平,加強對敏感和要害數據的監管。公民要堅持權利與義務相統一的原則,依法維護自己的合法權益,履行相關義務。
Ⅵ 新形勢下如何構建網路安全產業格局
政策持續加碼 網路安全行業千億市場規模已啟
6月13日,第六屆中國網路安全大會在北京召開,網路安全再次成為熱議話題。自去年6月1日網路安全法實施以來,網路安全相關政策加速出台,網路安全市場潛力加快釋放。隨著雲計算和大數據時代到來,數據價值凸顯,數據安全將成為網路安全行業的風口。
政策持續加碼
近年來,網路安全建設受到政策大力支持,尤其是網路安全法正式實施後,相關政策加速出台。申萬宏源指出,網路安全法正式實施後,涉及網路安全的配套政策快速下沉到電信、互聯網、工業、教育、農業等行業。網路安全的核心是技術安全,應將自主可控作為技術安全和網路安全的必要條件。
今年以來,一系列網路安全政策密集出台,在此背景下,網路安全市場前景被看好。網路安全市場空間很大。目前,國內企業在網路安全方面的投入僅佔IT方面投入1%-3%,而在歐美發達國家和地區,該數字達到10%-13%。
2018年網路安全行業發展將明顯提速;政務、電力、煙草、工業等行業網路安全市場化推進明顯,垂直行業安全建設明顯加速。
中國網路安全市場規模
我國信息安全行業增長迅速,安全硬體產品占據較大比重。據前瞻產業研究院發布的《信息安全行業發展前景預測與投資戰略規劃分析報告》數據顯示,得益於網路安全法的落地、雲計算對於IT基礎設施的重構,以及物聯網設備的迅速增長,我國網路信息安全行業正在迎來全新的發展階段,預計2017-2021年的行業復合增速為23.2%,2021年行業整體規模將達到630億元(95.8億美元)。目前我國信息安全市場中安全硬體產品占據了大半的比重。
數據安全成風口
網路安全包括多個層面及維度,細分市場廣泛。隨著雲計算和大數據時代到來,數據安全受到越來越多的重視,將成為行業發展風口。
大數據安全不僅涉及國家數據主權安全、企業和公民個人網路安全,也和IT以及互聯網行業的創新密切相關。如何保障數據安全,在法律、政策、監管技術等多個維度有很多工作要做。數據安全成為風口,與雲計算和大數據發展密不可分。多地陸續出現大數據交易中心,數據產生價值驚人。
新的安全場景不斷出現,使數據安全的重要性凸顯,隨著數據的大量增加,內部防範遠重於外部防範。傳統的數據安全保護手段逐漸失效,要有新的技術和理念應對新的變化。
投資熱潮湧動
網路安全行業快速發展,網路安全投資迎來熱潮。2017年,安全領域創業企業總融資額創新高。網路安全領域當年全球投資300億美元,國內為5.4億美元。
2017年到2020年,中國網路安全市場規模將升至千億規模,差不多每年一個台階。據前瞻產業研究院預測安全風險將推動整體安全支出快速增長,2018年全球安全支出將超過960億美元,比2017年增長8%。
近年來,網路安全企業登陸資本市場不斷出現,PE/VC對網路安全的投資熱情高漲。網路安全上市公司增多,同時這些公司盈利表現良好。從政策以及市場驅動兩個角度看,安全行業大有可為。過去兩三年,安全已經從成本中心轉化到利潤中心。
對於細分市場的投資布局,,數據安全、防止金融欺詐以及移動安全有望成為網路安全投資藍海。數據的安全防範需求越來越大。同時,越來越多交易轉移到移動端,這一塊的安全需求將大大增加。
Ⅶ 大數據產業發展明確四大重點
大數據產業發展明確四大重點
在23日召開的首屆數字中國建設峰會分論壇上,一系列關於促進大數據和數字經濟發展的新政出爐,加快發展數字經濟的路線圖更加明晰。
在大數據分論壇上,工業和信息化部副部長陳肇雄提出推進大數據發展的四大重點方向。一是推動大數據創新發展,支持前沿技術創新,加快關鍵產品研發,推進大數據與雲計算的深度融合,促進產學研深度融合,造就一批明星企業和人才。二是推動大數據融合發展,深挖融合潛力,加快工業互聯網、工業大數據建設,培育數據驅動發展新模式、新業態。三是激發市場活力,鼓勵建立大數據公共服務平台,鼓勵中小企業深挖細分市場,積極參與數據安全建設,推動大數據企業的國際化發展。四是推動大數據安全發展、強化保障能力,加強大數據安防產品開發,維護數據的可靠性,構建安全保障體系,建立高效的數據安全管理機制。
其中,加快布局工業互聯網成為推動數字經濟發展的重要途徑。在當日舉行的數字經濟分論壇上,工業和信息化部信息化和軟體服務業司副司長李冠宇提出,在推進工業互聯網平台發展方面,將加強頂層設計,並將制定出台《工業互聯網平台建設和推廣工程實施指南》,統籌推動平台培育、企業上雲、百萬工業APP培育等重點工作。此外還將制定出台工業互聯網平台評價指南,分期分批遴選10家跨行業跨領域工業互聯網平台,鼓勵地方支持行業骨幹企業建設本區域本行業平台,形成一批面向特定行業獨立運營的工業互聯網平台。
在完善公共支撐體系方面,工信部將建立涵蓋標准、監測分析、數據管理、質量管理與技術成果轉化在內的公共支撐體系,營造開放、規范、誠信、安全的工業互聯網平台發展環境。
數字經濟既蘊含著巨大的發展機遇,也會帶來潛在的風險。國家互聯網信息辦公室副局長張望在數字經濟分論壇上指出,近年來,地下數據交易猖獗,「熔斷」「幽靈」等安全漏洞頻出,數據泄露和網路攻擊事件頻發,給個人隱私保護、企業安全生產、經濟社會發展乃至國家安全都可能帶來新的挑戰。同時,數字經濟對原有的行業秩序、利益格局和治理體系也會產生較大的沖擊。
加強制度設計,提升數字經濟監管能力和治理水平勢在必行。張望指出,堅持包容與監管並重,支持與規范並行,逐步建立與新業態發展相適應的監管方式;完善反不正當競爭法和反壟斷法,加快推動促進和規范數字經濟發展的法律法規的立法進程,營造公平、有序、創新、活躍的數字經濟市場環境;運用大數據、人工智慧、區塊鏈等技術,推進技術與管理並舉的數字經濟治理模式,提升數字經濟領域態勢感知、風險預警水平,提高風險防範能力,推動數據共享,促進協同治理,實現決策科學化、精準化,提升數字經濟治理能力;推動制定跨境電商、市場准入、數據流動等國際貿易和投資新規則,推動共建網路空間命運共同體。
Ⅷ 促進我國大數據產業發展策略有哪些
(1)制定我國大數據發展的國家戰略。
(2)制定我國政府數據開放政策。
(3)制定國家數據安全及網路用戶隱私保護標准和法律。
(4)加強大數據原創技術的開發與研究,構建具有核心技術自主權的大數據產業鏈。
(5)積極培養數據科學家,以解決我國大數據產業人才短缺問題。
Ⅸ 大數據安全重要性遠超過去
大數據安全重要性遠超過去
我們應當遵循安全和發展同步推進的原則,加大自主創新力度,將核心技術牢牢掌握在自己手中。
大數據的安全既包括了大數據處理系統的安全,例如,使用的核心技術和基礎設施,也包括了大數據本身的安全。
大數據本身的安全屬於信息安全的范疇,當然,它也與運營管理有關,因此就涉及到法規、標准、制度、管理等。由於大數據是新事物,因此相應的法規、標准、制度等必然落後於實踐。我們不可能等到它們完善了以後才去發展大數據,而應該邊發展大數據,邊加強和完善與大數據相關的法制建設,希望能形成一個良性循環。
從信息安全的角度考察,我們可以將它看作是一個數據安全治理問題,包括資料庫審計和保護、數據丟失防止、數字版權管理、移動數據保護等。有些問題可以繼承過去數據存儲管理的成果,但大數據顯然也提出了很多新問題,例如大數據在量的方面的發展,使得其安全問題的重要性遠遠超過了過去的數據安全。
大數據在質的方面的發展也帶來了新的安全問題。眾所周知,大數據有很多格式,也有很多來源,當把這些不同類型的龐大數據融合在一起進行實時處理時,不僅對處理技術是一個挑戰,而且對處理的合規合法性也是一個挑戰。
如果說,在過去商業智能應用時期已經發生過泄露客戶隱私權個案的話,那麼到了大數據時代,如果不加防範,泄露客戶隱私問題就可能成為某種災害。為此,我們希望有關部門及時制訂相關法規和標准,把問題解決在萌芽狀態,盡可能化解或縮小由此引發的風險。
當大數據大到一定程度,其價值會隨之增大,以至於達到影響國家安全的程度。在這個時候,如果要對大數據安全進行自主可控或者安全可控評估,顯然需要考慮更多因素。例如需要評估的對象可能包括:進行大數據處理的數據中心採用的技術設備和基礎設施,各種信息終端和物聯網終端,數據本身的安全和處理的合規合法性等。
因此,我們應當遵循安全和發展同步推進的原則,加大自主創新力度,將核心技術牢牢掌握在自己手中,在確保大數據安全的前提下,大力發展大數據產業,為建設網路強國和全面建成小康社會而奮斗。