數(shù)據(jù)處理是對紛繁復雜的海量數(shù)據(jù)價值的提煉，而其中最有價值的地方在于預測性分析，即可以通過數(shù)據(jù)可視化、統(tǒng)計模式識別、數(shù)據(jù)描述等數(shù)據(jù)挖掘形式幫助數(shù)據(jù)科學家更好的理解數(shù)據(jù)，根據(jù)數(shù)據(jù)挖掘的結果得出預測性決策。其中主要工作環(huán)節(jié)包括：
大數(shù)據(jù)采集、
大數(shù)據(jù)預處理、
大數(shù)據(jù)存儲及管理、
大數(shù)據(jù)分析及挖掘、
大數(shù)據(jù)展現(xiàn)和應用(大數(shù)據(jù)檢索、大數(shù)據(jù)可視化、大數(shù)據(jù)應用、大數(shù)據(jù)安全等)。
一、大數(shù)據(jù)采集技術
數(shù)據(jù)是指通過RFID射頻數(shù)據(jù)、傳感器數(shù)據(jù)、社交網(wǎng)絡交互數(shù)據(jù)及移動互聯(lián)網(wǎng)數(shù)據(jù)等方式獲得的各種類型的結構化、半結構化(或稱之為弱結構化)及非結構化的海量數(shù)據(jù)，是大數(shù)據(jù)知識服務模型的根本。重點要突破分布式高速高可靠數(shù)據(jù)爬取或采集、高速數(shù)據(jù)全映像等大數(shù)據(jù)收集技術;突破高速數(shù)據(jù)解析、轉(zhuǎn)換與裝載等大數(shù)據(jù)整合技術;設計質(zhì)量評估模型，開發(fā)數(shù)據(jù)質(zhì)量技術。
大數(shù)據(jù)采集一般分為：
1)大數(shù)據(jù)智能感知層：主要包括數(shù)據(jù)傳感體系、網(wǎng)絡通信體系、傳感適配體系、智能識別體系及軟硬件資源接入系統(tǒng)，實現(xiàn)對結構化、半結構化、非結構化的海量數(shù)據(jù)的智能化識別、定位、跟蹤、接入、傳輸、信號轉(zhuǎn)換、監(jiān)控、初步處理和管理等。必須著重攻克針對大數(shù)據(jù)源的智能識別、感知、適配、傳輸、接入等技術。
2)基礎支撐層：提供大數(shù)據(jù)服務平臺所需的虛擬服務器，結構化、半結構化及非結構化數(shù)據(jù)的數(shù)據(jù)庫及物聯(lián)網(wǎng)絡資源等基礎支撐環(huán)境。重點攻克分布式虛擬存儲技術，大數(shù)據(jù)獲取、存儲、組織、分析和決策操作的可視化接口技術，大數(shù)據(jù)的網(wǎng)絡傳輸與壓縮技術，大數(shù)據(jù)隱私保護技術等。
二、大數(shù)據(jù)預處理技術
完成對已接收數(shù)據(jù)的辨析、抽取、清洗等操作。
1)抽?。阂颢@取的數(shù)據(jù)可能具有多種結構和類型，數(shù)據(jù)抽取過程可以幫助我們將這些復雜的數(shù)據(jù)轉(zhuǎn)化為單一的或者便于處理的構型，以達到快速分析處理的目的。
2)清洗：對于大數(shù)據(jù)，并不全是有價值的，有些數(shù)據(jù)并不是我們所關心的內(nèi)容，而另一些數(shù)據(jù)則是完全錯誤的干擾項，因此要對數(shù)據(jù)通過過濾“去噪”從而提取出有效數(shù)據(jù)。
三、大數(shù)據(jù)存儲及管理技術
大數(shù)據(jù)存儲與管理要用存儲器把采集到的數(shù)據(jù)存儲起來，建立相應的數(shù)據(jù)庫，并進行管理和調(diào)用。重點解決復雜結構化、半結構化和非結構化大數(shù)據(jù)管理與處理技術。主要解決大數(shù)據(jù)的可存儲、可表示、可處理、可靠性及有效傳輸?shù)葞讉€關鍵問題。開發(fā)可靠的分布式文件系統(tǒng)(DFS)、能效優(yōu)化的存儲、計算融入存儲、大數(shù)據(jù)的去冗余及高效低成本的大數(shù)據(jù)存儲技術;突破分布式非關系型大數(shù)據(jù)管理與處理技術，異構數(shù)據(jù)的數(shù)據(jù)融合技術，數(shù)據(jù)組織技術，研究大數(shù)據(jù)建模技術;突破大數(shù)據(jù)索引技術;突破大數(shù)據(jù)移動、備份、復制等技術;開發(fā)大數(shù)據(jù)可視化技術。
開發(fā)新型數(shù)據(jù)庫技術，數(shù)據(jù)庫分為關系型數(shù)據(jù)庫、非關系型數(shù)據(jù)庫以及數(shù)據(jù)庫緩存系統(tǒng)。其中，非關系型數(shù)據(jù)庫主要指的是NoSQL數(shù)據(jù)庫，分為：鍵值數(shù)據(jù)庫、列存數(shù)據(jù)庫、圖存數(shù)據(jù)庫以及文檔數(shù)據(jù)庫等類型。關系型數(shù)據(jù)庫包含了傳統(tǒng)關系數(shù)據(jù)庫系統(tǒng)以及NewSQL數(shù)據(jù)庫。
開發(fā)大數(shù)據(jù)安全技術：改進數(shù)據(jù)銷毀、透明加解密、分布式訪問控制、數(shù)據(jù)審計等技術;突破隱私保護和推理控制、數(shù)據(jù)真?zhèn)巫R別和取證、數(shù)據(jù)持有完整性驗證等技術。
四、大數(shù)據(jù)分析及挖掘技術
大數(shù)據(jù)分析技術：改進已有數(shù)據(jù)挖掘和機器學習技術;開發(fā)數(shù)據(jù)網(wǎng)絡挖掘、特異群組挖掘、圖挖掘等新型數(shù)據(jù)挖掘技術;突破基于對象的數(shù)據(jù)連接、相似性連接等大數(shù)據(jù)融合技術;突破用戶興趣分析、網(wǎng)絡行為分析、情感語義分析等面向領域的大數(shù)據(jù)挖掘技術。
數(shù)據(jù)挖掘就是從大量的、不完全的、有噪聲的、模糊的、隨機的實際應用數(shù)據(jù)中，提取隱含在其中的、人們事先不知道的、但又是潛在有用的信息和知識的過程。
數(shù)據(jù)挖掘涉及的技術方法很多，有多種分類法。根據(jù)挖掘任務可分為分類或預測模型發(fā)現(xiàn)、數(shù)據(jù)總結、聚類、關聯(lián)規(guī)則發(fā)現(xiàn)、序列模式發(fā)現(xiàn)、依賴關系或依賴模型發(fā)現(xiàn)、異常和趨勢發(fā)現(xiàn)等等;根據(jù)挖掘?qū)ο罂煞譃殛P系數(shù)據(jù)庫、面向?qū)ο髷?shù)據(jù)庫、空間數(shù)據(jù)庫、時態(tài)數(shù)據(jù)庫、文本數(shù)據(jù)源、多媒體數(shù)據(jù)庫、異質(zhì)數(shù)據(jù)庫、遺產(chǎn)數(shù)據(jù)庫以及環(huán)球網(wǎng)Web;根據(jù)挖掘方法分，可粗分為:機器學習方法、統(tǒng)計方法、神經(jīng)網(wǎng)絡方法和數(shù)據(jù)庫方法。
機器學習中，可細分為歸納學習方法(決策樹、規(guī)則歸納等)、基于范例學習、遺傳算法等。統(tǒng)計方法中，可細分為:回歸分析(多元回歸、自回歸等)、判別分析(貝葉斯判別、費歇爾判別、非參數(shù)判別等)、聚類分析(系統(tǒng)聚類、動態(tài)聚類等)、探索性分析(主元分析法、相關分析法等)等。神經(jīng)網(wǎng)絡方法中，可細分為:前向神經(jīng)網(wǎng)絡(BP算法等)、自組織神經(jīng)網(wǎng)絡(自組織特征映射、競爭學習等)等。數(shù)據(jù)庫方法主要是多維數(shù)據(jù)分析或OLAP方法，另外還有面向?qū)傩缘臍w納方法。
數(shù)據(jù)挖掘主要過程是：根據(jù)分析挖掘目標，從數(shù)據(jù)庫中把數(shù)據(jù)提取出來，然后經(jīng)過ETL組織成適合分析挖掘算法使用寬表，然后利用數(shù)據(jù)挖掘軟件進行挖掘。傳統(tǒng)的數(shù)據(jù)挖掘軟件，一般只能支持在單機上進行小規(guī)模數(shù)據(jù)處理,受此限制傳統(tǒng)數(shù)據(jù)分析挖掘一般會采用抽樣方式來減少數(shù)據(jù)分析規(guī)模。
數(shù)據(jù)挖掘的計算復雜度和靈活度遠遠超過前兩類需求。一是由于數(shù)據(jù)挖掘問題開放性，導致數(shù)據(jù)挖掘會涉及大量衍生變量計算，衍生變量多變導致數(shù)據(jù)預處理計算復雜性;二是很多數(shù)據(jù)挖掘算法本身就比較復雜，計算量就很大，特別是大量機器學習算法，都是迭代計算，需要通過多次迭代來求最優(yōu)解，例如K-means聚類算法、PageRank算法等。
從挖掘任務和挖掘方法的角度，著重突破：
1)可視化分析。數(shù)據(jù)可視化無論對于普通用戶或是數(shù)據(jù)分析專家，都是最基本的功能。數(shù)據(jù)圖像化可以讓數(shù)據(jù)自己說話，讓用戶直觀的感受到結果。
2)數(shù)據(jù)挖掘算法。圖像化是將機器語言翻譯給人看，而數(shù)據(jù)挖掘就是機器的母語。分割、集群、孤立點分析還有各種各樣五花八門的算法讓我們精煉數(shù)據(jù)，挖掘價值。這些算法一定要能夠應付大數(shù)據(jù)的量，同時還具有很高的處理速度。
3)預測性分析。預測性分析可以讓分析師根據(jù)圖像化分析和數(shù)據(jù)挖掘的結果做出一些前瞻性判斷。
4)語義引擎。語義引擎需要設計到有足夠的人工智能以足以從數(shù)據(jù)中主動地提取信息。語言處理技術包括機器翻譯、情感分析、輿情分析、智能輸入、問答系統(tǒng)等。
5)數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理。數(shù)據(jù)質(zhì)量與管理是管理的最佳實踐，透過標準化流程和機器對數(shù)據(jù)進行處理可以確保獲得一個預設質(zhì)量的分析結果。
預測分析成功的7個秘訣
預測未來一直是一個冒險的命題。幸運的是，預測分析技術的出現(xiàn)使得用戶能夠基于歷史數(shù)據(jù)和分析技術(如統(tǒng)計建模和機器學習)預測未來的結果，這使得預測結果和趨勢變得比過去幾年更加可靠。
盡管如此，與任何新興技術一樣，想要充分發(fā)揮預測分析的潛力也是很難的。而可能使挑戰(zhàn)變得更加復雜的是，由不完善的策略或預測分析工具的誤用導致的不準確或誤導性的結果可能在幾周、幾個月甚至幾年內(nèi)才會顯現(xiàn)出來。
預測分析有可能徹底改變許多的行業(yè)和業(yè)務，包括零售、制造、供應鏈、網(wǎng)絡管理、金融服務和醫(yī)療保健。AI網(wǎng)絡技術公司Mist Systems的聯(lián)合創(chuàng)始人、首席技術官Bob fridy預測:“深度學習和預測性AI分析技術將會改變我們社會的所有部分，就像十年來互聯(lián)網(wǎng)和蜂窩技術所帶來的轉(zhuǎn)變一樣。”。
這里有七個建議，旨在幫助您的組織充分利用其預測分析計劃。
1.能夠訪問高質(zhì)量、易于理解的數(shù)據(jù)
預測分析應用程序需要大量數(shù)據(jù)，并依賴于通過反饋循環(huán)提供的信息來不斷改進。 全球IT解決方案和服務提供商Infotech的首席數(shù)據(jù)和分析官Soumendra Mohanty評論道:“數(shù)據(jù)和預測分析之間是相互促進的關系。”
了解流入預測分析模型的數(shù)據(jù)類型非常重要。“一個人身上會有什么樣的數(shù)據(jù)?” Eric Feigl – Ding問道，他是流行病學家、營養(yǎng)學家和健康經(jīng)濟學家，目前是哈佛陳氏公共衛(wèi)生學院的訪問科學家?！笆敲刻於荚贔acebook和谷歌上收集的實時數(shù)據(jù)，還是難以訪問的醫(yī)療記錄所需的醫(yī)療數(shù)據(jù)?”為了做出準確的預測，模型需要被設計成能夠處理它所吸收的特定類型的數(shù)據(jù)。
簡單地將大量數(shù)據(jù)扔向計算資源的預測建模工作注定會失敗?！坝捎诖嬖诖罅繑?shù)據(jù)，而其中大部分數(shù)據(jù)可能與特定問題無關，只是在給定樣本中可能存在相關關系，”FactSet投資組合管理和交易解決方案副總裁兼研究主管Henri Waelbroeck解釋道，F(xiàn)actSet是一家金融數(shù)據(jù)和軟件公司?！叭绻涣私猱a(chǎn)生數(shù)據(jù)的過程，一個在有偏見的數(shù)據(jù)上訓練的模型可能是完全錯誤的。”
2.找到合適的模式
SAP高級分析產(chǎn)品經(jīng)理Richard Mooney指出，每個人都癡迷于算法，但是算法必須和輸入到算法中的數(shù)據(jù)一樣好?！叭绻也坏竭m合的模式，那么他們就毫無用處，”他寫道?！按蠖鄶?shù)數(shù)據(jù)集都有其隱藏的模式。”
模式通常以兩種方式隱藏:
1)模式位于兩列之間的關系中。例如，可以通過即將進行的交易的截止日期信息與相關的電子郵件開盤價數(shù)據(jù)進行比較來發(fā)現(xiàn)一種模式。Mooney說:“如果交易即將結束，電子郵件的公開率應該會大幅提高，因為買方會有很多人需要閱讀并審查合同?！?/p>
2)模式顯示了變量隨時間變化的關系。 “以上面的例子為例，了解客戶打開了200次電子郵件并不像知道他們在上周打開了175次那樣有用，”Mooney說。
3 .專注于可管理的任務，這些任務可能會帶來積極的投資回報
紐約理工學院的分析和商業(yè)智能主任Michael Urmeneta稱:“如今，人們很想把機器學習算法應用到海量數(shù)據(jù)上，以期獲得更深刻的見解?！彼f，這種方法的問題在于，它就像試圖一次治愈所有形式的癌癥一樣。Urmeneta解釋說:“這會導致問題太大，數(shù)據(jù)太亂——沒有足夠的資金和足夠的支持。這樣是不可能獲得成功的?！?/p>
而當任務相對集中時，成功的可能性就會大得多。Urmeneta指出:“如果有問題的話，我們很可能會接觸到那些能夠理解復雜關系的專家” 。“這樣，我們就很可能會有更清晰或更好理解的數(shù)據(jù)來進行處理。”
4.使用正確的方法來完成工作
好消息是，幾乎有無數(shù)的方法可以用來生成精確的預測分析。然而，這也是個壞消息。芝加哥大學NORC (前國家意見研究中心)的行為、經(jīng)濟分析和決策實踐主任Angela Fontes說:“每天都有新的、熱門的分析方法出現(xiàn)，使用新方法很容易讓人興奮”?！叭欢鶕?jù)我的經(jīng)驗，最成功的項目是那些真正深入思考分析結果并讓其指導他們選擇方法的項目——即使最合適的方法并不是最性感、最新的方法?！?/p>
羅切斯特理工學院計算機工程系主任、副教授shanchie Jay Yang建議說:“用戶必須謹慎選擇適合他們需求的方法”?！氨仨殦碛幸环N高效且可解釋的技術，一種可以利用序列數(shù)據(jù)、時間數(shù)據(jù)的統(tǒng)計特性，然后將其外推到最有可能的未來，”Yang說。
5.用精確定義的目標構建模型
這似乎是顯而易見的，但許多預測分析項目開始時的目標是構建一個宏偉的模型，卻沒有一個明確的最終使用計劃。“有很多很棒的模型從來沒有被人使用過，因為沒有人知道如何使用這些模型來實現(xiàn)或提供價值，”汽車、保險和碰撞修復行業(yè)的SaaS提供商CCC信息服務公司的產(chǎn)品管理高級副總裁Jason Verlen評論道。
對此，F(xiàn)ontes也表示同意?！笆褂谜_的工具肯定會確保我們從分析中得到想要的結果……”因為這迫使我們必須對自己的目標非常清楚，”她解釋道?！叭绻覀儾磺宄治龅哪繕?，就永遠也不可能真正得到我們想要的東西?！?/p>
6.在IT和相關業(yè)務部門之間建立密切的合作關系
在業(yè)務和技術組織之間建立牢固的合作伙伴關系是至關重要的。 客戶體驗技術提供商Genesys的人工智能產(chǎn)品管理副總裁Paul lasserr說:“你應該能夠理解新技術如何應對業(yè)務挑戰(zhàn)或改善現(xiàn)有的業(yè)務環(huán)境?！比缓?，一旦設置了目標，就可以在一個限定范圍的應用程序中測試模型，以確定解決方案是否真正提供了所需的價值。
7.不要被設計不良的模型誤導
模型是由人設計的，所以它們經(jīng)常包含著潛在的缺陷。錯誤的模型或使用不正確或不當?shù)臄?shù)據(jù)構建的模型很容易產(chǎn)生誤導，在極端情況下，甚至會產(chǎn)生完全錯誤的預測。
沒有實現(xiàn)適當隨機化的選擇偏差會混淆預測。例如，在一項假設的減肥研究中，可能有50%的參與者選擇退出后續(xù)的體重測量。然而，那些中途退出的人與留下來的人有著不同的體重軌跡。這使得分析變得復雜，因為在這樣的研究中，那些堅持參加這個項目的人通常是那些真正減肥的人。另一方面，戒煙者通常是那些很少或根本沒有減肥經(jīng)歷的人。因此，雖然減肥在整個世界都是具有因果性和可預測性的，但在一個有50%退出率的有限數(shù)據(jù)庫中，實際的減肥結果可能會被隱藏起來。
六、大數(shù)據(jù)展現(xiàn)與應用技術
大數(shù)據(jù)技術能夠?qū)㈦[藏于海量數(shù)據(jù)中的信息和知識挖掘出來，為人類的社會經(jīng)濟活動提供依據(jù)，從而提高各個領域的運行效率，大大提高整個社會經(jīng)濟的集約化程度。
在我國，大數(shù)據(jù)將重點應用于以下三大領域：商業(yè)智能 、政府決策、公共服務。例如：商業(yè)智能技術，政府決策技術，電信數(shù)據(jù)信息處理與挖掘技術，電網(wǎng)數(shù)據(jù)信息處理與挖掘技術，氣象信息分析技術，環(huán)境監(jiān)測技術，警務云應用系統(tǒng)(道路監(jiān)控、視頻監(jiān)控、網(wǎng)絡監(jiān)控、智能交通、反電信詐騙、指揮調(diào)度等公安信息系統(tǒng))，大規(guī)?；蛐蛄蟹治霰葘夹g，Web信息挖掘技術，多媒體數(shù)據(jù)并行化處理技術，影視制作渲染技術，其他各種行業(yè)的云計算和海量數(shù)據(jù)處理應用技術等。
