一文匯總大數據四大方面十五大關(guān)鍵技術(shù)

　　近年來(lái)，大數據來(lái)勢洶洶，滲透到各行各業(yè)，帶來(lái)了一場(chǎng)翻天覆地的變革。讓人們越發(fā)認識到，比掌握龐大的數據信息更重要的是掌握對含有意義的數據進(jìn)行專(zhuān)業(yè)化處理的技術(shù)。

　　大數據關(guān)鍵技術(shù)涵蓋從數據存儲、處理、應用等多方面的技術(shù)，根據大數據的處理過(guò)程，可將其分為大數據采集、大數據預處理、大數據存儲及管理、大數據分析及挖掘等環(huán)節。

　　本文針對大數據的關(guān)鍵技術(shù)進(jìn)行梳理，以饗讀者。

　　Part 1.大數據采集

　　數據采集是大數據生命周期的第一個(gè)環(huán)節，它通過(guò)RFID射頻數據、傳感器數據、社交網(wǎng)絡(luò )數據、移動(dòng)互聯(lián)網(wǎng)數據等方式獲得各種類(lèi)型的結構化、半結構化及非結構化的海量數據。由于可能有成千上萬(wàn)的用戶(hù)同時(shí)進(jìn)行并發(fā)訪(fǎng)問(wèn)和操作，因此，必須采用專(zhuān)門(mén)針對大數據的采集方法，其主要包括以下三種：

　　A.數據庫采集

　　一些企業(yè)會(huì )使用傳統的關(guān)系型數據庫MySQL和Oracle等來(lái)存儲數據。談到比較多的工具有Sqoop和結構化數據庫間的ETL工具，當然當前對于開(kāi)源的Kettle和Talend本身也集成了大數據集成內容，可以實(shí)現和hdfs，hbase和主流Nosq數據庫之間的數據同步和集成。

　　B.網(wǎng)絡(luò )數據采集

　　網(wǎng)絡(luò )數據采集主要是借助網(wǎng)絡(luò )爬蟲(chóng)或網(wǎng)站公開(kāi)API等方式，從網(wǎng)站上獲取數據信息的過(guò)程。通過(guò)這種途徑可將網(wǎng)絡(luò )上非結構化數據、半結構化數據從網(wǎng)頁(yè)中提取出來(lái)，并以結構化的方式將其存儲為統一的本地數據文件。

　　C.文件采集

　　對于文件的采集，談的比較多的還是flume進(jìn)行實(shí)時(shí)的文件采集和處理，當然對于ELK（ElasTIcsearch、Logstash、Kibana三者的組合）雖然是處理日志，但是也有基于模板配置的完整增量實(shí)時(shí)文件采集實(shí)現。如果是僅僅是做日志的采集和分析，那么用ELK解決方案就完全夠用的。

　　Part 2.大數據預處理

　　數據的世界是龐大而復雜的，也會(huì )有殘缺的，有虛假的，有過(guò)時(shí)的。想要獲得高質(zhì)量的分析挖掘結果，就必須在數據準備階段提高數據的質(zhì)量。大數據預處理可以對采集到的原始數據進(jìn)行清洗、填補、平滑、合并、規格化以及檢查一致性等，將那些雜亂無(wú)章的數據轉化為相對單一且便于處理的構型，為后期的數據分析奠定基礎。數據預處理主要包括：數據清理、數據集成、數據轉換以及數據規約四大部分。

　　A.數據清理

　　數據清理主要包含遺漏值處理（缺少感興趣的屬性）、噪音數據處理（數據中存在著(zhù)錯誤、或偏離期望值的數據）、不一致數據處理。主要的清洗工具是ETL（ExtracTIon/TransformaTIon/Loading）和Potter’s Wheel。

　　遺漏數據可用全局常量、屬性均值、可能值填充或者直接忽略該數據等方法處理;噪音數據可用分箱（對原始數據進(jìn)行分組，然后對每一組內的數據進(jìn)行平滑處理）、聚類(lèi)、計算機人工檢查和回歸等方法去除噪音;對于不一致數據則可進(jìn)行手動(dòng)更正。

　　B.數據集成

　　數據集成是指將多個(gè)數據源中的數據合并存放到一個(gè)一致的數據存儲庫中。這一過(guò)程著(zhù)重要解決三個(gè)問(wèn)題：模式匹配、數據冗余、數據值沖突檢測與處理。

　　來(lái)自多個(gè)數據集合的數據會(huì )因為命名的差異導致對應的實(shí)體名稱(chēng)不同，通常涉及實(shí)體識別需要利用元數據來(lái)進(jìn)行區分，對來(lái)源不同的實(shí)體進(jìn)行匹配。數據冗余可能來(lái)源于數據屬性命名的不一致，在解決過(guò)程中對于數值屬性可以利用皮爾遜積矩Ra，b來(lái)衡量，絕對值越大表明兩者之間相關(guān)性越強。數據值沖突問(wèn)題，主要表現為來(lái)源不同的統一實(shí)體具有不同的數據值。

　　C.數據變換

　　數據轉換就是處理抽取上來(lái)的數據中存在的不一致的過(guò)程。數據轉換一般包括兩類(lèi)：

　　第一類(lèi)，數據名稱(chēng)及格式的統一，即數據粒度轉換、商務(wù)規則計算以及統一的命名、數據格式、計量單位等;第二類(lèi)，數據倉庫中存在源數據庫中可能不存在的數據，因此需要進(jìn)行字段的組合、分割或計算。數據轉換實(shí)際上還包含了數據清洗的工作，需要根據業(yè)務(wù)規則對異常數據進(jìn)行清洗，保證后續分析結果的準確性。

　　D. 數據規約

　　數據歸約是指在盡可能保持數據原貌的前提下，最大限度地精簡(jiǎn)數據量，主要包括：數據方聚集、維規約、數據壓縮、數值規約和概念分層等。數據規約技術(shù)可以用來(lái)得到數據集的規約表示，使得數據集變小，但同時(shí)仍然近于保持原數據的完整性。也就是說(shuō)，在規約后的數據集上進(jìn)行挖掘，依然能夠得到與使用原數據集近乎相同的分析結果。

　　Part 3.大數據存儲

　　大數據存儲與管理要用存儲器把采集到的數據存儲起來(lái)，建立相應的數據庫，以便管理和調用。大數據存儲技術(shù)路線(xiàn)最典型的共有三種：

　　A. MPP架構的新型數據庫集群

　　采用MPP架構的新型數據庫集群，重點(diǎn)面向行業(yè)大數據，采用Shared Nothing架構，通過(guò)列存儲、粗粒度索引等多項大數據處理技術(shù)，再結合MPP架構高效的分布式計算模式，完成對分析類(lèi)應用的支撐，運行環(huán)境多為低成本 PC Server，具有高性能和高擴展性的特點(diǎn)，在企業(yè)分析類(lèi)應用領(lǐng)域獲得極其廣泛的應用。這類(lèi)MPP產(chǎn)品可以有效支撐PB級別的結構化數據分析，這是傳統數據庫技術(shù)無(wú)法勝任的。對于企業(yè)新一代的數據倉庫和結構化數據分析，目前最佳選擇是MPP數據庫。

　　B. 基于Hadoop的技術(shù)擴展和封裝

　　基于Hadoop的技術(shù)擴展和封裝，圍繞Hadoop衍生出相關(guān)的大數據技術(shù)，應對傳統關(guān)系型數據庫較難處理的數據和場(chǎng)景，例如針對非結構化數據的存儲和計算等，充分利用Hadoop開(kāi)源的優(yōu)勢，伴隨相關(guān)技術(shù)的不斷進(jìn)步，其應用場(chǎng)景也將逐步擴大，目前最為典型的應用場(chǎng)景就是通過(guò)擴展和封裝 Hadoop來(lái)實(shí)現對互聯(lián)網(wǎng)大數據存儲、分析的支撐。這里面有幾十種NoSQL技術(shù)，也在進(jìn)一步的細分。對于非結構、半結構化數據處理、復雜的ETL流程、復雜的數據挖掘和計算模型，Hadoop平臺更擅長(cháng)。

　　C. 大數據一體機

　　這是一種專(zhuān)為大數據的分析處理而設計的軟、硬件結合的產(chǎn)品，由一組集成的服務(wù)器、存儲設備、操作系統、數據庫管理系統以及為數據查詢(xún)、處理、分析用途而預先安裝及優(yōu)化的軟件組成，高性能大數據一體機具有良好的穩定性和縱向擴展性。

　　Part 4.大數據分析挖掘

　　數據的分析與挖掘主要目的是把隱藏在一大批看來(lái)雜亂無(wú)章的數據中的信息集中起來(lái)，進(jìn)行萃取、提煉，以找出潛在有用的信息和所研究對象的內在規律的過(guò)程。主要從可視化分析、數據挖掘算法、預測性分析、語(yǔ)義引擎以及數據質(zhì)量和數據管理五大方面進(jìn)行著(zhù)重分析。

　　A. 可視化分析

　　數據可視化主要是借助于圖形化手段，清晰有效地傳達與溝通信息。主要應用于海量數據關(guān)聯(lián)分析，由于所涉及到的信息比較分散、數據結構有可能不統一，借助功能強大的可視化數據分析平臺，可輔助人工操作將數據進(jìn)行關(guān)聯(lián)分析，并做出完整的分析圖表，簡(jiǎn)單明了、清晰直觀(guān)，更易于接受。

　　B. 數據挖掘算法

　　數據挖掘算法是根據數據創(chuàng )建數據挖掘模型的一組試探法和計算。為了創(chuàng )建該模型，算法將首先分析用戶(hù)提供的數據，針對特定類(lèi)型的模式和趨勢進(jìn)行查找。并使用分析結果定義用于創(chuàng )建挖掘模型的最佳參數，將這些參數應用于整個(gè)數據集，以便提取可行模式和詳細統計信息。

　　大數據分析的理論核心就是數據挖掘算法，數據挖掘的算法多種多樣，不同的算法基于不同的數據類(lèi)型和格式會(huì )呈現出數據所具備的不同特點(diǎn)。各類(lèi)統計方法都能深入數據內部，挖掘出數據的價(jià)值。

　　C. 預測性分析

　　大數據分析最重要的應用領(lǐng)域之一就是預測性分析，預測性分析結合了多種高級分析功能，包括特別統計分析、預測建模、數據挖掘、文本分析、實(shí)體分析、優(yōu)化、實(shí)時(shí)評分、機器學(xué)習等，從而對未來(lái)，或其他不確定的事件進(jìn)行預測。

　　從紛繁的數據中挖掘出其特點(diǎn)，可以幫助我們了解目前狀況以及確定下一步的行動(dòng)方案，從依靠猜測進(jìn)行決策轉變?yōu)橐揽款A測進(jìn)行決策。它可幫助分析用戶(hù)的結構化和非結構化數據中的趨勢、模式和關(guān)系，運用這些指標來(lái)洞察預測將來(lái)事件，并作出相應的措施。

　　D. 語(yǔ)義引擎

　　語(yǔ)義引擎是是把已有的數據加上語(yǔ)義，可以把它想象成在現有結構化或者非結構化的數據庫上的一個(gè)語(yǔ)義疊加層。它語(yǔ)義技術(shù)最直接的應用，可以將人們從繁瑣的搜索條目中解放出來(lái)，讓用戶(hù)更快、更準確、更全面地獲得所需信息，提高用戶(hù)的互聯(lián)網(wǎng)體驗。

　　E. 數據質(zhì)量管理

　　是指對數據從計劃、獲取、存儲、共享、維護、應用、消亡生命周期的每個(gè)階段里可能引發(fā)的各類(lèi)數據質(zhì)量問(wèn)題，進(jìn)行識別、度量、監控、預警等一系列管理活動(dòng)，并通過(guò)改善和提高組織的管理水平使得數據質(zhì)量獲得進(jìn)一步提高。

　　對大數據進(jìn)行有效分析的前提是必須要保證數據的質(zhì)量，高質(zhì)量的數據和有效的數據管理無(wú)論是在學(xué)術(shù)研究還是在商業(yè)應用領(lǐng)域都極其重要，各個(gè)領(lǐng)域都需要保證分析結果的真實(shí)性和價(jià)值性。