a级毛片在线观看,精品久久久久久亚洲精品,人人妻人人澡人人爽欧美一区九九 ,国产午夜视频在线观看

Web Design
Mobile Internet
Brand Design
Innovative
News
Encyclopedias

大數據的挖掘“大”在哪里?

Date:2017-12-11 Aource:曾劍平 Type:網站百科
Word Size:small  medium  big

  以前我們談論數據挖掘,而大數據時代我們談論大數據挖掘。那么大數據挖掘“大”在哪里? 本文對此進行了一些歸納,希望能提供一些思考問題的方法。
不足之處請留言發表意見。
 
一、數據量的大
       數據量大到多少? 這是一個很多人在進行大數據挖掘時要問的問題。
從一些實際應用看,一般每天處理的數據量達到T、P級別的,可以考慮部署Hadoop、Spark之類的大數據處理平臺,一定量級的數據處理才能突顯這些平臺的優越性。
      數據量少,數據的讀取、搬遷所花費的時間占比太多,反而無法體現大數據處理平臺的優勢。不少應用只是為了大數據而大數據,幾百M也弄個Hadoop。因此,現在一談大數據就認為是Hadoop、Spark等平臺是很有局限性的。
      當然,實際在決定是否使用大數據平臺時,可能需要考慮更多的因素,例如:要集成很多的低性能機器、異構軟硬件平臺間的可移植性、大量的非結構化數據處理等。
 
二、數據類型的多樣化
      在數據挖掘時代,我們挖掘的數據主要以關系型數據為主。大數據時代,各種應用產生了各種數據,通常在大數據挖掘中會涉及到多種數據類型。這里所說的數據類型不是程序設計中的普通數據類型,而是更接近于應用的數據表現形式,通常有時間序列數據、軌跡數據、圖數據、文本數據等等。
      每天的銷售記錄、價格是普通數據類型,但是從時間維度將它們按照順序連接起來,構成的時間序列數據能體現出價格的變化規律,理所當然具有更豐富的含義。
       每個人所處的位置不過是一個(x,y)的普通數據類型,但是按照移動的先后順序把位置連接起來,就構成了某人的活動軌跡,背后體現的是他的生活、習慣,這些隱藏信息才是大數據應當關注的。
       微博或論壇中每個人是獨立存在的,也是普通數據,但是如果把每個人按照粉絲、關注等關系連接起來,就可以構成一張很大的圖,即圖數據。圖中的人群、離群,以及加上群體偏好、群體運動等屬性后的高等圖數據,就是大數據挖掘的關注點。
 
三、數據處理的噪音
      在數據挖掘時代,數據來源于關系型數據庫,都是一些與業務相關、質量比較高的數據,一般拿來就可以直接挖。大數據挖掘肯定就不是這樣,大數據思維決定了我們要考慮不同來源的數據的質量、數據結構魚龍混雜,以增強數據處理的魯棒性。比如,要進行企業級的客戶分析,不同的分公司可能使用不同的客戶管理系統,有的系統采用本科/碩士/博士來區分客戶的學歷,而有的采用本科/研究生來區分,這就要求考慮數據的一致性處理。此外,數據格式、數據完整性等等都是大數據挖掘需要考慮的。
 
四、數據挖掘的多樣化
      在數據挖掘時代,一般側重于單項的數據分析,而大數據挖據可能會更側重于多項數據挖掘任務同時存在,如業務上同時要求分類、預測、相關性、聚類等。盡管業務需求多了,但是這些分類、預測、相關性、聚類可能在底層上采用的是同一種模型,因此,在大數據挖據時考慮模型、算法與業務的分離是非常重要的,即所謂的大數據處理層次結構。
 
?

Please contact our consultant

+86 10-60259772

Please provide your contact number. The project manager of shangpin China will contact you as soon as possible.