中國IDC 圈11月18日報道:在時下的流行語中,很難找出一個比“大數(shù)據(jù)”
創(chuàng)新互聯(lián)建站于2013年創(chuàng)立,是專業(yè)互聯(lián)網(wǎng)技術服務公司,擁有項目成都做網(wǎng)站、網(wǎng)站設計網(wǎng)站策劃,項目實施與項目整合能力。我們以讓每一個夢想脫穎而出為使命,1280元臺前做網(wǎng)站,已為上家服務,為臺前各地企業(yè)和個人服務,聯(lián)系電話:13518219792更吸引眼球的術語了。1980年,阿爾文?托夫勒在《第三次浪潮》中預言了信息時代的到來會帶來數(shù)據(jù)爆發(fā),約翰?梅西在1998年的美國高等計算機系統(tǒng)協(xié)會大會上首次提出“大數(shù)據(jù)(big data)”一詞。什么是大數(shù)據(jù)?這一概念目前尚未形成統(tǒng)一的定義。幾種代表性的觀點如下:麥肯錫認為“大數(shù)據(jù)是指無法在一定時間內(nèi)用傳統(tǒng)數(shù)據(jù)庫軟件工具對其內(nèi)容進行抓取、管理和處理的數(shù)據(jù)集合”。
維基百科認為“大數(shù)據(jù)是指無法在一定時間內(nèi)用常規(guī)軟件工具對其內(nèi)容進行抓取、管理和處理的數(shù)據(jù)集”;全球最具權威的 IT 研究與顧問咨詢公司——高德納公司認為“大數(shù)據(jù)是需要新處理模式才能具有更強的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長率和多樣化的信息資產(chǎn)”。
大數(shù)據(jù)時代已經(jīng)來臨,它將在眾多領域掀起變革的巨浪,這是勿庸置疑的事實,在以云計算為代表的技術創(chuàng)新大幕的襯托下,這些原本很難收集和使用的數(shù)據(jù)開始容易被利用起來了,通過各行各業(yè)的不斷創(chuàng)新,大數(shù)據(jù)會逐步為人類創(chuàng)造更多的價值,而對于電網(wǎng)企業(yè)來說,大數(shù)據(jù)的應用同樣會促進企業(yè)的跨越發(fā)展。
大數(shù)據(jù)的本質(zhì)是事物的時域、空域記錄,并非事物的描述數(shù)據(jù)
對于大數(shù)據(jù)的特點,IT界通常用Volume(大量)、Velocity(高速)、Variety(多樣)、Value (價值)這4 個 V來概括。Volume,指數(shù)據(jù)體量巨大,從TB級別躍升到PB乃至EB級別;Variety ,指數(shù)據(jù)類型繁多。除了傳統(tǒng)的結(jié)構化數(shù)據(jù),大量非結(jié)構化、半結(jié)構化數(shù)據(jù)如網(wǎng)絡日志、音頻、視頻、圖片等;Value ,指價值密度低,但大數(shù)據(jù)分析的價值高。價值密度的高低與數(shù)據(jù)總量的大小成反比,以視頻為例,一部一小時的視頻,在連續(xù)不間斷監(jiān)控過程中,可能有用的數(shù)據(jù)僅僅只有一兩秒;Velocity,指變化速度快。大數(shù)據(jù)不僅量大,而且變化快,大數(shù)據(jù)的應用依賴于對數(shù)據(jù)的快速處理。但在筆者看來,對大數(shù)據(jù)作4V特點的概括是現(xiàn)象而非本質(zhì)總結(jié)。
其實人類文明就是大數(shù)據(jù)的記錄與應用積累,當今社會進入了信息時代,信息化的本質(zhì)是用 IT 技術和方法描述世界,描述事物的內(nèi)在本質(zhì)、過程規(guī)律和業(yè)務規(guī)則,信息化的應用過程就是在描述好事物的軟件系統(tǒng)中實現(xiàn)人工和 /或機器記錄,大數(shù)據(jù)的本質(zhì)是事物的時域、空域記錄,并非事物的描述數(shù)據(jù),大數(shù)據(jù)成為熱門是因為信息化、互聯(lián)網(wǎng)、終端的普及和應用讓我們進入了一個機器自動記錄的時代,爆炸性增長的記錄數(shù)據(jù)使傳統(tǒng)的人工、單機 /單節(jié)點的機器處理能力無法完成記錄的分析、挖掘,由此催生了云計算和大數(shù)據(jù)概念并推動人工智能的工程應用,機器學習等人工智能技術就是機器處理大數(shù)據(jù)及大數(shù)據(jù)應用高級模式。
大數(shù)據(jù)應用的本質(zhì)是推導規(guī)律、預知未來,并非簡單的統(tǒng)計分析
在信息化時代以前,人類就有典型的大數(shù)據(jù)應用,如視覺美學總結(jié)的黃金分割(0.618 ),社會學中的在特定時空范圍內(nèi)存在的“二八”理論。大數(shù)據(jù)應用的本質(zhì)是推導規(guī)律、預知未來,并非簡單的統(tǒng)計分析。在信息化時代,大數(shù)據(jù)極大依賴信息化及其應用,開展大數(shù)據(jù)分析也必須應用信息化方法與手段,符合信息化業(yè)務驅(qū)動、目標導向等原則,沒有目標的大數(shù)據(jù)平臺建設或掛大數(shù)據(jù)“羊頭”
不利于信息化建設和大數(shù)據(jù)應用。
而互聯(lián)網(wǎng)大數(shù)據(jù)與企業(yè)大數(shù)據(jù)是有區(qū)別的,互聯(lián)網(wǎng)本質(zhì)是跨區(qū)域的信息化網(wǎng)絡基礎設施,其大量的內(nèi)容服務和居于互聯(lián)網(wǎng)社交軟件并不存在描述事物的過程即沒有對象模型,人們應用互聯(lián)網(wǎng)留下了應用記錄(大量的非結(jié)構化數(shù)據(jù)),分析這些大數(shù)據(jù)記錄的前提是重新構建記錄的對象,對記錄標識特征。企業(yè)信息化一般經(jīng)過業(yè)務標準化和業(yè)務流程梳理過程,所以企業(yè)的大數(shù)據(jù)是存在對象描述,但企業(yè)應用的困難是我們建設的系統(tǒng)在對象描述上不統(tǒng)一、對象上的記錄不完整。
所以互聯(lián)網(wǎng)大數(shù)據(jù)與企業(yè)大數(shù)據(jù)應用盡管原理與方法一致,但分析工作的重點是有區(qū)別的。互聯(lián)網(wǎng)公司在開展大數(shù)據(jù)分析的工具、技術方法不完全適用于企業(yè),更不能把互聯(lián)網(wǎng)大數(shù)據(jù)的平臺建設當做企業(yè)大數(shù)據(jù)應用工作的全部。
區(qū)別好對象模型數(shù)據(jù)與記錄數(shù)據(jù)是大數(shù)據(jù)分析的基礎,盡管描述事物對象的數(shù)據(jù)也可以達到 PB 級,如人類的基因圖譜、地球大氣層流動模型、電網(wǎng)的網(wǎng)絡結(jié)構模型等,這些數(shù)據(jù)不是大數(shù)據(jù),在這些對象模型上構建軟件并記錄的業(yè)務變化是大數(shù)據(jù)。所以在大數(shù)據(jù)應用方面存在兩類數(shù)據(jù)的預處理,一類是模型數(shù)據(jù)預處理,另一類是記錄數(shù)據(jù)預處理。模型層面的預處理本質(zhì)是信息化建設方案的科學性、合理性。記錄的完整性很大程度上也是取決于信息化方案,同時也取決于信息系統(tǒng)的應用過程。一旦軟件上線,再作數(shù)據(jù)治理來解決模型之間的不一致性或?qū)τ涗浀亩?ldquo;模型化”加工是一種方法論上的誤導,正確的方法應該是依據(jù)企業(yè)架構和行業(yè)解決方案完善信息化架構,實現(xiàn)企業(yè)信息化架構規(guī)范和引導下的信息系統(tǒng)建設和應用,在企業(yè)層面統(tǒng)籌企業(yè)模型、統(tǒng)籌系統(tǒng)結(jié)構和功能界面、統(tǒng)一業(yè)務系統(tǒng)應用規(guī)范。企業(yè)的數(shù)據(jù)治理必須在建設方案中完成,系統(tǒng)建成系統(tǒng)后的數(shù)據(jù)治理是無效的,當然在系統(tǒng)運行過程中數(shù)據(jù)庫的技術數(shù)據(jù)治理是必須的。
大數(shù)據(jù)應用在電網(wǎng)領域大有可為
在電網(wǎng)企業(yè)中,電量數(shù)據(jù)是一組典型的大數(shù)據(jù)。客戶和客戶的電表臺賬是電量數(shù)據(jù)的宿主對象,采集系統(tǒng)中對客戶和電表臺賬進行建模,各用戶電表的時序記錄就是電量大數(shù)據(jù)。下面結(jié)合國網(wǎng)江蘇電力開展的負荷預測大數(shù)據(jù)應用簡述大數(shù)據(jù)應用方法。
首先是數(shù)據(jù)預處理。對象模型的預處理,依托營配調(diào)一體化,建立客戶和電表臺賬與電網(wǎng)供電邏輯關系,構建電網(wǎng)各電壓層級直至各臺區(qū)到用戶的關聯(lián)模型;記錄數(shù)據(jù)的預處理,對電量記錄電度值進行年度節(jié)假日除權回原,去除電量的節(jié)假日因素,去除記錄奇點和內(nèi)插補全個別記錄缺點等。
其次是分行業(yè)回歸建立日電量與氣溫、濕度等因素用電模型,依據(jù)實時運行方式累計各臺區(qū)日電量、日負荷,完成各區(qū)域、各電壓等級的電量和負荷預測模型的構建,并構建模型機器學習,保持模型的時效性。
最后,由大數(shù)據(jù)平臺給預測模型導入實時氣溫與前一時段的電量和負荷,實現(xiàn)短期、超短期的全網(wǎng)負荷預測。同樣原理,關聯(lián)宏觀GDP 與電量指數(shù),結(jié)合業(yè)擴包裝量變化,實現(xiàn)中長期負荷預測。
2015年,江蘇電網(wǎng)以全樣本的用戶每日實時采集用電數(shù)據(jù),結(jié)合十多年用電、業(yè)擴、氣象等歷史數(shù)據(jù),建立起涵蓋全省各地區(qū)、分行業(yè)以及25萬專變用戶和40萬臺公用變壓器的包括溫度、濕度、節(jié)假日、周末等要素的多維度用電影響模型,模型包含的數(shù)據(jù)關聯(lián)關系超過110 億項,開展負荷中長期、短期、超短期預測工作,有效指導了生產(chǎn)工作。
此外,電量大數(shù)據(jù)的應用在行業(yè)內(nèi)外還有大量的可應用價值,如從用電設備節(jié)能潛力分析全社會節(jié)能潛力、大用戶用電特征分析行業(yè)產(chǎn)能利用情況、居民用戶家庭活動特征等,大數(shù)據(jù)應用在電網(wǎng)領域大有可為。
新聞標題:大數(shù)據(jù)的是與不是
文章轉(zhuǎn)載:http://www.rwnh.cn/article16/sododg.html
成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供做網(wǎng)站、網(wǎng)站設計、網(wǎng)站改版、網(wǎng)站維護、App設計、營銷型網(wǎng)站建設
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)