很可惜 T 。T 您現(xiàn)在還不是作者身份,不能自主發(fā)稿哦~
如有投稿需求,請把文章發(fā)送到郵箱tougao@appcpx.com,一經(jīng)錄用會有專人和您聯(lián)系
咨詢?nèi)绾纬蔀榇河鹱髡哒埪?lián)系:鳥哥筆記小羽毛(ngbjxym)
數(shù)據(jù)幾乎總是用于兩種目的:操作型記錄的保存和分析型決策的制定。簡單來說,操作型系統(tǒng)保存數(shù)據(jù),分型型系統(tǒng)使用數(shù)據(jù)。前者一般僅反映數(shù)據(jù)的最新狀態(tài),按單條記錄事務(wù)性來處理;其優(yōu)化的核心是更快地處理事務(wù)。后者往往是反映數(shù)據(jù)一段時間的狀態(tài)變化,按大批量方式處理數(shù)據(jù);其核心是高性能、多維度處理數(shù)據(jù)。通常我們將操作型系統(tǒng)簡稱為OLTP(On-Line Transaction Processing)— 聯(lián)機事務(wù)處理,將分析型系統(tǒng)簡稱為OLAP(On-Line Analytical Processing)— 聯(lián)機分析處理。
針對這兩種不同的數(shù)據(jù)用途,如何組織數(shù)據(jù),更好地滿足數(shù)據(jù)使用需求。這里就涉及到數(shù)據(jù)建模問題。即設(shè)計一種數(shù)據(jù)組織方式(模型),來滿足不同場景。在OLTP場景中,常用的是使用實體關(guān)系模型(ER)來存儲,從而在事務(wù)處理中解決數(shù)據(jù)的冗余和一致性問題。在OLAP場景中,有多種建模方式有:ER模型、星型模型和多維模型。下面分別說明下:
ER模型OLAP中的ER模型,與OLTP中的有所區(qū)別。其本質(zhì)差異是站在企業(yè)角度面向主題的抽象,而不是針對某個具體業(yè)務(wù)流程的實體對象關(guān)系的抽象。
星型模型星型模型,是維度模型在關(guān)系型數(shù)據(jù)庫上的一種實現(xiàn)。該模型表示每個業(yè)務(wù)過程包含事實表,事實表存儲事件的數(shù)值化度量,圍繞事實表的多個維度表,維度表包含事件發(fā)生時實際存在的文本環(huán)境。這種類似于星狀的結(jié)構(gòu)通常稱為'星型連接'。其重點關(guān)注用戶如何更快速地完成需求分析,同時具有較好的大規(guī)模復(fù)雜查詢的響應(yīng)性能。在星型模型基礎(chǔ)上,在復(fù)雜場景下還可以進一步衍生出雪花模型。
多維模型多維模型,是維度模型的另一種實現(xiàn)。當數(shù)據(jù)被加載到OLAP多維數(shù)據(jù)庫時,對這些數(shù)據(jù)的存儲的索引,采用了為維度數(shù)據(jù)涉及的格式和技術(shù)。性能聚集或預(yù)計算匯總表通常由多維數(shù)據(jù)庫引擎建立并管理。由于采用預(yù)計算、索引策略和其他優(yōu)化方法,多維數(shù)據(jù)庫可實現(xiàn)高性能查詢。
在這三種方式中,星型模型使用較多,下面也著重對這種方式進行說明。
在建模過程中,涉及到很多概念。下面通過一個場景來,來說明它們。例如:常見的電商下單環(huán)節(jié),每個用戶提交一筆訂單(僅限一個物品),就對應(yīng)于一條訂單記錄。
【業(yè)務(wù)過程】:下訂單
【粒度】:每筆訂單(拆分為單個物品)
【維度】:地域、年齡、渠道等(可供分析的角度)
【事實/度量】:訂單金額等(可用于分析的數(shù)據(jù))
收集業(yè)務(wù)需求與數(shù)據(jù)實現(xiàn)
在開始維度建模工作之前,需要理解業(yè)務(wù)需求,以及作為底層源數(shù)據(jù)的實際情況。通過與業(yè)務(wù)方溝通交流、查看現(xiàn)有報表等來發(fā)現(xiàn)需求,用于理解他們的基于關(guān)鍵性能指標、競爭性商業(yè)問題、決策制定過程、支持分析需求的目標。同時,數(shù)據(jù)實際情況可通過與數(shù)據(jù)庫系統(tǒng)專家交流,了解訪問數(shù)據(jù)可行性等。
選擇業(yè)務(wù)過程
業(yè)務(wù)過程是組織完成的操作型活動。業(yè)務(wù)過程時間建立或獲取性能度量,并轉(zhuǎn)換為事實表中的事實。多數(shù)事實表關(guān)注某一業(yè)務(wù)過程的結(jié)果。過程的選擇非常重要的,因為過程定義了特定的設(shè)計目標以及對粒度、維度、事實的定義。
聲明粒度
聲明粒度是維度設(shè)計的重要步驟。粒度用于確定某一事實表中的行表示什么。在選擇維度或事實前必須聲明粒度,因為每個候選維度或事實必須與定義的粒度保持一致。在從給定的業(yè)務(wù)過程獲取數(shù)據(jù)時,原子粒度是最低級別的粒度。強烈建議從關(guān)注原子級別粒度數(shù)據(jù)開始設(shè)計,因為原子粒度數(shù)據(jù)能夠承受無法預(yù)期的用戶查詢。
確認維度(描述環(huán)境)
維度提供圍繞某一業(yè)務(wù)過程事件所涉及的'誰、什么、何處、何時、為什么、如何'等背景。維度表包含分析應(yīng)用所需要的用于過濾及分類事實的描述性屬性。牢牢掌握事實表的粒度,就能夠?qū)⑺锌赡艽嬖诘木S度區(qū)分開來。
確認事實(用于度量)
事實,涉及來自業(yè)務(wù)過程事件的度量,基本上都是以數(shù)據(jù)值表示。一個事實表行與按照事實表粒度描述的度量事件之間存在一對一關(guān)系,因此事實表對應(yīng)一個物理可觀察的事件。在事實表內(nèi),所有事實只允許與聲明的粒度保持一致。
部署方式 - 星型模型或多維模型
選擇一種維度模型的落地方式。既可以選擇星型模型,部署在關(guān)系數(shù)據(jù)庫上,通過事實表及通過主外鍵關(guān)聯(lián)的維度表;也可以選擇多維模型,落地于多維數(shù)據(jù)庫中。
以維度建模為理論基礎(chǔ),定義一系列術(shù)語來描述建模對象。下圖摘自于《阿里巴巴大數(shù)據(jù)實踐之路》。
數(shù)據(jù)域
指面向業(yè)務(wù)分析,將業(yè)務(wù)過程或者維度進行抽象的集合。在劃分數(shù)據(jù)域時,既能涵蓋當前所有的業(yè)務(wù)需求,又能在新業(yè)務(wù)進入時無影響地被包含進已有的數(shù)據(jù)域中和擴展新的數(shù)據(jù)域。
業(yè)務(wù)過程
指企業(yè)的業(yè)務(wù)活動事件,如下單、支付、退款都是業(yè)務(wù)過程。請注意,業(yè)務(wù)過程是一個不可拆分的行為事件,通俗地講,業(yè)務(wù)過程就是企業(yè)活動中的事件。
時間周期
用來明確數(shù)據(jù)統(tǒng)計的時間范圍或者時間點,如最近30天、自然周、截至當日等。
修飾類型
是對修飾詞的一種抽象劃分,是從屬于某個業(yè)務(wù)域的。
修飾詞
指除了統(tǒng)計維度以外指標的業(yè)務(wù)場景限定抽象。修飾詞隸屬于一種修飾類型。
度量/原子指標
原子指標和度量含義相同,基于某一業(yè)務(wù)事件行為下的度量,是業(yè)務(wù)定義中不可再拆分的指標,具有明確業(yè)務(wù)含義的名詞,如支付金額。
維度
維度是度量的環(huán)境,用來反映業(yè)務(wù)的一類屬性,這類屬性的集合構(gòu)成一個維度,也可以稱為實體對象。維度屬于一個數(shù)據(jù)域,如地理維度(其中包擠國家、地區(qū)、省以及城市等級別的內(nèi)容)、時間維度(其中包括年、季、月、周、日等級別的內(nèi)容)。
維度屬性
維度屬性隸屬于一個維度,如地理維度里面的國家名稱、國家ID、省份名稱等都屬于維度屬性。
派生指標
派生指標=一個原子指標+多個修飾詞(可選)+時間周期??梢岳斫鉃閷υ又笜藰I(yè)務(wù)統(tǒng)計范圍的圈定。
維度是維度建模的基礎(chǔ)和靈魂。在維度建模中,將度量稱為'事實',將環(huán)境描述為'維度',維度是用于分析事實所需要的多樣環(huán)境。維度所包含的表示維度的列,稱為維度屬性。維度屬性是查詢約束條件、分組和報表標簽生成的基本來源,是數(shù)據(jù)易用性的關(guān)鍵。維度的作用一般是查詢約束、分類匯總以及排序等。維度的設(shè)計過程就是確定維度屬性的過程,如何生成維度屬性,以及所生成的維度屬性的優(yōu)劣,決定了維度使用的方便性,成為數(shù)據(jù)倉庫易用性的關(guān)鍵。正如Kimball所說的,數(shù)據(jù)倉庫的能力直接與維度屬性的質(zhì)量和深度成正比。
在整個設(shè)計過程中,應(yīng)當遵循下面一些原則:
維度屬性盡量豐富,為數(shù)據(jù)使用打下基礎(chǔ)。
給出詳實的、富有意義的文字描述。
沉淀通用維度屬性,為建立一致性維度做好鋪墊。
嚴格區(qū)分事實與維度,通過使用場景進行區(qū)分。
事實表作為數(shù)據(jù)倉庫維度建模的核心,緊緊圍繞著業(yè)務(wù)過程來設(shè)計,通過獲取描述業(yè)務(wù)過程的度量來表達業(yè)務(wù)過程,包含了引用的維度和與業(yè)務(wù)過程有關(guān)的度量。在設(shè)計過程中,可以選擇不同類型的事實表,它們有各自的適用場景。
在整個設(shè)計過程中,應(yīng)當遵循下面一些原則:
選擇一種適合的事實表類型。
事實盡可能完整,包含整個業(yè)務(wù)過程的全部事實。
確保每一個事實度量都是一致性,反復(fù)計算都會得到相同的結(jié)果。盡量記錄一些“原子”事實,而不是加工后的結(jié)果。
可適當做些”維度退化屬性”,提高事實表的查詢性能。
為提高聚合性能,可適度做些上卷匯聚事實表。
本文為作者獨立觀點,不代表鳥哥筆記立場,未經(jīng)允許不得轉(zhuǎn)載。
《鳥哥筆記版權(quán)及免責申明》 如對文章、圖片、字體等版權(quán)有疑問,請點擊 反饋舉報
我們致力于提供一個高質(zhì)量內(nèi)容的交流平臺。為落實國家互聯(lián)網(wǎng)信息辦公室“依法管網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)”的要求,為完善跟帖評論自律管理,為了保護用戶創(chuàng)造的內(nèi)容、維護開放、真實、專業(yè)的平臺氛圍,我們團隊將依據(jù)本公約中的條款對注冊用戶和發(fā)布在本平臺的內(nèi)容進行管理。平臺鼓勵用戶創(chuàng)作、發(fā)布優(yōu)質(zhì)內(nèi)容,同時也將采取必要措施管理違法、侵權(quán)或有其他不良影響的網(wǎng)絡(luò)信息。
一、根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《中華人民共和國未成年人保護法》等法律法規(guī),對以下違法、不良信息或存在危害的行為進行處理。
1. 違反法律法規(guī)的信息,主要表現(xiàn)為:
1)反對憲法所確定的基本原則;
2)危害國家安全,泄露國家秘密,顛覆國家政權(quán),破壞國家統(tǒng)一,損害國家榮譽和利益;
3)侮辱、濫用英烈形象,歪曲、丑化、褻瀆、否定英雄烈士事跡和精神,以侮辱、誹謗或者其他方式侵害英雄烈士的姓名、肖像、名譽、榮譽;
4)宣揚恐怖主義、極端主義或者煽動實施恐怖活動、極端主義活動;
5)煽動民族仇恨、民族歧視,破壞民族團結(jié);
6)破壞國家宗教政策,宣揚邪教和封建迷信;
7)散布謠言,擾亂社會秩序,破壞社會穩(wěn)定;
8)宣揚淫穢、色情、賭博、暴力、兇殺、恐怖或者教唆犯罪;
9)煽動非法集會、結(jié)社、游行、示威、聚眾擾亂社會秩序;
10)侮辱或者誹謗他人,侵害他人名譽、隱私和其他合法權(quán)益;
11)通過網(wǎng)絡(luò)以文字、圖片、音視頻等形式,對未成年人實施侮辱、誹謗、威脅或者惡意損害未成年人形象進行網(wǎng)絡(luò)欺凌的;
12)危害未成年人身心健康的;
13)含有法律、行政法規(guī)禁止的其他內(nèi)容;
2. 不友善:不尊重用戶及其所貢獻內(nèi)容的信息或行為。主要表現(xiàn)為:
1)輕蔑:貶低、輕視他人及其勞動成果;
2)誹謗:捏造、散布虛假事實,損害他人名譽;
3)嘲諷:以比喻、夸張、侮辱性的手法對他人或其行為進行揭露或描述,以此來激怒他人;
4)挑釁:以不友好的方式激怒他人,意圖使對方對自己的言論作出回應(yīng),蓄意制造事端;
5)羞辱:貶低他人的能力、行為、生理或身份特征,讓對方難堪;
6)謾罵:以不文明的語言對他人進行負面評價;
7)歧視:煽動人群歧視、地域歧視等,針對他人的民族、種族、宗教、性取向、性別、年齡、地域、生理特征等身份或者歸類的攻擊;
8)威脅:許諾以不良的后果來迫使他人服從自己的意志;
3. 發(fā)布垃圾廣告信息:以推廣曝光為目的,發(fā)布影響用戶體驗、擾亂本網(wǎng)站秩序的內(nèi)容,或進行相關(guān)行為。主要表現(xiàn)為:
1)多次發(fā)布包含售賣產(chǎn)品、提供服務(wù)、宣傳推廣內(nèi)容的垃圾廣告。包括但不限于以下幾種形式:
2)單個帳號多次發(fā)布包含垃圾廣告的內(nèi)容;
3)多個廣告帳號互相配合發(fā)布、傳播包含垃圾廣告的內(nèi)容;
4)多次發(fā)布包含欺騙性外鏈的內(nèi)容,如未注明的淘寶客鏈接、跳轉(zhuǎn)網(wǎng)站等,誘騙用戶點擊鏈接
5)發(fā)布大量包含推廣鏈接、產(chǎn)品、品牌等內(nèi)容獲取搜索引擎中的不正當曝光;
6)購買或出售帳號之間虛假地互動,發(fā)布干擾網(wǎng)站秩序的推廣內(nèi)容及相關(guān)交易。
7)發(fā)布包含欺騙性的惡意營銷內(nèi)容,如通過偽造經(jīng)歷、冒充他人等方式進行惡意營銷;
8)使用特殊符號、圖片等方式規(guī)避垃圾廣告內(nèi)容審核的廣告內(nèi)容。
4. 色情低俗信息,主要表現(xiàn)為:
1)包含自己或他人性經(jīng)驗的細節(jié)描述或露骨的感受描述;
2)涉及色情段子、兩性笑話的低俗內(nèi)容;
3)配圖、頭圖中包含庸俗或挑逗性圖片的內(nèi)容;
4)帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想;
5)展現(xiàn)血腥、驚悚、殘忍等致人身心不適;
6)炒作緋聞、丑聞、劣跡等;
7)宣揚低俗、庸俗、媚俗內(nèi)容。
5. 不實信息,主要表現(xiàn)為:
1)可能存在事實性錯誤或者造謠等內(nèi)容;
2)存在事實夸大、偽造虛假經(jīng)歷等誤導(dǎo)他人的內(nèi)容;
3)偽造身份、冒充他人,通過頭像、用戶名等個人信息暗示自己具有特定身份,或與特定機構(gòu)或個人存在關(guān)聯(lián)。
6. 傳播封建迷信,主要表現(xiàn)為:
1)找人算命、測字、占卜、解夢、化解厄運、使用迷信方式治??;
2)求推薦算命看相大師;
3)針對具體風水等問題進行求助或咨詢;
4)問自己或他人的八字、六爻、星盤、手相、面相、五行缺失,包括通過占卜方法問婚姻、前程、運勢,東西寵物丟了能不能找回、取名改名等;
7. 文章標題黨,主要表現(xiàn)為:
1)以各種夸張、獵奇、不合常理的表現(xiàn)手法等行為來誘導(dǎo)用戶;
2)內(nèi)容與標題之間存在嚴重不實或者原意扭曲;
3)使用夸張標題,內(nèi)容與標題嚴重不符的。
8.「飯圈」亂象行為,主要表現(xiàn)為:
1)誘導(dǎo)未成年人應(yīng)援集資、高額消費、投票打榜
2)粉絲互撕謾罵、拉踩引戰(zhàn)、造謠攻擊、人肉搜索、侵犯隱私
3)鼓動「飯圈」粉絲攀比炫富、奢靡享樂等行為
4)以號召粉絲、雇用網(wǎng)絡(luò)水軍、「養(yǎng)號」形式刷量控評等行為
5)通過「蹭熱點」、制造話題等形式干擾輿論,影響傳播秩序
9. 其他危害行為或內(nèi)容,主要表現(xiàn)為:
1)可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好影響未成年人身心健康的;
2)不當評述自然災(zāi)害、重大事故等災(zāi)難的;
3)美化、粉飾侵略戰(zhàn)爭行為的;
4)法律、行政法規(guī)禁止,或可能對網(wǎng)絡(luò)生態(tài)造成不良影響的其他內(nèi)容。
二、違規(guī)處罰
本網(wǎng)站通過主動發(fā)現(xiàn)和接受用戶舉報兩種方式收集違規(guī)行為信息。所有有意的降低內(nèi)容質(zhì)量、傷害平臺氛圍及欺凌未成年人或危害未成年人身心健康的行為都是不能容忍的。
當一個用戶發(fā)布違規(guī)內(nèi)容時,本網(wǎng)站將依據(jù)相關(guān)用戶違規(guī)情節(jié)嚴重程度,對帳號進行禁言 1 天、7 天、15 天直至永久禁言或封停賬號的處罰。當涉及欺凌未成年人、危害未成年人身心健康、通過作弊手段注冊、使用帳號,或者濫用多個帳號發(fā)布違規(guī)內(nèi)容時,本網(wǎng)站將加重處罰。
三、申訴
隨著平臺管理經(jīng)驗的不斷豐富,本網(wǎng)站出于維護本網(wǎng)站氛圍和秩序的目的,將不斷完善本公約。
如果本網(wǎng)站用戶對本網(wǎng)站基于本公約規(guī)定做出的處理有異議,可以通過「建議反饋」功能向本網(wǎng)站進行反饋。
(規(guī)則的最終解釋權(quán)歸屬本網(wǎng)站所有)