聚类技术---复杂网络社团检测_数据挖掘的技术有很多种,常用的数据挖掘技术就这13种...
數(shù)據(jù)挖掘就是從大量的、不完全的、有噪聲的、模糊的、隨機的數(shù)據(jù)中,提取隱含在其中的、人們事先不知道的但又是潛在有用的信息和知識的過程。數(shù)據(jù)挖掘的任務是從數(shù)據(jù)集中發(fā)現(xiàn)模式,可以發(fā)現(xiàn)的模式有很多種,按功能可以分為兩大類:預測性(Predictive)模式和描述性(Descriptive)模式。在應用中往往根據(jù)模式的實際作用細分為以下幾種:分類,估值,預測,相關性分析,序列,時間序列,描述和可視化等。
數(shù)據(jù)挖掘涉及的學科領域和技術很多,有多種分類法。根據(jù)挖掘任務分,可分為分類或預測模型發(fā)現(xiàn)、數(shù)據(jù)總結、聚類、關聯(lián)規(guī)則發(fā)現(xiàn)、序列模式發(fā)現(xiàn)、依賴關系或依賴模型發(fā)現(xiàn)、異常和趨勢發(fā)現(xiàn)等等;根據(jù)挖掘對象分,有關系數(shù)據(jù)庫、面向對象數(shù)據(jù)庫、空間數(shù)據(jù)庫、時態(tài)數(shù)據(jù)庫、文本數(shù)據(jù)源、多媒體數(shù)據(jù)庫、異質數(shù)據(jù)庫、遺產數(shù)據(jù)庫以及環(huán)球網Web;根據(jù)挖掘方法分,可粗分為:機器學習方法、統(tǒng)計方法、神經網絡方法和數(shù)據(jù)庫方法。機器學習中,可細分為:歸納學習方法(決策樹、規(guī)則歸納等)、基于范例學習、遺傳算法等。統(tǒng)計方法中,可細分為:回歸分析(多元回歸、自回歸等)、判別分析(貝葉斯判別、費歇爾判別、非參數(shù)判別等)、聚類分析(系統(tǒng)聚類、動態(tài)聚類等)、探索性分析(主元分析法、相關分析法等)等。神經網絡方法中,可細分為:前向神經網絡(BP算法等)、自組織神經網絡(自組織特征映射、競爭學習等)等。數(shù)據(jù)庫方法主要是多維數(shù)據(jù)分析或OLAP方法,另外還有面向屬性的歸納方法等等。
數(shù)據(jù)挖掘的技術有很多種,按照不同的分類有不同的分類法。下面著重討論一下數(shù)據(jù)挖掘中常用的一些技術:統(tǒng)計技術,關聯(lián)規(guī)則,基于歷史的分析,遺傳算法,聚集檢測,連接分析,決策樹,神經網絡,粗糙集,模糊集,回歸分析,差別分析,概念描述等十三種常用的數(shù)據(jù)挖掘的技術。
1、統(tǒng)計技術
數(shù)據(jù)挖掘涉及的科學領域和技術很多,如統(tǒng)計技術。統(tǒng)計技術對數(shù)據(jù)集進行挖掘的主要思想是:統(tǒng)計的方法對給定的數(shù)據(jù)集合假設了一個分布或者概率模型(例如一個正態(tài)分布)然后根據(jù)模型采用相應的方法來進行挖掘。
2、關聯(lián)規(guī)則
數(shù)據(jù)關聯(lián)是數(shù)據(jù)庫中存在的一類重要的可被發(fā)現(xiàn)的知識。若兩個或多個變量的取值之I司存在某種規(guī)律性,就稱為關聯(lián)。關聯(lián)可分為簡單關聯(lián)、時序關聯(lián)、因果關聯(lián)。關聯(lián)分析的目的是找出數(shù)據(jù)庫中隱藏的關聯(lián)網。有時并不知道數(shù)據(jù)庫中數(shù)據(jù)的關聯(lián)函數(shù),即使知道也是不確定的,因此關聯(lián)分析生成的規(guī)則帶有可信度。
3、基于歷史的MBR(Memory-based Reasoning)分析
先根據(jù)經驗知識尋找相似的情況,然后將這些情況的信息應用于當前的例子中。這個就是MBR(Memory Based Reasoning)的本質。MBR首先尋找和新記錄相似的鄰居,然后利用這些鄰居對新數(shù)據(jù)進行分類和估值。使用MBR有三個主要問題,尋找確定的歷史數(shù)據(jù);決定表示歷史數(shù)據(jù)的最有效的方法;決定距離函數(shù)、聯(lián)合函數(shù)和鄰居的數(shù)量。
4、遺傳算法GA(Genetic Algorithms)
基于進化理論,并采用遺傳結合、遺傳變異、以及自然選擇等設計方法的優(yōu)化技術。主要思想是:根據(jù)適者生存的原則,形成由當前群體中最適合的規(guī)則組成新的群體,以及這些規(guī)則的后代。典型情況下,規(guī)則的適合度(Fitness)用它對訓練樣本集的分類準確率評估。
5、聚集檢測
將物理或抽象對象的集合分組成為由類似的對象組成的多個類的過程被稱為聚類。由聚類所生成的簇是一組數(shù)據(jù)對象的集合,這些對象與同一個簇中的對象彼此相似,與其它簇中的對象相異。相異度是根據(jù)描述對象的屬眭值來計算的,距離是經常采用的度量方式。
6、連接分析
連接分析,Link analysis,它的基本理論是圖論。圖論的思想是尋找一個可以得出好結果但不是完美結果的算法,而不是去尋找完美的解的算法。連接分析就是運用了這樣的思想:不完美的結果如果是可行的,那么這樣的分析就是一個好的分析。利用連接分析,可以從一些用戶的行為中分析出一些模式;同時將產生的概念應用于更廣的用戶群體中。
7、決策樹
決策樹提供了一種展示類似在什么條件下會得到什么值這類規(guī)則的方法。
8、神經網絡
在結構上,可以把一個神經網絡劃分為輸入層、輸出層和隱含層。輸入層的每個節(jié)點對應—個個的預測變量。輸出層的節(jié)點對應目標變量,可有多個。在輸入層和輸出層之間是隱含層(對神經網絡使用者來說不可見),隱含層的層數(shù)和每層節(jié)點的個數(shù)決定了神經網絡的復雜度。
除了輸入層的節(jié)點,神經網絡的每個節(jié)點都與很多它前面的節(jié)點(稱為此節(jié)點的輸入節(jié)點)連接在一起,每個連接對應一個權重Wxy,此節(jié)點的值就是通過它所有輸入節(jié)點的值與對應連接權重乘積的和作為—個函數(shù)的輸入而得到,我們把這個函數(shù)稱為活動函數(shù)或擠壓函數(shù)。
9、粗糙集
粗糙集理論基于給定訓練數(shù)據(jù)內部的等價類的建立。形成等價類的所有數(shù)據(jù)樣本是不加區(qū)分的,即對于描述數(shù)據(jù)的屬性,這些樣本是等價的。給定現(xiàn)實世界數(shù)據(jù),通常有些類不能被可用的屬性區(qū)分。粗糙集就是用來近似或粗略地定義這種類。
10、模糊集
模糊集理論將模糊邏輯引入數(shù)據(jù)挖掘分類系統(tǒng),允許定義“模糊”域值或邊界。模糊邏輯使用0.0和1.0之間的真值表示一個特定的值是一個給定成員的程度,而不是用類或集合的精確截斷。模糊邏輯提供了在高抽象層處理的便利。
11、回歸分析
回歸分析分為線性回歸、多元回歸和非線性同歸。在線性回歸中,數(shù)據(jù)用直線建模,多元回歸是線性回歸的擴展,涉及多個預測變量。非線性回歸是在基本線性模型上添加多項式項形成非線性同門模型。
12、差別分析
差別分析的目的是試圖發(fā)現(xiàn)數(shù)據(jù)中的異常情況,如噪音數(shù)據(jù),欺詐數(shù)據(jù)等異常數(shù)據(jù),從而獲得有用信息。
13、概念描述
概念描述就是對某類對象的內涵進行描述,并概括這類對象的有關特征。概念描述分為特征性描述和區(qū)別性描述,前者描述某類對象的共同特征,后者描述不同類對象之間的區(qū)別,生成一個類的特征性描述只涉及該類對象中所有對象的共性。
由于人們急切需要將存在于數(shù)據(jù)庫和其他信息庫中的數(shù)據(jù)轉化為有用的知識,因而數(shù)據(jù)挖掘被認為是一門新興的、非常重要的、具有廣闊應用前景和富有挑戰(zhàn)性的研究領域,并應起了眾多學科(如數(shù)據(jù)庫、人工智能、統(tǒng)計學、數(shù)據(jù)倉庫、在線分析處理、專家系統(tǒng)、數(shù)據(jù)可視化、機器學習、信息檢索、神經網絡、模式識別、高性能計算機等)研究者的廣泛注意。
作為一門新興的學科,數(shù)據(jù)挖掘是由上述學科相互交叉、相互融合而形成的。隨著數(shù)據(jù)挖掘的進一步發(fā)展,它必然會帶給用戶更大的利益。
在不久的將來,多智時代一定會徹底走入我們的生活,有興趣入行未來前沿產業(yè)的朋友,可以收藏多智時代,及時獲取人工智能、大數(shù)據(jù)、云計算和物聯(lián)網的前沿資訊和基礎知識,讓我們一起攜手,引領人工智能的未來。
關于Smartbi Mining企業(yè)數(shù)據(jù)挖掘平臺
思邁特企業(yè)數(shù)據(jù)挖掘平臺(Smartbi Mining)是用于預測性分析的獨立產品,旨在為企業(yè)所做的決策提供預測性智能。該平臺不僅可為用戶提供直觀的流式建模、拖拽式操作和流程化、可視化的建模界面,還提供了大量的數(shù)據(jù)預處理操作。此外,它內置了多種實用的、經典的機器學習算法,這些算法配置簡單降低了機器學習的使用門檻,大大節(jié)省了企業(yè)成本,并支持標準的PMML模型輸出,可以將模型發(fā)送到Smartbi統(tǒng)一平臺,與商業(yè)智能平臺實現(xiàn)了完美整合。
Smartbi Mining數(shù)據(jù)挖掘平臺支持多種高效實用的機器學習算法,包含了分類、回歸、聚類、預測、關聯(lián),5大類機器學習的成熟算法。其中包含了多種可訓練的模型:邏輯回歸、決策樹、隨機森林、樸素貝葉斯、支持向量機、線性回歸、K均值、DBSCAN、高斯混合模型。除提供主要算法和建模功能外,Smartbi Mining數(shù)據(jù)挖掘平臺還提供了必不可少的數(shù)據(jù)預處理功能,包括字段拆分、行過濾與映射、列選擇、隨機采樣、過濾空值、合并列、合并行、JOIN、行選擇、去除重復值、排序、增加序列號、增加計算字段等。
(文章內容來源與網絡,如有疑侵權聯(lián)系刪除!)
總結
以上是生活随笔為你收集整理的聚类技术---复杂网络社团检测_数据挖掘的技术有很多种,常用的数据挖掘技术就这13种...的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: bootstrap3 徽章_【可预留】不
- 下一篇: cron 每小时_旺季招聘:高薪小时工!