认知计算概论
? ? ? 前段時間的“人機大戰(zhàn)”——谷歌的Alpha Go戰(zhàn)勝人類棋手的新聞甚囂塵上，不禁有人會想起1997年IBM自主研發(fā)的深藍戰(zhàn)勝卡斯帕羅夫的事件。“人工智能”這個詞再次被推上風(fēng)口浪尖，而“認(rèn)知計算”卻鮮有人聽說，同樣是人類模擬機器思索，讓機器具有自主思考能力，都是具有跨時代意義和里程碑式的存在。
? ? ? 認(rèn)知計算更加強調(diào)機器或人造大腦如何能夠主動學(xué)習(xí)、推理、感知這個世界，并與人類、環(huán)境進行交互的反應(yīng)。它會根據(jù)環(huán)境的變化做出動態(tài)的反應(yīng)，所以認(rèn)知更加強調(diào)它的動態(tài)性、自適應(yīng)性、魯棒性、交互性。
? ? ? 計算機在體系架構(gòu)上的發(fā)展歷史主要體現(xiàn)在兩個方面：
- 計算能力的增強
- 計算規(guī)模的增大
? ? ?隨著計算機計算能力的大幅增強，具備了處理海量數(shù)據(jù)的能力；另一方面，日常生活中所產(chǎn)生的數(shù)據(jù)規(guī)模日益擴大，所擁有的數(shù)據(jù)源驅(qū)動了深層次分析的需求；同時大數(shù)據(jù)、云計算技術(shù)的不斷完善，都促進了對數(shù)據(jù)進行深度挖掘，提取數(shù)據(jù)的特征，利用特征讓機器具有自主學(xué)習(xí)與思考的能力。
? ? ?按照計算方式的不同，可以分為三個計算時代：
- 1990s~1940s ?打卡階段（The Tabulating Era） ? ? ? 機械式
- 1950s~現(xiàn)在 ? ? 編程階段（The Programming Era） ? 自主輸入
- 2011~將來 ? ? ?認(rèn)知計算階段（The Cognitive Era） ? ?自動思考
? ? ?“大腦”項目：Think & Learn
- 2006 ? ? IBM ? ? ? ?Watson ? ? ?利用自然語言分析，讓機器自動推理事件與回答問題；涵蓋醫(yī)療、數(shù)據(jù)分析、“危險游戲”等。
- 2011 ? ? Google ? ?谷歌大腦 ? ? 通過神經(jīng)網(wǎng)絡(luò)，能夠讓更多的用戶擁有完美的、沒有錯誤的使用體驗；谷歌無人駕駛汽車、谷歌眼鏡等。
- 2012 ? ? Baidu ? ? ?百度大腦 ? ? 融合深度學(xué)習(xí)算法、數(shù)據(jù)建模、大規(guī)模GPU并行化平臺等技術(shù)，構(gòu)造起深度神經(jīng)網(wǎng)絡(luò)。
一、認(rèn)知計算的概念：
- 人工，以人為主導(dǎo)；認(rèn)知，機器對事物與外界的理解，交互的能力
- 編程能力；學(xué)習(xí)與推理的能力
- 確定性結(jié)果；概率性結(jié)果
- 人并未參與；人、機器、環(huán)境之間的交互
- 圖靈測試或仿造人測量；實際應(yīng)用中的測試
? ? ?2. ?認(rèn)知計算所涉及的技術(shù)領(lǐng)域：
- 神經(jīng)科學(xué)：機器模擬人腦神經(jīng)元的思考過程；
- 超計算：超級快速計算和處理能力；
- 納米技術(shù)：芯片、系統(tǒng)等底層架構(gòu)設(shè)計。
? ? ?
? ? ?3. 認(rèn)知計算系統(tǒng)的組成：
? ? ?需要一個能夠理解、學(xué)習(xí)、推理的“大腦”，一個物物相連的外部環(huán)境，大腦與環(huán)境之間互相感知與交互。
? ? ?
? ? 4. ?認(rèn)知計算的應(yīng)用：
- 典型系統(tǒng)特征：大規(guī)模、復(fù)雜、人與外界交互、大量非結(jié)構(gòu)化數(shù)據(jù)、輸出結(jié)果不定的系統(tǒng)；
- 生命科學(xué)領(lǐng)域：醫(yī)療、保險；
- 社會機構(gòu)領(lǐng)域：金融銀行、政府、能源、教育、商業(yè)、交通等。
? ?5. ?案例：Watson-歷史上第一個認(rèn)知系統(tǒng)
- 自然語言處理
- 問答技術(shù)
- 高性能計算
- 知識的表達和推理
- 機器學(xué)習(xí)
- 非結(jié)構(gòu)化信息管理
? ?6. ?認(rèn)知系統(tǒng)的五個核心功能：
- 創(chuàng)造更深的人工參與
- 測量和提升專業(yè)知識
- 認(rèn)知融入產(chǎn)品和服務(wù)
- 實現(xiàn)認(rèn)知過程和操作
- 加強探索和發(fā)現(xiàn)
? ?7. ?認(rèn)知計算系統(tǒng)的挑戰(zhàn)與要求：
? ?
? ?8. ?認(rèn)知計算系統(tǒng)的架構(gòu)：
- 底層架構(gòu)：芯片設(shè)計（GPU、FPGA、ASIC、POWER8）
- 基礎(chǔ)設(shè)施：云環(huán)境、超級計算節(jié)點
- 組織構(gòu)架：caffe、Theano、Torch等
- 庫文件：數(shù)據(jù)庫、工具、包等
- 應(yīng)用層：信息采集的有效性、人機交互界面、搜索引擎等
?二、人工智能的概述：
? ? ?人的大腦科學(xué)&計算機科學(xué)——>可視化、心理學(xué)、神經(jīng)元組成、深度學(xué)習(xí)
? ? 1. 人工智能發(fā)展過程：
? ? ?
? ? ?重要的時間節(jié)點與人物：
- 1950-1956：兩個重要的人物，諾伯特·維納（控制論）和克勞德·艾爾伍德·香農(nóng)（信息論）將事物從更高的層次進行抽象，奠定了AI堅實的理論基礎(chǔ)；
- 1950：圖靈，提出了圖靈測試的基本測試方法；
- 1956：達特茅斯會議第一次正式提出AI的概念；
- 1956-1974：AI得到極大發(fā)展，提出了許多新的理論，包括自然語言處理、reasoning as search、micro-worlds等；
- 1974-1980：由于發(fā)展迅速所帶來的副作用日益凸顯，關(guān)于機器代替人類的社會、倫理等問題、投資人看不到長期受益問題等導(dǎo)致其發(fā)展陷入低谷；
- 1980-1987：在日本的第五代項目提出，結(jié)合AI來發(fā)展現(xiàn)代工業(yè)生產(chǎn)，又給AI界打了一針強心劑（專家系統(tǒng)）；
- 1987-1993：計算機的高速發(fā)展，給傳統(tǒng)硬件組成的研究系統(tǒng)帶來巨大挑戰(zhàn)，更多的人將注意力放在計算能力更強、價格更為便宜的普通計算機上；
- 1995：Sparse coding，將計算機科學(xué)理論與生物神經(jīng)科學(xué)理論相結(jié)合；
- 2006：Deep Learning，含多隱層的多層感知器的深度學(xué)習(xí)結(jié)構(gòu)；
- 2007：GPU CUDA，CPU與GPU并用的“協(xié)同處理”發(fā)展的統(tǒng)一計算設(shè)備架構(gòu)；
- 2011：Google Brain，谷歌在人工智能領(lǐng)域開發(fā)出的一款模擬人腦的軟件。
? ? 2. 機器學(xué)習(xí)的概述：
? ? ?
? ? ?機器學(xué)習(xí)兩種傳統(tǒng)分類：
- 監(jiān)督學(xué)習(xí)：已知label來對事物進行分類；
- 無監(jiān)督學(xué)習(xí)：未知label來學(xué)習(xí)事物特征。
? ? ?應(yīng)用領(lǐng)域：圖像識別、計算機視覺、語音識別、生物監(jiān)控、機器人控制、經(jīng)驗科學(xué)、智能醫(yī)療等。
? ? ?機器學(xué)習(xí)的流程圖（有監(jiān)督學(xué)習(xí)）：
? ? ?
? ? ?分類算法（Classification）：
- 支持向量機（SVM）
- 神經(jīng)網(wǎng)絡(luò)（Neural Network）
- 樸素貝葉斯（Naiive Bayes）
- 貝葉斯網(wǎng)絡(luò)（Bayesian network）
- 邏輯回歸（Logistic regression）
- 隨機森林（Randomized Forests）
- 決策樹（Boosted Decision Trees）
- k近鄰（K-nearest neighbor）
- RBMs
? ? ?聚類算法（Clustering）：
- K-means
- 合并聚類（agglomerative clustering）
- 均值漂移聚類（mean shift clustering）
- 譜聚類（spectral clustering）
? ? 泛化問題（Generalization）：過擬合、欠擬合
? ? ?
? ? 3. 深度學(xué)習(xí)的概述：
? ? ?
? ? ? 深度學(xué)習(xí)是機器學(xué)習(xí)的一個分支，通過利用多層處理的復(fù)雜結(jié)構(gòu)，基于一系列的算法來建立高維抽象的模型。其動機在于建立、模擬人腦進行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，它模仿人腦的機制來解釋數(shù)據(jù)，例如圖像，聲音和文本。深度學(xué)習(xí)的概念由Hinton等人于2006年提出。基于深度置信網(wǎng)絡(luò)(DBN)提出非監(jiān)督貪心逐層訓(xùn)練算法，為解決深層結(jié)構(gòu)相關(guān)的優(yōu)化難題帶來希望，隨后提出多層自動編碼器深層結(jié)構(gòu)。此外Lecun等人提出的卷積神經(jīng)網(wǎng)絡(luò)（CNN）是第一個真正多層結(jié)構(gòu)學(xué)習(xí)算法，它利用空間相對關(guān)系減少參數(shù)數(shù)目以提高訓(xùn)練性能。
? ? ?典型的深度學(xué)習(xí)：卷積神經(jīng)網(wǎng)絡(luò)CNN
? ? ?
? ? ?實驗已經(jīng)證明，CNN在圖像和語音處理中能夠取得比傳統(tǒng)方法更好的識別效果，也產(chǎn)生了許多著名的深度學(xué)習(xí)網(wǎng)絡(luò)VGG-Net、AlexNet等。
? ? ?VGG-Net與AlexNet的對比分析：
? ??
| 深度學(xué)習(xí)網(wǎng)絡(luò) | AlexNet | VGG-Net |
| 產(chǎn)生背景 | 2012年，deep learning的大牛教授 Geoffrey Hinton的學(xué)生Alex Krizhevsky設(shè)計了一個8層的CNN，并把它用于ImageNet的image classification，直接把當(dāng)時最好算法的錯誤率差不多減半。 | Andrew Zisserman 教授的組 (Oxford)，VGG-Net 在2014年的 ILSVRC localization and classification 兩個問題上分別取得了第一名和第二名。 |
| 結(jié)構(gòu)層次 | 總共有8層，由5層 convolutional layer，2層 fully connected layer，和最后一層 label layer (1000個node, 每個node代表ImageNet中的一個類別) 組成。 | VGG-Net使用更多的層，通常有16－19層，所有 convolutional layer 使用同樣大小的 convolutional filter。 |
| 結(jié)構(gòu)示意 | ? ? | ? |
| 特征描述 | 中間層描述了圖片的局部特征，全連接層表示了圖像的全局特征。 | |
? ? ? ? 業(yè)界牛人：
? ? ? ? ?
? ? ? ? ?
? ? ? ? ?
? ? ? ? ?
? ? ? ? ?開發(fā)架構(gòu)：
? ? ? ? ?
? ? ? ? ?機器學(xué)習(xí)的常用庫和數(shù)據(jù)集：
? ? ? ??
? ? ? ?
? ? ? ?
? ? ? ?
?
轉(zhuǎn)載于:https://www.cnblogs.com/wallacup/p/5994772.html
總結(jié)
- 上一篇： JMicroVision教程-应用于测井
- 下一篇： IDEA java编译中出现了Excep