標? 題: 追憶信息論之父－香農博士

2001年2月24日，在步入新世紀僅僅2個月之后，當代最偉大的數學家和貝爾實驗室最杰出

的科學家之一，香農（Claude Elwood Shannon）博士在與疾病頑強搏斗了5年之后不幸與

世長辭，享年84歲。

香農博士于1916年4月30日出生在美國密執安州的Petoskey；1936年畢業于密執安大學獲數

學和電子工程學士學位；1940年獲得麻省理工學院數學博士學位和電子工程碩士學位。

?

從1941年起，他加入了貝爾實驗室數學部，與當時貝爾實驗室的許多著名科學家們一起工

作了十五年，他們當中有現代數字信號處理理論及實踐的創始人和先驅者Nyguist和Hammi

ng博士。1956年之后，香農博士雖然被聘為著名的麻省理工學院的教授，但一直與貝爾實

驗室保持著密切聯系。

1948年6月和10月，由貝爾實驗室出版的科技界著名雜志“貝爾系統技術（Bell System T

ech）”連載了香農博士的文章———“通訊的數學原理”（A mathematica lTheory of

Communication）”，從而奠定了信息基本理論的基礎。在這篇文章中，他首先嚴格定義了

信息的位———“熵”（音同商）的概念。在此基礎上，他又定義了信道容量的概念，并

給出在不同噪音情況下無失真通信的極限傳輸速率。這些貢獻對今天的通信工業具有革命

性的影響。

下面，我們將通過簡單的例子說明這兩個現代通信中最基本的概念和原理。“熵”的概念

起源于熱力學，是度量分子不規則熱運動的單位。香農的偉大貢獻在于，利用概率分布的

理論給出“熵”的嚴格定義。根據香農的定義，確定發生的事件如“太陽從東邊升起”與

確定不發生的事件如“太陽從西邊升起”，其熵都是零。

下面用一個簡單的游戲來說明這個概念及其應用。設有甲、乙兩人玩猜謎游戲，甲先想好

一個人或物的名字，寫在紙上，藏于盒中。乙問甲有關紙上內容的一系列問題，例如“

是人還是物？”、“是男人還是女人？”、“是不是張三？”……甲僅回答是或否。乙試

圖用最少數目的提問就猜出甲所寫的人或物的名稱。現在的問題是，乙如何最為有效地設

計他（她）的提問？根據熵的概念，問題所分割的事物應該盡量有相同的概率，也就是說

，答案為“是”和“否”的概率應盡量相同，這樣乙才能獲得最大的信息量。然后，乙方

再根據對方的答案，設計新的問題，逐步縮小搜索范圍。所以說，我們上面列舉的前兩個

提問都是比較好的，而第三個提問（“是不是張三？”）就不是提問開始時應該問的問題

。在熵的基礎上定義的信道容量也是通訊中一個至關重要的概念。由此，香農推出了一個

公式，明確表達了在不同噪聲情況下傳輸速率與失真的定量關系。從這一個公式導出的為

達到無失真通訊的傳輸速率的極限，現已稱為香農極限。打個比方來說，在周圍干擾嚴重

的情況下，要想使對方聽清楚，你就只有慢慢地講，甚至還要不斷重復。

如今，這兩個原理現在已廣泛應用于信息處理和實際通信中。由于熵表達了事物所含的信

息量，我們不可能用少于熵的比特數來確切表達這一事物。所以這一概念已成為所有無損

壓縮的標準和極限。

與很多偉人一樣，香農有著極其廣泛的愛好。他是最早致力于研究電動老鼠鉆迷宮和自動

下象棋機器的科學家。正如他自己所說的：“我總是奇怪事物是怎樣拼在一起的？”正是

這種好奇心驅使他不斷地思考和創新。他非常幸運地在年僅25歲時就被當時的貝爾實驗室

數學部主任T．L．Fry看中，從而在這個世界一流的學術環境里成長，這是他成功 的一個

關鍵。另一方面，貝爾實驗室秉承了從古希臘亞里士多德的學院派到中世紀文藝復興時代

西方現代文明的傳統，不斷為科學家們創造著開放式的兼容并包的自由學術氣氛，這也是

香農得以做出這一劃時代貢獻的重要原因。

兩年以前，貝爾實驗室已開始塑造香農博士的塑像。他的塑像將與電話的發明人貝爾的塑

像一起聳立在貝爾實驗室大廳入口處供人瞻仰。他的事跡已經載入貝爾實驗室的展覽廳中

，和數十名貝爾實驗室所培養的世界一流大科學家們的事跡一起供人學習。他們之中有

十一名諾貝爾獎獲得者，包括兩名華人諾貝爾獎獲得者崔琦和朱棣文。也有各種國際工商

界大獎的獲得者，包括UNIX操作系統和C語言的發明者。展覽中囊括了貝爾實驗室在各個時

期的重要發明，如第一臺傳真機、按鍵電話、數字調制解調器、蜂窩電話、通信衛星、高

速無線數據系統、太陽能電池、電荷耦合器件、數字信號處理器、單芯片、激光器和光纖

、光放大器、密集波分復用系統、首次長途電視傳輸、高清晰度電視。在如此眾多的發明

之中，展覽會突出的信息時代的兩項最重要發明就是晶體管和信息論，而香農博士正是信

息論之父。

1998年，在香農還在世但已患老年癡呆癥的情況下，國際電子工程師學會（IEEE）舉行了

隆重的大會以紀念他的理論發表五十周年。來自世界各地的數百名頂尖科學家們對他表示

了深深的敬意。和世界各地一樣，中國的科研工作者也很早就注意到香農的工作。北京大

學的江澤培教授在五十年代就翻譯了有關香農理論的小冊子；南開大學的胡國定教授更是

身體力行地建立了中國信息論的研究中心。

貝爾實驗室正因為擁有諸多象香農這樣的偉大科學家而享譽世界。盡管，朗訊科技與其他

高科技公司一樣在發展過程中經歷著起伏，但對于其創新機構———貝爾實驗室研究部—

——的支持和保護卻始終不變。正是這種支持使貝爾實驗室能夠為科研人員提供一個穩定

健康的研究環境，為培養像香農這樣的科學家奠定了基礎。目前，貝爾實驗室已在世界多

個國家設立了研究機構，它的中國研究院在成立不到一年的時間里，已經和中國廣大科研

工作者建立了良好的合作關系，并在自身的研究領域中取得了可喜的進展。貝爾實驗室基

礎科學研究院（中國）將謹守其對于中國的承諾，繼續履行其在中國的使命。研究院與中
國科技教育界的合作不變；研究院在科研資金上的投入將比去年同期有大幅度增長；研究

院的規模及涉及的研究領域也將不斷擴展。

在中國，從孔夫子的教育思想，春秋時代的百家爭鳴，到五四運動時期科學與民主的精神

，以及北京大學蔡元培先生所提倡的兼容并包的辦學方針，都有很多優秀的思想值得
借鑒。我們在深切懷念香農博士的同時，也祝愿貝爾實驗室在中國的研究機構能結合古今

中外的優秀學術思想，持續地發展，不斷地壯大，成為世界一流的研究機構

--

※ 來源:．一網深情 http://bbs.uestc.edu.cn??

<script type="text/javascript"> google_ad_client = "pub-2416224910262877"; google_ad_width = 728; google_ad_height = 90; google_ad_format = "728x90_as"; google_ad_channel = ""; google_color_border = "E1771E"; google_color_bg = "FFFFFF"; google_color_link = "0000FF"; google_color_text = "000000"; google_color_url = "008000"; </script><script type="text/javascript" src="http://pagead2.googlesyndication.com/pagead/show_ads.js"> </script>

總結

以上是生活随笔為你收集整理的追忆信息论之父－香农博士的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。