信息論有狹義和廣義的區(qū)別。狹義的信息論是應(yīng)用數(shù)理統(tǒng)計(jì)方法來(lái)研究信息處理和信息傳遞的科學(xué)，它研究存在于通訊和控制系統(tǒng)中普遍存在著的信息傳遞的共同規(guī)體，以及如何提高各信息傳輸系統(tǒng)的有效性和可能性的一門(mén)通訊理論。
       信息論有狹義和廣義的區(qū)別。狹義的信息論是應(yīng)用數(shù)理統(tǒng)計(jì)方法來(lái)研究信息處理和信息傳遞的科學(xué)，它研究存在于通訊和控制系統(tǒng)中普遍存在著的信息傳遞的共同規(guī)體，以及如何提高各信息傳輸系統(tǒng)的有效性和可能性的一門(mén)通訊理論。狹義信息論是申農(nóng)氏于1948年創(chuàng)立的，其主要內(nèi)容就是研究信源、信宿、傳遞及編碼問(wèn)題，因此它主要應(yīng)用于通訊工作。后來(lái)信息論發(fā)展很快，將申農(nóng)氏信息論的觀點(diǎn)做為研究一切問(wèn)題的理論，即廣義信息論。信息論是建立在信息基礎(chǔ)上的理論，所謂信息，即人類(lèi)憑借感覺(jué)器官感知的周?chē)磺凶兓伎煞Q(chēng)作信息。
       實(shí)踐證明，世界上一切事物都在運(yùn)動(dòng)變化之中，在這種運(yùn)動(dòng)和變化之過(guò)程中，就會(huì)發(fā)出各種各樣的信息，內(nèi)部的變化可以反映到外部，外部的表現(xiàn)反映內(nèi)在的實(shí)質(zhì)；整體的變化可以反映于局部，局部的變化影響整體。人類(lèi)在世界上生存，就必須認(rèn)識(shí)信息、利用信息，否則就無(wú)法生存，例如預(yù)防和躲避自然災(zāi)害、發(fā)明創(chuàng)造工具、發(fā)展生產(chǎn)、科學(xué)試驗(yàn)等等，都是受某些信息的啟示。戰(zhàn)爭(zhēng)更離不開(kāi)信息，例如我國(guó)周代已利用烽火臺(tái)傳遞戰(zhàn)爭(zhēng)的信息。凡此種種，一言以蔽之，從有人類(lèi)的那一天開(kāi)始，人類(lèi)就生活在信息的海洋里，一時(shí)一刻也離不開(kāi)信息，而關(guān)鍵的問(wèn)題就是如何認(rèn)識(shí)信息，利用信息，以改變自己的生存條件、創(chuàng)造更好的生活環(huán)境。人類(lèi)正是根據(jù)世界環(huán)境的變化，由大腦作出調(diào)整自己行動(dòng)的方式，改變自己與自然界斗爭(zhēng)的策略，因此人類(lèi)始終著眼于信息，信息論的觀點(diǎn)就是把人作用于外界的行為歸納為信息和信息的反饋過(guò)程，人類(lèi)所以能夠保證正常的生活狀態(tài)，不斷地改善生活條件，就是人類(lèi)具有取得、使用、保持和傳遞信息的能力，這種認(rèn)識(shí)和利用信息的能力和其他問(wèn)題一樣，都是從簡(jiǎn)單到復(fù)雜，從表面到深入，不斷地向信息的深度和廣度進(jìn)軍。
       人類(lèi)有獲取信息的權(quán)力，但信息并不為人類(lèi)所獨(dú)享，其他生物也同樣有認(rèn)識(shí)和利用信息的本能，俗話(huà)說(shuō)“人有人言，獸有獸語(yǔ)”，就是這個(gè)意思。其他如某些動(dòng)物的保護(hù)色，獵取食物等等，都是認(rèn)識(shí)信息、利用信息的表現(xiàn)。植物也有自己的信息感，如生物鐘，實(shí)際上也是對(duì)信息的反映。因此可以說(shuō)，世界上一切生物無(wú)不與信息有關(guān)，所不同的，即人類(lèi)對(duì)信息的認(rèn)識(shí)和利用要比其他生物更廣泛、更深人，并引進(jìn)創(chuàng)造的航船，而其他生物僅僅為了生存面已。
       人類(lèi)需要信息，而且還要傳遞信息，語(yǔ)言的作用就是傳遞信息，也是最好的信息傳遞方法，但是語(yǔ)言因受距離的限制，超出聲音的可達(dá)范圍即失去傳遞的作用，又易受外界噪音的干擾，于是人類(lèi)又發(fā)明了文字，文字也是傳遞信息的一種方式，但亦有一定的局限性，因而人類(lèi)叉不斷地創(chuàng)造許許多多的信息傳遞方法。傳遞信息的目的是為了做出合理的決策，盡管人類(lèi)對(duì)信息的認(rèn)識(shí)、利用源遠(yuǎn)流長(zhǎng)，即信息反饋。但真正對(duì)信息理論的研究，僅僅只有半個(gè)多世紀(jì)的歷程，其突破點(diǎn)首先是從信息傳遞方法開(kāi)始的。1922年卡橙闡明了邊帶問(wèn)題理論，提出信號(hào)保護(hù)法則，即信號(hào)在調(diào)制（編碼）過(guò)程中頻譜展寬法制。可以說(shuō)是信息論的先導(dǎo)。
       1921年美國(guó)奈奎斯特和德國(guó)的開(kāi)夫曼爾證實(shí)了卡松的理論。1928年，哈特萊發(fā)表了《信息傳輸》，首先提出了消息是代碼、符號(hào)、序列，而不是內(nèi)容本身，這就排除了主觀的成分，實(shí)現(xiàn)了概念上的突破。他還第一次提出了信息量的概念，并企圖用數(shù)字公式加以描述，為信息的傳遞找到了理論根據(jù)，對(duì)于信息論的創(chuàng)立起到促進(jìn)作用。1938年美國(guó)人莫爾斯發(fā)明了高效率編碼電報(bào)法，人類(lèi)終于找到了比較先進(jìn)的遞訊工具。1940年二次大戰(zhàn)中，由于通訊在軍事上的重要意義，美國(guó)人申農(nóng)開(kāi)始從事信息論的研究。1945年波特發(fā)表了《聲音的可視圖形》。1947年他又與柯普等人著《可視語(yǔ)言》，為此信息論的創(chuàng)立條件日臻成熟。1948年申農(nóng)發(fā)表《通訊的數(shù)學(xué)理論》。從而宣告信息論的創(chuàng)立。申農(nóng)信息論的主要內(nèi)容是研究信源、信宿、信道及編碼問(wèn)題。戰(zhàn)后，由于通訊事業(yè)的需要和電子技術(shù)的飛速發(fā)展，促進(jìn)了信息論的進(jìn)一步發(fā)展，許多國(guó)家的學(xué)者對(duì)此進(jìn)行了大量的研究工作，并卓有成就。
       由于信息論的成就，給許多學(xué)科帶來(lái)了希望之光，人們?cè)噲D應(yīng)用信息的基本理論解決諸如組織化、語(yǔ)義化、聽(tīng)覺(jué)、神經(jīng)學(xué)、生理學(xué)、心理學(xué)中一些難以解決的問(wèn)題。1950年在英國(guó)倫敦召開(kāi)了信息論會(huì)議，收到論文20多篇，其中有6篇是關(guān)于信息論在心理學(xué)和神經(jīng)生理學(xué)的應(yīng)用。1951年美國(guó)無(wú)線(xiàn)電工程學(xué)會(huì)承認(rèn)了信息論這門(mén)新學(xué)科，建立了信息論學(xué)組。1955年在倫敦舉行的第三屆信息論會(huì)議上，已涉及到解剖學(xué)、動(dòng)物保健學(xué)、神經(jīng)生理學(xué)、神經(jīng)精神學(xué)、心理學(xué)。1956年申農(nóng)氏對(duì)信息論的發(fā)展前途說(shuō)：“對(duì)于像心理學(xué)、經(jīng)濟(jì)學(xué)等一些領(lǐng)域，信息論的許多概念會(huì)有用的。”
       50年代英國(guó)人E·C切爾利還對(duì)信息做了歷史性的考察，發(fā)表了《信息理論史》和《人類(lèi)遞訊》二文。50年代是信息論向各門(mén)科學(xué)沖擊的時(shí)期，法國(guó)旅美物理學(xué)家L．布里淵把信息學(xué)推廣到物理學(xué)領(lǐng)域，他發(fā)表的《生命-熱力學(xué)和控制論》認(rèn)為：“為了能把類(lèi)似的概念可靠地應(yīng)用于有關(guān)生命和智力的基本問(wèn)題上，除了舊的古典的物理熵概念外，還需要一些大膽的新的推廣和概括。”1956年他又出版了《科學(xué)與信息論》，力圖把信息與具體物理過(guò)程聯(lián)系起來(lái)，把信息熵與熱力學(xué)熵直接聯(lián)系起來(lái)，并提出“信息的負(fù)熵原理”，認(rèn)為信息與負(fù)熵等價(jià)。1979年卡克根據(jù)這一原理對(duì)人腎化學(xué)自穩(wěn)態(tài)功能的效率進(jìn)行探討，得出了較切實(shí)際的數(shù)值。
       60年代是在信息論已有的基礎(chǔ)上，進(jìn)行重大建設(shè)時(shí)期，研究的重點(diǎn)是信息和信源編碼問(wèn)題，這一時(shí)期把信息論推廣應(yīng)用于生物學(xué)，神經(jīng)生理方面的是美國(guó)的艾什比，他指出“信息論在本質(zhì)上是組合論的一個(gè)分支，它的本質(zhì)基本上是一種數(shù)數(shù)”。60年代人們把信息分成狹義信息論、一般信息論和廣義信息論三種。
       70年代由于數(shù)字計(jì)算機(jī)的廣泛應(yīng)用，通訊系統(tǒng)的能力也有很大提高，如何更有效地利用和處理信息，成為日益迫切的問(wèn)題，人們?cè)絹?lái)越認(rèn)識(shí)到信息的重要性。信息的概念和方法已廣泛滲透到各個(gè)科學(xué)領(lǐng)域，它迫切要求突破申農(nóng)信息論的狹隘范圍，以便推動(dòng)許多新興學(xué)科的進(jìn)一步發(fā)展。70年代在信息傳輸方面取得了新進(jìn)展，出現(xiàn)了幾類(lèi)新信況下的信源和信道編碼定理。伯格寫(xiě)了一本相當(dāng)完整的專(zhuān)論信源和編碼的書(shū)。在語(yǔ)義問(wèn)題和有效性方面，1971年高艾斯等提出“有效信息概念”。1978年經(jīng)復(fù)爾馬等人的修正可加性基礎(chǔ)上，推廣為非可加性的“廣義有效信息”。還有卡爾納普等提出的“語(yǔ)義信息”、哥廷格爾的“無(wú)概率信息”、杰馬里的“相對(duì)信息”等等。1965年查德提出模糊數(shù)學(xué)后，有人在模糊集合論基礎(chǔ)上建立起“熵”和信息的概念，進(jìn)一步試圖建立“模糊信息論”，還有人根據(jù)計(jì)算機(jī)中的信息問(wèn)題，設(shè)想建立“算法信息論”。在自然科學(xué)和哲學(xué)界，有人把信息作為基本的參量來(lái)研究，他們認(rèn)為形式、結(jié)構(gòu)，關(guān)系及類(lèi)似的東西，比物質(zhì)和能量更為基本些，而這些差異結(jié)構(gòu)和關(guān)系正是用信息來(lái)表征的。
       總之，近十年來(lái)的進(jìn)展，已遠(yuǎn)遠(yuǎn)突破了申農(nóng)信息論的范圍，正如意大剝學(xué)者朗高在1975年發(fā)表的《信息論、新方向和未解決的問(wèn)題》一文中指出的那樣：“曾被申農(nóng)在他的貢獻(xiàn)中所審慎排除的東西，現(xiàn)在又被包含了進(jìn)來(lái)”。目前人們已將信息論廣泛應(yīng)用于物理、化學(xué)、生物學(xué)、心理學(xué)、管理學(xué)等學(xué)科，一門(mén)研究信息的科學(xué)正在形成。