人工智能大一選修課論文

　　深度學(xué)習(xí)(Deep Learning)作為一種基于人工神經(jīng)網(wǎng)絡(luò)的無(wú)監(jiān)督學(xué)習(xí)方法，是近年來(lái)興起的一種新的混合機(jī)器學(xué)習(xí)模型，現(xiàn)成為人工智能領(lǐng)域中炙手可熱的研究技術(shù)。以下是學(xué)習(xí)啦小編整理的人工智能大一選修課論文的相關(guān)資料，歡迎閱讀!

　　人工智能大一選修課論文篇一

　　【摘 要】深度學(xué)習(xí)(Deep Learning)作為一種基于人工神經(jīng)網(wǎng)絡(luò)的無(wú)監(jiān)督學(xué)習(xí)方法，是近年來(lái)興起的一種新的混合機(jī)器學(xué)習(xí)模型，現(xiàn)成為人工智能領(lǐng)域中炙手可熱的研究技術(shù)。深度學(xué)習(xí)帶來(lái)了機(jī)器學(xué)習(xí)的一個(gè)新浪潮，受到學(xué)術(shù)界和工業(yè)界的廣泛重視，并帶來(lái)大數(shù)據(jù)的深度學(xué)習(xí)時(shí)代。本文結(jié)合大數(shù)據(jù)時(shí)代的具體需求，詳細(xì)闡述了深度學(xué)習(xí)的發(fā)展和應(yīng)用，突出了其在人工智能領(lǐng)域的重要地位。

　　【關(guān)鍵詞】人工智能;深度學(xué)習(xí);大數(shù)據(jù)時(shí)代;機(jī)器學(xué)習(xí)

　　1.引言

　　近年來(lái)，深度學(xué)習(xí)逐步推動(dòng)了人工智能領(lǐng)域的新浪潮。2010年，美國(guó)國(guó)防部DARPA計(jì)劃首次資助深度學(xué)習(xí)項(xiàng)目;2011年來(lái)，微軟和Google研究人員先后采用深度學(xué)習(xí)技術(shù)降低語(yǔ)音識(shí)別錯(cuò)誤率20%～30%，取得該領(lǐng)域重大突破;2013年百度創(chuàng)始人兼CEO李彥宏高調(diào)宣布成立百度研究院，其第一個(gè)重點(diǎn)方向就是深度學(xué)習(xí);2013年4月，《麻省理工學(xué)院技術(shù)評(píng)論》雜志將深度學(xué)習(xí)列為2013年十大突破性技術(shù)之首。在今天，Google、百度、微軟等知名高科技公司爭(zhēng)相投入資源，占領(lǐng)深度學(xué)習(xí)的技術(shù)制高點(diǎn)。

　　2.大數(shù)據(jù)時(shí)代的深度學(xué)習(xí)

　　大數(shù)據(jù)時(shí)代迫切需要深度學(xué)習(xí)。為了說(shuō)明這個(gè)觀點(diǎn)，本文來(lái)談一下淺層學(xué)習(xí)和深度學(xué)習(xí)模型。

　　淺層模型有個(gè)重要特點(diǎn)——靠人工經(jīng)驗(yàn)來(lái)抽取樣本特征，而強(qiáng)調(diào)模型主要是負(fù)責(zé)分類(lèi)或預(yù)測(cè)。所以，特征提取就成了整個(gè)系統(tǒng)性能的瓶頸，通常開(kāi)發(fā)團(tuán)隊(duì)中更多的人力是投入到構(gòu)造更好的特征上去的，這就要求開(kāi)發(fā)人員對(duì)待解決的問(wèn)題有很深入的理解。而達(dá)到這個(gè)程度，往往需要反復(fù)摸索。因此，人工手動(dòng)構(gòu)造樣本特征，不是一個(gè)具有生命力的途徑。

　　深度學(xué)習(xí)的實(shí)質(zhì)，是通過(guò)構(gòu)建具有很多隱層的機(jī)器學(xué)習(xí)模型和海量的訓(xùn)練數(shù)據(jù)，來(lái)學(xué)習(xí)更有用的特征，從而最終提升分類(lèi)或預(yù)測(cè)的準(zhǔn)確性。區(qū)別于傳統(tǒng)的淺層學(xué)習(xí)，深度學(xué)習(xí)的不同之處在于：一是強(qiáng)調(diào)了模型結(jié)構(gòu)的深度，通常有5層、6層，甚至10多層的隱層節(jié)點(diǎn);二是明確突出了特征學(xué)習(xí)的重要性，即通過(guò)逐層特征變換，將樣本在原空間的特征表示變換到一個(gè)新特征空間，使分類(lèi)或預(yù)測(cè)更加容易。

　　3.深度學(xué)習(xí)的基本思想和常用方法

　　(1)Deep Learning的基本思想

　　假設(shè)我們有一個(gè)系統(tǒng)S，它有n層(S1，…Sn)，它的輸入是I，輸出是O，形象地表示為：I=>S1=>S2=>…..=>Sn=>O，如果輸出O等于輸入I，即輸入I經(jīng)過(guò)這個(gè)系統(tǒng)變化之后沒(méi)有任何的信息損失，保持了不變性，這意味著輸入I經(jīng)過(guò)每一層Si都沒(méi)有任何的信息損失，即在任何一層Si，它都是原有信息(即輸入I)的另外一種表示?，F(xiàn)在回到我們的主題Deep Learning，我們需要自動(dòng)地學(xué)習(xí)特征，假設(shè)我們有一堆輸入I(如一堆圖像或者文本)，假設(shè)我們?cè)O(shè)計(jì)了一個(gè)系統(tǒng)S(有n層)，通過(guò)調(diào)整系統(tǒng)中的參數(shù)，使得它的輸出仍然是輸入I，那么我們就可以自動(dòng)地獲取得到輸入I的一系列層次特征，即S1，…，Sn。

　　另外，前面是假設(shè)輸出嚴(yán)格地等于輸入，這個(gè)限制太嚴(yán)格，我們可以略微地放松這個(gè)限制，例如我們只要使得輸入與輸出的差別盡可能地小即可，這個(gè)放松會(huì)導(dǎo)致另外一類(lèi)不同的Deep Learning方法。

　　(2)Deep Learning的常用方法

　　AutoEncoder(自編碼)，自編碼算法是一種基于神經(jīng)網(wǎng)絡(luò)算法的無(wú)監(jiān)督學(xué)習(xí)算法，它使用了神經(jīng)網(wǎng)絡(luò)中經(jīng)典的反向傳播算法，其特殊之處在于其目標(biāo)在于讓神經(jīng)網(wǎng)絡(luò)的輸出節(jié)點(diǎn)的輸出值等于網(wǎng)絡(luò)的輸入值，如在下面具有一個(gè)隱藏層(一般自編碼算法中會(huì)有多個(gè)隱藏層)的神經(jīng)網(wǎng)絡(luò)中，我們應(yīng)使得目標(biāo)輸出，自然地，其輸出節(jié)點(diǎn)數(shù)目與輸入節(jié)點(diǎn)的數(shù)目應(yīng)該相等。同時(shí)，自編碼算法的另外一個(gè)特征是隱藏層的節(jié)點(diǎn)數(shù)目一般少于輸入輸出節(jié)點(diǎn)的數(shù)目。這樣的意義在于，此時(shí)相當(dāng)于將輸入的特征通過(guò)神經(jīng)網(wǎng)絡(luò)的非線性變換到節(jié)點(diǎn)數(shù)更少的隱藏層，再由隱藏層通過(guò)非線性變換“無(wú)損”地恢復(fù)出輸入的信息，這樣實(shí)際上相當(dāng)于用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)了對(duì)于高維特征向量的一個(gè)特征提取和降維。如果輸入數(shù)據(jù)中隱含著一些特定的結(jié)構(gòu)，比如某些輸入特征是彼此相關(guān)的，那么這一算法就可以發(fā)現(xiàn)輸入數(shù)據(jù)中的這些相關(guān)性。由此，用這種特殊的神經(jīng)網(wǎng)絡(luò)對(duì)樣本進(jìn)行學(xué)習(xí)和訓(xùn)練，我們即可“自動(dòng)地”得到輸入數(shù)據(jù)的降維后的特征，即隱藏層的節(jié)點(diǎn)，省去了人工特征提取的麻煩。

　　(3)自編碼算法的實(shí)現(xiàn)過(guò)程

　　將已得到的某一樣本的特征向量(或)作為自編碼算法的輸入，即上面特征向量的每一個(gè)分量代表自編碼網(wǎng)絡(luò)中的一個(gè)輸入節(jié)點(diǎn)。令其輸出節(jié)點(diǎn)的期望類(lèi)別向量賦值為(或)。

　　1)對(duì)于自編碼網(wǎng)絡(luò)中某一層，，令矩陣該層權(quán)重矩陣的修正矩陣為零矩陣，偏置向量的修正向量為零向量。

　　2)設(shè)有個(gè)訓(xùn)練樣本，對(duì)于每一個(gè)訓(xùn)練樣本到。

　?、僬{(diào)用反向傳播算法函數(shù)backwards_trans()

　　計(jì)算訓(xùn)練自編碼網(wǎng)絡(luò)的準(zhǔn)則函數(shù)的梯度和。

　　②計(jì)算。

　　③計(jì)算

　　3)更新權(quán)重系數(shù)：

　　4)反復(fù)迭代上面過(guò)程直到達(dá)到要求。訓(xùn)練得到的神經(jīng)網(wǎng)絡(luò)最靠近輸出層的隱藏層的輸出值即為深度學(xué)習(xí)后自動(dòng)得到的新特征。

　　通過(guò)上面的學(xué)習(xí)訓(xùn)練，我們便可以得到一個(gè)具有深度學(xué)習(xí)功能的自編碼網(wǎng)絡(luò)。當(dāng)我們需要自動(dòng)提取數(shù)據(jù)包用戶數(shù)據(jù)的特征時(shí)，僅需要去掉上面的自編碼網(wǎng)絡(luò)的原來(lái)的輸出層，將原來(lái)最靠近輸出層的隱藏層作為新的輸出層，再將初始的特征向量輸入，此時(shí)的網(wǎng)絡(luò)輸出即為自動(dòng)提取的特征。

　　4.總結(jié)

　　近年，深度學(xué)習(xí)被逐漸應(yīng)用到語(yǔ)音識(shí)別、圖像識(shí)別、自然語(yǔ)言處理等領(lǐng)域，總之，深度學(xué)習(xí)帶來(lái)了機(jī)器學(xué)習(xí)的一個(gè)新浪潮，受到從學(xué)術(shù)界到工業(yè)界的廣泛重視，并帶來(lái)大數(shù)據(jù)的深度學(xué)習(xí)時(shí)代。深度學(xué)習(xí)在應(yīng)用方面的深度和廣度都將會(huì)得到更高程度的發(fā)展。同時(shí)，如果機(jī)器學(xué)習(xí)理論界取得突破，為深度學(xué)習(xí)提供強(qiáng)力的支撐，使之成為今后無(wú)論何種機(jī)器學(xué)習(xí)應(yīng)用都不得不采用的基石，那么，人工智能的夢(mèng)想將不再遙遠(yuǎn)。

下一頁(yè)分享更優(yōu)秀的<<<人工智能大一選修課論文