人工智能的優(yōu)越性論文
隨著Google、Microsoft和Facebook等巨頭的大力投入,深度學習正在超越機器學習,人工智能來勢兇猛。那么,如今人工智能最熱門的技術(shù)趨勢是什么?以下是學習啦小編整理分享的人工智能的優(yōu)越性論文的相關(guān)文章,歡迎閱讀!
人工智能的優(yōu)越性論文篇一
人工智能的十大熱門技術(shù)趨勢
隨著Google、Microsoft和Facebook等巨頭的大力投入,深度學習正在超越機器學習,人工智能來勢兇猛。那么,如今人工智能最熱門的技術(shù)趨勢是什么?
1.神經(jīng)網(wǎng)絡的架構(gòu)正變得越來越復雜。感知和翻譯等大多數(shù)神經(jīng)網(wǎng)絡的架構(gòu)正變得越來越復雜,遠非此前簡單的前饋神經(jīng)網(wǎng)絡或卷積神經(jīng)網(wǎng)絡(CNN)所能比。特別需要注意的是,神經(jīng)網(wǎng)絡正與不同的技術(shù)(如LSTMs、自定義目標函數(shù)等)相混合。
神經(jīng)網(wǎng)絡是多數(shù)深度學習項目的根基。深度學習基于人腦結(jié)構(gòu),一層層互相連接的人工模擬神經(jīng)元模仿大腦的行為,處理視覺和語言等復雜問題。這些人工神經(jīng)網(wǎng)絡可以收集信息,也可以對其做出反應。它們能對事物的外形和聲音做出解釋,還可以自行學習與工作。
2.長短期記憶網(wǎng)絡(LSTMs)。當你閱讀本文時,你是在理解前面詞語的基礎(chǔ)上來理解每個詞語的。你的思想具有連續(xù)性,你不會丟棄已知信息而從頭開始思考。傳統(tǒng)神經(jīng)網(wǎng)絡的一大缺陷便無法做到這一點,而遞歸神經(jīng)網(wǎng)絡能夠解決這一問題。
RNN(循環(huán)神經(jīng)網(wǎng)絡)擁有循環(huán)結(jié)構(gòu),可以持續(xù)保存信息。過去幾年里,RNN在語音識別和翻譯等許多問題上取得了難以置信的成功,而成功的關(guān)鍵在于一種特殊的RNN――長短期記憶網(wǎng)絡。
3.“注意力模型”。“注意力”是指神經(jīng)網(wǎng)絡在執(zhí)行任務時知道把焦點放在何處。我們可以讓神經(jīng)網(wǎng)絡在每一步都從更大的信息集中挑選信息作為輸入。例如,當神經(jīng)網(wǎng)絡為一張圖片生成標題時,它可以挑選圖像的關(guān)鍵部分作為輸入。
4.神經(jīng)圖靈機依然有趣,但還無法勝任實際工作。當你翻譯一句話時,并不會逐詞進行,而會從句子的整體結(jié)構(gòu)出發(fā)。機器難以做到這一點,這一挑戰(zhàn)就被稱為“強耦合輸出整體估計”。
神經(jīng)圖靈機就是研究者們在硅片中重現(xiàn)人類大腦短期記憶的嘗試。它的背后是一種特殊類型的神經(jīng)網(wǎng)絡,它們可以適應與外部存儲器共同工作,這使得神經(jīng)網(wǎng)絡可以存儲記憶,還能在此后檢索記憶并執(zhí)行一些有邏輯性的任務。
5.深度學習讓計算機視覺和自然語言處理不再是孤島。卷積神經(jīng)網(wǎng)絡最早出現(xiàn)在計算機視覺中,但現(xiàn)在許多自然語言處理(NLP)系統(tǒng)也會使用。LSTMs與遞歸神經(jīng)網(wǎng)絡深度學習最早出現(xiàn)在NLP中,但現(xiàn)在也被納入計算機視覺神經(jīng)網(wǎng)絡。
此外,計算機視覺與NLP的交匯仍然擁有無限前景。
6.符號微分式越來越重要。隨著神經(jīng)網(wǎng)絡架構(gòu)及其目標函數(shù)變得日益復雜,手動推導出“反向傳播”的梯度也變得更加困難而且容易出錯。谷歌的TensorFlow等最新的工具包已經(jīng)可以超負荷試驗符號微分式,能夠自動計算出正確的微分,以確保訓練時誤差梯度可被反向傳播。
7.神經(jīng)網(wǎng)絡模型壓縮的驚人成果。多個團隊以不同方法大幅壓縮了訓練一個良好模型所需的素材體量,這些方法包括二值化、固定浮點數(shù)、迭代修剪和精細調(diào)優(yōu)步驟等。
這些技術(shù)潛在的應用前景廣闊,可能將會適應在移動設備上進行復雜模型的訓練。例如,不需要延遲就可以得到語音識別結(jié)果。此外,如果運算所需要的空間和時間極大降低,我們就可以極高幀率(如30 FPS)查詢一個模型,這樣,在移動設備上也可以運用復雜神經(jīng)網(wǎng)絡模型,近乎實時地完成計算機視覺任務。
8.深度學習和強化學習繼續(xù)交匯。在“端對端”機器人等領(lǐng)域出現(xiàn)了令人激動的進展,現(xiàn)在機器人已經(jīng)可以一起運用深度和強化學習,從而將原始感官數(shù)據(jù)直接轉(zhuǎn)化為實際動作驅(qū)動。我們正在超越“分類”等簡單工作,嘗試將“計劃”與“行動”納入方程。
9.批標準化。批標準化現(xiàn)在已經(jīng)被視作評價一個神經(jīng)網(wǎng)絡工具包的部分標準。
10.神經(jīng)網(wǎng)絡研究與優(yōu)化齊頭并進。創(chuàng)造新的神經(jīng)網(wǎng)絡方法需要研究者,還需要能將它們迅速付諸實踐的方法。谷歌的TensorFlow是少數(shù)能夠做到這些的庫:使用Python 或 C++等主流編程語言,研究者可以迅速創(chuàng)作新的網(wǎng)絡拓撲圖,接著在單一或多個設備上進行測試。
下一頁分享更優(yōu)秀的<<<人工智能的優(yōu)越性論文