正文 【彈星者說】第一章 (第4/12頁)
匿名提示您:看後求收藏(快眼看書www.kyks.tw),接著再看更方便。
的進行,字典的維度即厚度會增加,權
值的數量也會變多,前向反饋神經絡也會越來越複雜。
每次得到新的學習資料,都要將新的輸入資料與字典向量一起經過一個核函
數的處理,分別得到字典每個維度上的核函式的值,再分別乘以每個維度的權值
,得到輸出。
在每次學習中,都要算出當前我們所構造的系統的輸出與目標系統的輸出之
間誤差,然後運用梯度下降法來減少誤差,即讓權值自適應的調整。
這樣經過足夠次數的學習,系統會越來越複雜,但學習的結果會越來越逼近
我們需要學習的系統。
事實上,這是可以用自然語言描述的:一個內部越複雜的系統,它就能展現
越多精細深微的細節,以及更真實的對現實的表現力,因為現實是具有無限細節
和無限複雜性的。
」
導師無表情的微微點頭。
幾縷白髮跳了跳。
「如果我們把有噪聲的訊號當做系統的輸入,把沒有噪聲的原始訊號當做輸
出,那麼我們學習得到的系統就能消除噪聲;同樣,聲消除等等其他應用也可
以透過巧妙的設定輸入輸出來實現。更普遍一點的,核自適應濾波器還可以對非
線性函式進行歸擬,對溷沌時間序列進行預測,上述這兩個是很常見的彷真
實驗。我們把思緒拉遠一點,如果輸入是漢語,輸出是英文,如果系統的神經
絡的結構足夠科學,系統學習得足夠久,成長得足夠複雜,很可能這種翻譯系統
也是可以實現的。當然我要做的並不是這個,我只是隨口一說。」
導師把頭埋到了兩手之間,彷佛在睡覺。
這時胡為衣看到了他腦後更多的白髮,陽光照在上面有些刺眼。
「我這一年做了如下的事情:設計了一個新的核函式,能卓有成效的在將低
維資料對映到高維的時候提升對複雜系統的學習能力;加入了一個反饋結構,它
將歷史的輸出經過一個精心設計的非線性函式的處理然後反饋來,由於反饋運
用的函式與前饋的核函式的內在聯絡,具有這樣特殊反饋結構的系統呈現對稱的
美學意義;在自適應步長的推導上,我借用了一個源自MIT的推導思路,其基