第255章 甲光向日金鱗開(6k) (第1/9頁)
漁雪提示您:看後求收藏(快眼看書www.kyks.tw),接著再看更方便。
無論如何,易科的q3財報在這個月十五號都要出爐了。
儘管心裡已經有預期,但親自走入暴風雨中的陸奇還是心神不寧,也免不了在心中自嘲,看客與當事人的感受終究不同,這份壓力還是受著了。
11月2日,上午11點,陸奇開完會接到了秘書的通知,方總中午請客。
等他抵達小食堂,聽到正在放著的音樂是《allyouneedislove》便不禁微微一笑,那篇由谷歌釋出《attentionisallyouneed》的名字就是來自披頭士的這首歌。
陸奇與埃爾德、吳恩達打了招呼,沒聊幾句就轉入了深度學習dl的話題,也就立即打起精神,講述自己更多的想法。
這兩位在易科都不簡單,一位總領研發範疇的事務,一位是深度學習的主要負責人,雖說自己算是空降組建深度學習事業部,但資源的分配和使用也需要相互的溝通。
陸奇能在微軟做到高位,自然不會輕視人事工作。
「谷歌那邊把自注意力機制的模型在論文裡命名為transformer,我問了問,他們內部是在開發新的nlp模型了。」吳恩達談到上次業界探討後的變化。
吳恩達之前是斯坦福的副教授和人工智慧實驗室主任,而在加入易科前就在谷歌負責相關工作,與那邊的研究交流沒有中斷,上次的激辯同樣給他帶來不少靈感。
陸奇點點頭,也說著自己掌握的訊息:「業界對於transformer的表現很認可,像去年成立的openai,他們現在也在著手研發一款以transformer為核心的大模型,乾脆直接以它命名,叫gpt,generativepre-trainedtransformer。」
openai是一家去年成立的公司,有不少領域內知名的人物參與。
方卓這時候簡單總結道:「難道谷歌的這個transformer真就能超過rnnn了?我們在這兩方面已經投入很多了。」
rnn是迴圈神經網路n是卷積神經網路,易科的siri是基於前者,太白則是基於後者。
同樣,業界在人工智慧領域的研究也主要是這兩個方向以及它們的變體,rnn能處理序列資料中的時間依賴性而廣泛應用於自然語言處理任務n則因為它在影象識別和處理中的出色表現,成為計算機視覺領域的基石。
像易科的機器人guard就使用n在視覺方面的成果。