第5章 小唐前途無量
“你不會為了漲精度,多加了好幾層網絡吧。用高出原網絡的運算量,達到這樣的精度,額,恕我直言,這種工作沒什麼意義。”
氣氛逐漸熱烈之際,曹曉輝的聲音響起來。
他扶了扶自己的黑框眼鏡,接着道:“我可能說話不太好聽,不過大家相處這麼久,彼此也知根知底。你的精度能到85,就已經是一個非常好的工作了,精度到87,顯然不合常理。”
曹曉輝這番話后,另外幾個研究生點了點頭,覺得他說的有道理。
俗話說,既怕兄弟過得苦,又怕兄弟開路虎。
不管之前唐鯨的算法設計的多好,他的實驗結果始終像一坨屎,大家都習慣了,他是在實驗室墊底的存在,默認他僅比韓啟明強點。
如今他不知道經過什麼操作,一下子讓自己的網絡達到驚人的精度,出乎所有人意料。
就好像高中三年一直坐在教室最後面的擺爛學渣,在高考前的模擬考中,忽然取得了第一名的成績一樣。
所有人的第一反應一定是,學渣作弊了。
“我怎麼聞到了股酸味,唐鯨你有什麼頭豬嗎?”冀青作勢聞了聞,而後拿手在鼻子前撲扇幾下。
曹曉輝聽出冀青暗示他是酸雞,臉色鐵青起來,礙於冀青的體格,不敢發作。
冀青才不管曹曉輝怎麼想,他又說道:“先相信,再質疑。曹曉輝你看看每一輪的訓練時間,要是唐鯨真的多加了好幾層網絡,每一輪的訓練時間怎麼可能和之前一樣?”
“就算不是多加網絡,那也可能是在其他地方作、取巧了。”曹曉輝梗着脖子說道,氣勢明顯弱了不少。
“要是那些注水的期刊會議的審核人,能有你這種批判精神就好了。”唐鯨沒好氣地嗆了曹曉輝一句。
曹曉輝平時看起來挺正常的,自己之前還和他一起討論過學術問題,沒想到他看到自己在實驗室‘翻身’之後,居然會反應這麼強烈。
見氣氛僵住,一直抱臂在一旁的張莎莎開口了。
“唐鯨你別太介意,做學術最重要的一點是要嚴謹。”
“張博,人家一直覺得我們做的那些項目不夠學術,怎麼可能聽得進去我們的建議。”見張莎莎開口,曹曉輝立即像是找到了依靠一般,底氣足了起來。
他選擇性忽略了張莎莎口中‘別太在意’里的‘太’字。
“你少說幾句。”張莎莎瞪了眼曹曉輝,而後扭過頭看向唐鯨,斟酌着語氣道,“唐鯨,我相信你沒增加額外的運算量。但是你要如實交代,你有沒有控制變量,對齊原Vit模型?
你得清楚,就算你現在能糊弄過中期答辯。但是之後你總要發論文的,審稿人可不一定發現不了端倪。到時候,可是要涉及到學術造假的問題了。”
哪怕唐鯨平時和張莎莎不對付,現在聽她的語氣,也比曹曉輝話里話外的酸氣、或者說傲慢舒服很多。
要知道,從前唐鯨想主動改善關係,刻意找張莎莎討論問題,後者從來都是不回的。
感受到張莎莎的真誠,唐鯨難得正視着她的眼睛,鄭重道:“我知道學術造假的嚴重性。我能保證,除了一些超參數的調節,其他訓練過程完全對齊原Vit模型。”
“好,我去找張教授。”
張莎莎從唐鯨這裏得到保證后,點點頭,離開了實驗室。
隨着張莎莎離開,其他人各自唏噓幾句,接着回到了自己的位置。
“看來以後要叫你唐博了啊。”冀青再次拍拍唐鯨的肩膀,玩笑一句后,回去干自己的事情了。
頃刻間,伺服器前只剩下唐鯨一人。
臨近中期答辯,大家都很忙,忙着準備PPT,以及寫論文等等,沒多少時間聚在一起討論別人的事情。
看着張莎莎離開后空閑的座位,唐鯨一陣感慨。
學生時期,哪有多頑固不化的敵意,畢業之後再遇到,多半會相視一笑吧。
當然,曹曉輝除外,今天才算看透他的酸雞本質。
唐鯨坐下,看着伺服器屏幕上的精度,很快把剛才發生的小插曲拋之腦後,咧開嘴無聲地笑了起來。
“頭豬是什麼意思?”白澤問道,她對剛才冀青口中的‘頭豬’耿耿於懷。
唐鯨用左手擋在嘴前,拇指撐着下頜,食指抵在鼻子下面,用一副不刻意的姿態同白澤交流。
“頭豬代指頭緒,‘你有什麼頭豬’,是‘你有什麼頭緒’的一種有趣的說法。”
“為什麼這種說法有趣?就因為豬和緒兩個字很像?”白澤儼然一副好奇寶寶的模樣。
“你大致上可以這麼理解。”唐鯨實在不知道怎麼和她深入解釋,為什麼人類會覺得這種說法有趣,於是開始轉移話題,“關於這種問題,你不是可以直接在網上查到嗎?不要誤會,我並不排斥和你的交流,只是單純好奇以你的智能,這種事情完全可以做到吧。”
白澤沉默片刻,才緩緩道:“白澤換了好幾個搜尋引擎搜索‘頭豬’,查到的全是畜牧業相關的回答。”
“……難怪。下次遇到這種問題,你可以試着把前後文也輸入進去。”
“白澤受教了。”
看來,即使作為擁有超級大腦的高級智能,也會為自己不擅長的事情而虛心求教。
在白澤面前裝了個逼,唐鯨的虛榮心得到極大滿足,心情更加舒暢。
“唐鯨,教授叫你過去。”
剛好這時,去找完張博珩的張莎莎回來,把唐鯨叫去了張博珩的辦公室。
張博珩身為東南大學新生代最有潛力的教授之一,分到了單獨一間辦公室,就在304實驗室對面。
他看起來三十五歲左右,穿了一件深藍色西裝,裏面卻是一件粉色襯衫,沒有打領帶,嚴肅又有朝氣,略帶矛盾的感覺。
張博珩看到張莎莎帶着唐鯨進來,示意唐鯨坐到自己的對面,而後向張莎莎問道:“今天韓啟明過來沒有?”
張莎莎搖搖頭,手扶額頭道:“他姐姐昨天過來的時候,還拜託我指導指導他,但是他人都不來,怎麼指導啊。”
張博珩無奈地嘆了口氣,道:“馬上就中期答辯了,我來想想辦法。行,小張你先忙你的去吧。”
張莎莎應了一聲,離開了張博珩的辦公室。
唐鯨聽着二人的對話,暗自腹誹。
之前我自己實驗結果不好,馬上就畢不了業的時候,也沒見你張教授這麼操心啊。
韓啟明家世好,可以給實驗室帶來投資,人都不來,也能讓張博珩主動想想辦法。
唐鯨這段時間天天來實驗室搞實驗,問張博珩問題的時候,卻總會被後者以忙為借口敷衍過去。
唐鯨知道張博珩天天在搞校外項目的事,確實很忙,不過和後者對韓啟明的態度來看,雙標得未免太明顯。
“小唐啊,聽說你實驗的精度到87.37了,這麼厲害?”張博珩出聲打斷了唐鯨的暗自腹誹。
唐鯨收起不忿,面帶微笑道:“是的,張教授。”
不管心裏再怎麼不爽,面對張博珩時,他還是得表現出該有的謙卑。
“做得很不錯。說實話,我從來沒有懷疑過你的潛力,之前實驗出現問題,很可能就是因為一些我們一直忽視的原因,我們做學術研究的,任務就是找到這些原因,然後找到他們,這只是時間問題。
前幾天你學姐看見你經常上天台,還擔心你會不會壓力太大呢,我心想不會吧。現在看來,果然是她想太多了,哈哈哈哈。”
張博珩先是語重心長地說了些千篇一律的廢話,然後透露出一個讓唐鯨沒有想到的信息:張莎莎一直有注意到唐鯨一個人上天台,擔心他由於壓力大想不開。
怪不得昨天韓啟明突然搭話,原來是張莎莎安排的。
唐鯨一邊在心裏復盤,一邊陪着張博珩笑了起來。
這誤會確實有些好笑,也有些溫暖。
這算傲嬌嗎,要不是張莎莎長得不夠好看,唐鯨說不定會心動。
說來慚愧,唐鯨單身這麼多年,根本原因就是他是一個十足的顏狗。
張博珩不知道唐鯨多餘的內心戲,他用和煦的語氣道:“能說說你是做了什麼優化,才能把精度提到這麼高的嗎?”
他的語氣彷彿自己是和唐鯨同齡的朋友一般,親近而自然。
唐鯨回想了一下自己在白澤的幫助下,對代碼的改動。
“我把局部特徵的提取改成了深度卷積來削減參數量。然後優化了鍵值對Q和K投影的方式……最後改了一些網絡參數和超參數……”
張博珩在聽唐鯨講話時,一直用食指的指肚有節奏的點着桌子,沒有發出任何聲音。
等唐鯨說完,張博珩沉吟片刻,道:“原來主要問題在Q和K的投影方式上。改好了這一塊之後,再加上一些其他優化,精度比原神經網絡高就很合理了。”
不得不說,張博珩不愧是神經網絡方向的大牛,觀察問題一陣見血,一下就讀懂了前後差異的關鍵所在。
“真的很不錯。本來你精度能到85,就算得上優秀的項目了,現在到了87.37,讓我好好想想。”張博珩說著說著,站了起來,走到唐鯨的身後,拍着他的肩膀說道,“現在CVPR已經開始徵稿,你有信心投稿到CVPR嗎?”
“啊,CVPR?”唐鯨一瞬間懷疑自己是不是聽錯了。
CVPR是神經網絡領域最頂級的發表論文的機構,無數相關研究者擠破腦袋,都想在上面發表一篇文章,哪怕只是掛個三作、四作的名頭。
當初,張博珩就是在麻省理工大學讀博時,發了一篇CVPR論文,然後憑藉這篇論文入職東南大學當講師,一路晉陞為正教授。
在CVPR下面,有茫茫多的其他發表論文的機構,影響力由高到低分為一、二、三、四區。
唐鯨起初的目標是,發一篇二區論文就算成功,沒想到張博珩居然直接讓他發CVPR。-
仔細一想,自己好像有點妄自菲薄,有白澤幫忙優化代碼,自己與CVPR的距離好像被無限拉近了。
假如有一篇CVPR傍身,將來不論是繼續搞研究,還是進大廠搞錢,都算得上很有前途。
張博珩坐回椅子上,看到唐鯨的反應,眉毛一挑,瞬間嚴肅起來:“怎麼,對自己苦心做出的研究沒信心?”
這種嚴肅的態勢,彷彿唐鯨稍作猶豫,對方就會懷疑他的研究摻了水份。
唐鯨停止遐想,連忙回應道:“信心有是有,但是馬上要中期答辯了,我怕沒時間寫論文。”
寫論文可不是短短几天就能解決的問題,各種用詞、語句都要細細打磨,就算是張博珩本人來寫,都要耗不少時間。
聽到唐鯨的回答,張博珩鬆了口氣,擺擺手道:“這個你放心,中期答辯你隨便準備準備,不要太拉跨就行。有你這個實驗結果打底,加上我能提前和其他導師們交流交流,沒問題的。”
還有這種好事?要的就是你這句話!
“行,我等會兒回去就寫論文。”有張博珩的保證,唐鯨沒了後顧之憂,躍躍欲試起來。
“對了,還有一件事。”張博珩注視着唐鯨的眼鏡,一直敲擊桌面的手指停了下來,緩緩道,“反正你這篇論文的作者位置有點空,不如把韓啟明加到三作的位置上吧。”
當張博珩說出這番話,唐鯨的表情瞬間僵住。
韓啟明三作?
一個連Vit是什麼原理都不懂的人,給他三作?
憑什麼?