如何找到研究的突破點(diǎn)?
及時(shí)獲取最優(yōu)質(zhì)的CV內(nèi)容

我剛做研究的時(shí)候,也有找不到研究突破點(diǎn)的感覺。但是隨著經(jīng)驗(yàn)的增長(zhǎng),還是找到了一些技巧,這里分享給大家。
1.多讀文獻(xiàn)加總結(jié)是科研有突破的重要途徑。建議從早期的文章開始讀,讀的時(shí)候想象自己穿越回當(dāng)時(shí),能不能發(fā)現(xiàn)問題在哪里,有沒有什么新的想法。然后再找后面的文章查對(duì)一下,看看自己的想法對(duì)不對(duì)。通過這種方式促使自己學(xué)會(huì)發(fā)現(xiàn)問題,找到創(chuàng)新點(diǎn)。
2.多閱讀一些專業(yè)的審稿意見,訓(xùn)練自己的鑒賞能力。很多未解決的問題都能從審稿意見中發(fā)掘出來。歡迎關(guān)注我的系列視頻欄目「從審稿到中稿」,帶大家從審稿意見中發(fā)現(xiàn)問題,最終實(shí)現(xiàn)中稿。
3.多讀讀arxiv,最好培養(yǎng)定期翻看arxiv最新文章的習(xí)慣。很多厲害的文章都會(huì)先放在arxiv上,而做研究掌握一個(gè)好的timing至關(guān)重要,早點(diǎn)入局就能搶到先手。另一方面,arxiv上很多文章做的不夠好,問題沒做完,自己多想想努力一下就能有更好的結(jié)果。當(dāng)然別忘了引用arxiv的文章并討論區(qū)別。
4.培養(yǎng)自己對(duì)科研問題的格局把握,具體說,判斷一個(gè)問題是三個(gè)月之內(nèi)可以解決的,還是三年可以解決的,還是三十年也解決不了的。不要憑自己的主觀臆斷來判斷,多看看大佬怎么說。如果很多大佬都覺得一個(gè)問題三年之內(nèi)可以解決,并且很有趣,那么就是一個(gè)很好的入手問題。
5.題主說,看到很多論文準(zhǔn)確率都很高了,不知道該咋辦。這是個(gè)新手非常常見的問題,我想引用一個(gè)著名的比喻來回答。一個(gè)問題的模型,就好比一架很復(fù)雜的波音飛機(jī),有幾百上千個(gè)按鈕,有的重要,有的不重要。你現(xiàn)在看到的,就好比看到有那么一架飛機(jī)飛的很快。但是更有意義的問題是,你對(duì)這架飛機(jī)的性能完全了解嗎?哪些部分是真正起作用的?能不能造一架更簡(jiǎn)單但是飛的更快的飛機(jī)?如果不能,瓶頸在哪里?這架飛機(jī)是不是足夠魯棒,在任何條件下都能飛得很好?
6.題主說準(zhǔn)確率已經(jīng)很高了,比如說達(dá)到了95%。一個(gè)事實(shí):如果把5%的錯(cuò)誤樣本拿出來構(gòu)成一個(gè)數(shù)據(jù)集,那么它的正確率將是0%。
所以關(guān)鍵不在準(zhǔn)確率多高,而在失敗的樣本是不是重要。在真實(shí)的自動(dòng)駕駛或者機(jī)器人中,有1%的失誤可能會(huì)導(dǎo)致很快報(bào)廢。
7.永遠(yuǎn)關(guān)注交叉領(lǐng)域或者新領(lǐng)域,并大膽提出新想法。可能新想法會(huì)被另一個(gè)領(lǐng)域的人爆錘,不要灰心,這是常態(tài),并不要怕碰壁成為作為阻止你學(xué)習(xí)的理由。不要自己給自己設(shè)置壁壘。
8.可能導(dǎo)師會(huì)覺得研究另一個(gè)領(lǐng)域會(huì)投入很多資源(比如算力或者他開會(huì)的時(shí)間),但是他擋不住你學(xué)習(xí)另一個(gè)領(lǐng)域的論文。資源可以受限,但是思想不會(huì)受限。特別是一個(gè)領(lǐng)域的突破性進(jìn)展,往往可以影響其他領(lǐng)域。
9.把卡住自己的問題記錄下來,之后會(huì)有意想不到的影響。我跟swin transformer(今年獲得了比best paper很難得的馬爾獎(jiǎng))的作者聊過,他們是怎么想到swin transformer的?他們說,之前就有想過把self attention替換cnn,但是瓶頸是計(jì)算量會(huì)大很多,看到谷歌出了vit,算的很快,解決了他們之前的瓶頸,就是self-attention也可以很快還很好,這樣他們就產(chǎn)生了swin的想法。
10.人的創(chuàng)造力是無窮的,科研更多是一種文化,比賽才要刷點(diǎn)。比如同一屆的會(huì)議有很多論文在imagenet上點(diǎn)數(shù)都差不多,但是都各有亮點(diǎn)。百花齊放,百家爭(zhēng)鳴,而不要內(nèi)卷。
11.多復(fù)現(xiàn)一些代碼,很多論文都是表面好看,實(shí)質(zhì)代碼一跑就有很多問題。
12.歷史是會(huì)循環(huán)的,舊的領(lǐng)域的突破往往可以適用于新的領(lǐng)域。因此多看看經(jīng)典論文很有幫助。
13.要掌握一門到兩門可以泛化的,經(jīng)過大量事實(shí)驗(yàn)證有效的方法論。舉個(gè)例子,比如加速計(jì)算的cuda編程等一系列方法,在不同的領(lǐng)域都可以試用。
14、很多好的idea都是在討論和碰撞中產(chǎn)生的。盡量多和研究者討論,方式不限于
(1)實(shí)驗(yàn)室交流
(2)參加討論會(huì)或者研討會(huì)
(3)微信群組討論,可以私信加入我的討論群
(4)參加一些國(guó)際頂級(jí)學(xué)術(shù)會(huì)議,不需要發(fā)表論文也可以參加
(5)網(wǎng)上看workshop的錄像
15、沒有比較就沒有傷害,把同一個(gè)頂會(huì)做同一個(gè)任務(wù)的論文放到一起,高下立判。
16、想到什么好的idea,馬上去試,不要猶豫。沒有不好的idea,只有不明確的idea。
長(zhǎng)按掃描下方二維碼添加小助手。
可以一起討論遇到的問題
聲明:轉(zhuǎn)載請(qǐng)說明出處
掃描下方二維碼關(guān)注【集智書童】公眾號(hào),獲取更多實(shí)踐項(xiàng)目源碼和論文解讀,非常期待你我的相遇,讓我們以夢(mèng)為馬,砥礪前行!

