寫(xiě)論文忘刪ChatGPT生成按鈕，遭法國(guó)計(jì)算機(jī)科學(xué)家在線(xiàn)打假，出版商緊急撤稿！
整理 | 屠敏
全民在日常工作、學(xué)習(xí)、測(cè)試過(guò)程中使用 ChatGPT 已經(jīng)不是什么秘密了，但是光明正大地在學(xué)術(shù)論文中使用，還把 ChatGPT 的“Regenerate response”按鈕標(biāo)簽文字復(fù)制到論文中，尚未在方法或致謝一欄提及任何有關(guān) ChatGPT 字眼，最終刊登在正式的期刊上，還是非常罕見(jiàn)的。
知名計(jì)算機(jī)科學(xué)家、論文打假人發(fā)出質(zhì)疑
事情源于 8 月 9 日，物理學(xué)期刊《Physica Scripta》雜志上發(fā)表了一篇旨在揭示復(fù)雜數(shù)學(xué)方程新解的論文。
起初，每個(gè)人都認(rèn)為這篇論文似乎并無(wú)不妥。
直到法國(guó)圖盧茲大學(xué)的計(jì)算機(jī)科學(xué)家 Guillaume Cabanac 偶然間打開(kāi)論文看到第三頁(yè)時(shí)，發(fā)現(xiàn)了一個(gè)奇怪的短語(yǔ)——「Regenerate response」。
定睛一看，這不是 ChatGPT 里面的按鈕標(biāo)簽嗎？
于是乎，他把他看到的內(nèi)容截圖發(fā)在了 PubPeer（一個(gè)科學(xué)家討論已發(fā)表研究的網(wǎng)站）平臺(tái)上：
與此同時(shí)，正如之前科學(xué)期刊《Nature》和《ACS Nano》都曾發(fā)過(guò)聲明建議作者如果有使用 ChatGPT 這類(lèi)工具時(shí)，要在論文中注明。但 Guillaume Cabanac 搜索了全文，并沒(méi)有在論文的方法部分或致謝中找到任何“ChatGPT”。
為此，他提出質(zhì)疑：
作者是否復(fù)制粘貼了 ChatGPT 的輸出并錯(cuò)誤地包含了按鈕的標(biāo)簽？
為什么這種毫無(wú)意義的措辭能在合著者、編輯、審稿人、文案編輯和排版人員的校對(duì)后幸存下來(lái)呢？
撤稿處理
截至目前，論文作者并未正面回應(yīng)。
不過(guò)，Physica Scripta 的出版商 IOP Publishing 的同行評(píng)審和研究誠(chéng)信主管 Kim Eggleton 透露，作者后來(lái)向雜志社確認(rèn)，他們?cè)谧珜?xiě)手稿時(shí)確實(shí)使用了 ChatGPT。
只是令人費(fèi)解的是，這個(gè)異常沒(méi)有在兩個(gè)月的同行評(píng)審期間被發(fā)現(xiàn)（論文于五月提交，七月發(fā)送了修訂版本），也沒(méi)有在排版過(guò)程中被發(fā)現(xiàn)。
這也讓眾人對(duì)論文的評(píng)審環(huán)節(jié)產(chǎn)生了質(zhì)疑。當(dāng)下，出版商決定撤回這篇論文。
Kim Eggleton 表示：“這違反了我們的道德政策。”
“冰山一角”
事實(shí)上，據(jù) Nature 報(bào)道，這次事件只是學(xué)術(shù)界使用 ChatGPT 的冰山一角。
計(jì)算機(jī)科學(xué)家 Guillaume Cabanac 實(shí)則從 2015 年開(kāi)始，便發(fā)起關(guān)于揭露其他已發(fā)表的論文“未正確”使用人工智能技術(shù)的“打假行動(dòng)”。
起初他只是持以好奇的初心，但后來(lái)隨著 AI 不斷輸出胡言亂語(yǔ)，讓這些內(nèi)容變成令人信服的、類(lèi)似人類(lèi)的作品，這讓 Guillaume Cabanac 氣憤不已，也更加堅(jiān)定地要揭露這些學(xué)術(shù)上“造假”事件。
自今年 4 月以來(lái)，Guillaume Cabanac 已經(jīng)標(biāo)記了十幾篇包含 ChatGPT 按鈕標(biāo)簽“Regenerate response” 和“作為人工智能語(yǔ)言模型，我……”內(nèi)容的雜志期刊文章，并將其一一公開(kāi)出來(lái)。
學(xué)術(shù)界到底能不能用 ChatGPT？
這一事件也引起眾人困惑，對(duì)于需要更為嚴(yán)謹(jǐn)、公正的學(xué)術(shù)界而言，ChatGPT 往往會(huì)帶來(lái)一些虛假、不可靠的信息誤導(dǎo)使用者，而有些科學(xué)家和學(xué)生也會(huì)在未經(jīng)驗(yàn)證的情況下將這些內(nèi)容融入自己的論文中，帶來(lái)一些錯(cuò)誤內(nèi)容。
那么，學(xué)術(shù)界究竟能不能用 ChatGPT？
其實(shí)早在今年 1 月，ChatGPT 初崛起之際，權(quán)威學(xué)術(shù)期刊《科學(xué)》便緊急發(fā)文，宣布正在更新編輯規(guī)則，強(qiáng)調(diào)不能在作品中使用 ChatGPT 的生成物。
隨即，《Nature》雜志也公開(kāi)表示，「通訊作者應(yīng)用星號(hào)標(biāo)識(shí)。大型語(yǔ)言模型 (LLM)，例如ChatGPT，目前不滿(mǎn)足我們的作者標(biāo)準(zhǔn)。值得注意的是，作者身份的歸屬伴隨著對(duì)作品的責(zé)任，這不能有效地應(yīng)用于 LLM。LLM 的使用應(yīng)在稿件的方法部分（如果沒(méi)有方法部分，則在合適的替代部分）中正確記錄。」
一定程度上，ChatGPT 并非完全不能用，只是用了需要在論文中說(shuō)清楚，與此同時(shí)，各個(gè)出版社杜絕 ChatGPT 等大模型成為論文作者，只能是一種輔助方式方法。
對(duì)此，HN 的上部分用戶(hù)直言：
「作為一個(gè)用 ChatGPT 寫(xiě)大學(xué)作業(yè)和論文的人，我想知道這有什么問(wèn)題嗎？當(dāng)我接到 "就某一主題寫(xiě) 3000 字"的作業(yè)時(shí)，實(shí)際上只需 500 字就能完成，整個(gè)引言以及作為填充的部分都可以用 ChatGPT 來(lái)加快速度。是的，你必須閱讀生成的整體內(nèi)容，檢查是否抄襲，然后相應(yīng)地添加參考文獻(xiàn)，但我不認(rèn)為這是不好的。」
也有不少人認(rèn)為應(yīng)該源頭上做出改變，譬如：
「大學(xué)系統(tǒng)早就應(yīng)該重新評(píng)估他們與期刊的關(guān)系以及發(fā)表論文的壓力。將教授和研究人員的職業(yè)生涯與他們的論文數(shù)量掛鉤是愚蠢的。其結(jié)果與質(zhì)量背道而馳。
公共資金往往是大多數(shù)研究的驅(qū)動(dòng)力，但研究成果卻被扔進(jìn)陳舊的以盈利為目的的付費(fèi)期刊系統(tǒng)。整個(gè)同行評(píng)審體系問(wèn)題重重，從低層次的腐敗（如"盲審"要求提供參考文獻(xiàn)以換取發(fā)表）到甚至無(wú)人閱讀論文。
當(dāng)一些像 ChatGPT 這樣的重大技術(shù)出現(xiàn)時(shí)，通常是回歸基礎(chǔ)的好時(shí)機(jī)，同時(shí)通過(guò)現(xiàn)代化來(lái)加強(qiáng)基礎(chǔ)。」
你在論文撰寫(xiě)亦或是學(xué)術(shù)過(guò)程中使用過(guò) ChatGPT 嗎？
參考：
https://news.ycombinator.com/item?id=37431946
https://www.nature.com/articles/d41586-023-02477-w
封面圖由Midjourney制作。