最新的AI會(huì)“殺死”編程嗎？
大數(shù)據(jù)文摘授權(quán)轉(zhuǎn)載自數(shù)據(jù)派THU
現(xiàn)在，AI可以使用任何語言進(jìn)行編碼，而無需額外的培訓(xùn)。
?
2017年，有研究人員問：人工智能能否在2040年之前編寫出大多數(shù)代碼？測試人員現(xiàn)在正在使用OpenAI的GPT-3已經(jīng)可以使用任何語言進(jìn)行編碼。機(jī)器主導(dǎo)的編碼幾乎就差臨門一腳了。
?
GPT-3接受了數(shù)千億個(gè)單詞的訓(xùn)練，或者說基本上整個(gè)互聯(lián)網(wǎng)都參與了訓(xùn)練，這就是為什么它可以使用CSS，JSX，Python等任何你能說出名字的語言進(jìn)行編碼的原因。
此外，GPT-3無需對各種語言任務(wù)進(jìn)行“訓(xùn)練”，因?yàn)槠溆?xùn)練數(shù)據(jù)包羅萬象。相反，當(dāng)你給出瑣碎的指令時(shí)，網(wǎng)絡(luò)會(huì)被手頭上的任務(wù)限制住。
?
GPT-n的演變
GPT通過將有監(jiān)督學(xué)習(xí)與無監(jiān)督的預(yù)訓(xùn)練相結(jié)合（或?qū)o監(jiān)督步驟的參數(shù)用作有監(jiān)督步驟的起點(diǎn)），實(shí)現(xiàn)了語言任務(wù)的最先進(jìn)水平。與下一代相比，GPT很小。它僅利用了一臺(tái)8CPU機(jī)器在幾千本書上進(jìn)行訓(xùn)練。
?
GPT-2極大地?cái)U(kuò)展了內(nèi)容，包含10倍的參數(shù)，并加入了10倍以上的訓(xùn)練數(shù)據(jù)。盡管如此，該數(shù)據(jù)集還是相對有限的，它專門使用“至少運(yùn)用了3個(gè)karma的Reddit出站鏈接”進(jìn)行訓(xùn)練。GPT-2被描述為一個(gè)“類似變色龍”的合成文本生成器，但在諸如回答問題，總結(jié)或翻譯之類的下游任務(wù)中并不是最先進(jìn)的。
?
（照片來自Hans-Jurgen Mager）
?
GPT-3是AI世界中最新，最強(qiáng)大的工具，它在一系列任務(wù)中達(dá)到了最先進(jìn)的水平。它的主要突破是消除了針對特定任務(wù)微調(diào)的需求。在大小方面，該模型再次大幅擴(kuò)展，達(dá)到了1,750億個(gè)參數(shù)，是其前身規(guī)模的116倍。
然而，GPT-3完全不需要訓(xùn)練（零次學(xué)習(xí)的例子），單次學(xué)習(xí)或多次學(xué)習(xí)會(huì)使它喪失原本優(yōu)秀的性能。
?
進(jìn)化還是死亡
情況是這樣：測試人員正在使用GPT-3來生成能掌握必要繁瑣知識的有效代碼從按鈕到數(shù)據(jù)表，甚至重新創(chuàng)建Google主頁。這些示例都是通過零樣本學(xué)習(xí)完成的。
?
除了AI的飛速發(fā)展外，另外兩個(gè)主要的技術(shù)趨勢也使編程工作在未來不穩(wěn)定的現(xiàn)實(shí)變得更為嚴(yán)峻：無代碼和AutoML。
?
無代碼是指可視化工具，使任何人都可以輕松構(gòu)建新產(chǎn)品，無論是網(wǎng)站，設(shè)計(jì)，數(shù)據(jù)分析還是模型。WordPress，Wix和Shopify是無代碼工具的典范，它使數(shù)以百萬計(jì)的人能夠自己做事，而不必雇用開發(fā)人員或設(shè)計(jì)師。
?
第二個(gè)趨勢是AutoML，即自動(dòng)機(jī)器學(xué)習(xí)，它大大縮短了將AI投入生產(chǎn)的時(shí)間。
?
諸如Apteo之類的工具結(jié)合了這些趨勢，使任何人都可以部署AI模型而無需任何編碼技能。
?
GPT-3將引發(fā)另一波無代碼和AutoML工具的浪潮。許多潛在的雇主會(huì)選擇這些工具，而不是雇用昂貴的程序員。
?
自然地，技能最差的程序員將是最先離開的人群，而專家將享有更長的工作安全性-與任何領(lǐng)域一樣。
?
不僅僅是代碼—GPT-3適用于任何語言任務(wù)
要將GPT-3定向到特定的語言任務(wù)，只需簡單地把你希望實(shí)現(xiàn)的示例提供給它。因此，您可以指導(dǎo)GPT-3編寫代碼，也可以指導(dǎo)它編寫詩歌，音樂，社交媒體評論或任何其他文本。
?
例如，如果您要生成新聞文章，則可以輸入諸如“美國衛(wèi)理公會(huì)同意歷史性分裂”之類的標(biāo)題，以及諸如“反對同性婚姻的人將構(gòu)成自己的宗派”之類的副標(biāo)題。
?
輸入這些，GPT-3產(chǎn)生以下結(jié)果：
?
“經(jīng)過兩天的激烈辯論，衛(wèi)理公會(huì)聯(lián)合會(huì)達(dá)成了歷史性的分裂-預(yù)期將以新教派的創(chuàng)建而告終，根據(jù)《華盛頓郵報(bào)》的說法，該教派將是“神學(xué)上和社會(huì)上的保守派”。參加5月教堂年度大會(huì)的大多數(shù)代表投票表決，加強(qiáng)了對LGBTQ神職人員排序的禁令，并制定了新規(guī)則，將“紀(jì)律”主持同性婚禮的神職人員。但是那些反對這些措施的人有一個(gè)新計(jì)劃：他們說到2020年他們將組成一個(gè)單獨(dú)的教派，稱他們的教會(huì)為基督教衛(wèi)理公會(huì)派教徒……”
?
只有12％的人類正確地指出這是由AI編寫的。88％被騙了。
?
就像人類一樣，GPT-3可以僅通過一個(gè)例子就學(xué)會(huì)新單詞。例如，給定上下文：
?
“ Burringo”是具有非?？斓募铀俣鹊钠?。一個(gè)使用Burringo單詞的句子的示例是：
GPT-3輸出：
?
在我們的車庫中，有一個(gè)父親每天開車去工作的Burringo。
?
這些結(jié)果令人激動(dòng)。請記住，人工智能的發(fā)展必然的，因此對當(dāng)前性能的任何批評都將化為烏有。
?
不僅僅是語言—GPT應(yīng)用于圖像
GPT可以編寫代碼，或者可以編寫任何東西，但是它也可以生成圖像。
?
這怎么可能？
?
可以在像素序列而不是文本編碼上訓(xùn)練相同的模型體系結(jié)構(gòu)，從而生成新的圖像而不是新的文本。實(shí)際上，它在這方面如此出色以至于可以與頂級CNN競爭。
?
我之所以提及這一點(diǎn)，是因?yàn)樗砻鱃PT（及下一代）不僅具有某一天取代編碼器的潛力，而且鑒于其通用性，還可以取代整個(gè)行業(yè)。
?
結(jié)論
GPT-3令人難以置信的性能已經(jīng)使許多人相信超級智能比我們想象的要近，或者至少，人工智能生成代碼比我們想象的要近。它會(huì)產(chǎn)生創(chuàng)造性的、有見地的、深刻甚至美麗的內(nèi)容。有關(guān)GPT-3的更多創(chuàng)造性示例（并且如果您需要更相信它的強(qiáng)大，請查看Gwern的這篇文章）：
https://www.gwern.net/GPT-3#effective-prompt-programming
相關(guān)報(bào)道：
實(shí)習(xí)/全職編輯記者招聘ing
加入我們，親身體驗(yàn)一家專業(yè)科技媒體采寫的每個(gè)細(xì)節(jié)，在最有前景的行業(yè)，和一群遍布全球最優(yōu)秀的人一起成長。坐標(biāo)北京·清華東門，在大數(shù)據(jù)文摘主頁對話頁回復(fù)“招聘”了解詳情。簡歷請直接發(fā)送至[email protected]
