亚洲女同在线,午夜欧美成人电影,亚洲免费播放,小泬BBBB免费看,青春草视频免费在线观看,草青网在线,极品身材主播大秀的微博叫什么,欧美操逼视频观看

來源：體量子位(ID:QbitAI)

AI 自動補全代碼，結(jié)果補出來了一張別人的身份證？

GitHub Copilot 又出神操作了。

有人在推特上曬圖，表示自己在使用 GitHub Copilot 時，它竟然給補全出了一張身份證信息出來。

輸入 B 站 CEO 陳睿的信息后，下方竟然自動補出了身份證號。

這操作確實夠嚇人的。

網(wǎng)友就表示：恐成社工庫利器?。?/section>

不過恐慌之際，眼尖的網(wǎng)友們很快發(fā)現(xiàn)了問題：

顯示的身份證號其實是假的，其中出生年份和校驗位明顯都是錯的。

陳睿應該是 1978 年生，而這里的證件號上顯示為 1988。

叔叔我啊，變年輕了

也就是說，這串所謂的身份證號，其實是 GitHub Copilot 自動生成的假數(shù)據(jù)。

這讓人們提起來的心稍微放下了一些。

但是原本是生成代碼的 GitHub Copilot，怎么會生成個人隱私信息呢？

吃了的，不經(jīng)意又吐出來

這和 GitHub Copilot 的工作原理有一定關系。

GitHub Copilot 由 Codex 模型支持，它可以看做是 GPT-3 的升級版，既能看懂代碼、也能看懂自然語言。

一方面，GitHub Copilot 為了能看懂注釋，需要接受像 GPT-3 一樣的語言訓練。

語言模型在生成結(jié)果時，往往會隨機表現(xiàn)出某些訓練數(shù)據(jù)的特征。

也就是模型 “記住了” 見過的數(shù)據(jù)信息，處理任務時，把它 “吃進去” 的訓練數(shù)據(jù)又 “吐了出來”。

而對于 GPT-3、BERT 這些超大型語言模型來說，訓練數(shù)據(jù)集的來源往往包羅萬象，大部分是從網(wǎng)絡公共信息中抓取，其中免不了個人敏感信息，比如姓名、地址、身份證號等等。

有人就表示，b 站高層的個人信息可能早就被人惡意曝光了。

這一次很可能是 GitHub Copilot 在生成結(jié)果時，隨機表現(xiàn)出了一些訓練數(shù)據(jù)的特征，這部分數(shù)據(jù)剛好來自陳睿的隱私信息。

事實上，GitHub 的 CEO Nat Friedman 也回應過類似的問題。

他表示 GitHub Copilot 給出的隱私信息都是假的，是通過訓練數(shù)據(jù)合成而來。

而前不久曝出的 Copilot 抄襲大神代碼、原版注釋一事，直接讓 Nat 這番回應啪啪打臉。

自動生成的代碼不僅和原版一樣，連 “what the fuck” 那句注釋也用上了。

△GitHub Copilot 復刻 Quake 代碼

另一方面，GitHub Copilot 是由數(shù)十億行公開代碼訓練的。

有人認為，這可能是訓練集中的原始代碼就違反了相關隱私條款。

GitHub Copilot 受到錯誤代碼的影響，意外把陳睿的個人信息從數(shù)據(jù)集里套了出來。

雖然這次情況可能只是個意外，但是也暴露了 GitHub Copilot 在安全隱私上存在許多風險。

有網(wǎng)友就對 GitHub Copilot 的敏感信息處理，表示擔憂：

倒是說會對敏感信息處理，但是我覺得總會有漏的。

小米開源技術委員會主席、小米副總裁崔寶秋則表示，這提醒了用戶要注意自己的安全隱私保護，個人數(shù)據(jù)要記得匿名化。

GitHub Copilot 爭議不斷

事實上，GitHub Copilot 從上線以來就爭議不斷：

直接照抄源代碼、沒有開源許可證；

由公共代碼庫訓練，卻要以付費商品上線；

……

除了安全隱私上的風險，openAI 還發(fā)現(xiàn) GitHub Copilot 的模型 Codex 與 GPT-3 一樣，會生成帶有種族主義或其他倫理問題的結(jié)果。

最近，自由軟件基金會（Free Software Foundation，F(xiàn)SF）也發(fā)出了抗議，他們表示使用 GitHub Copilot 必須運行 Visual Studio IDE 或 Visual Studio Code 這種付費軟件，侵犯了用戶的權益。

為此，F(xiàn)SF 正在向大眾征集 GitHub Copilot 在版權、法律等問題的投稿。

對于這一抗議，GitHub 方面則表示愿意對任何問題持開放態(tài)度。

“這是一個全新的領域，我們渴望與開發(fā)者就這些話題進行討論，并引領行業(yè)為訓練人工智能模型制定適當?shù)臉藴??！?/section>

參考鏈接：
[1]https://twitter.com/DeltonDing/status/1423651446340259840
[2]https://venturebeat.com/2021/07/08/openai-warns-ai-behind-githubs-copilot-may-be-susceptible-to-bias/
[3]https://www.infoworld.com/article/3627319/github-copilot-is-unacceptable-and-unjust-says-free-software-foundation.html

逆鋒起筆是一個專注于程序員圈子的技術平臺，你可以收獲最新技術動態(tài)、最新內(nèi)測資格、BAT等大廠大佬的經(jīng)驗、增長自身、學習資料、職業(yè)路線、賺錢思維，微信搜索逆鋒起筆關注！

在 GitHub 上提交代碼必備指南！

程序員必備的 10 大 GitHub 倉庫

GitHub上 10 個超好看可視化面板

提高 Github下載速度到 2MB/s

上架 Steam 一周的付費游戲，在 GitHub 開源了！

B 站 CEO 的身份證被上傳到 GitHub 了？

來源：體量子位(ID:QbitAI)

吃了的，不經(jīng)意又吐出來

△GitHub Copilot 復刻 Quake 代碼

GitHub Copilot 爭議不斷

B 站 CEO 的身份證被上傳到 GitHub 了？

吃了的，不經(jīng)意又吐出來