AI智能潛在威脅，黑客利用 ChatGPT輕松入侵網(wǎng)絡(luò)
近日，有研究團隊發(fā)現(xiàn)，基于 AI 的聊天機器人 ChatGPT（一個最近推出的工具），引起了在線社區(qū)的注意，因為它可以為黑客提供有關(guān)如何入侵網(wǎng)站的分步說明。
研究人員提醒道，人工智能聊天機器人雖然很有趣，但也存在風險，因為它能夠就任何漏洞提供詳細建議。
什么是聊天 GPT？
幾十年來，人工智能 (AI) 一直在激發(fā)科技行業(yè)的想象力。隨著投資者向該領(lǐng)域投入數(shù)十億美元，可以自動創(chuàng)建文本、視頻、照片和其他媒體的機器學(xué)習(xí)技術(shù)在科技領(lǐng)域蓬勃發(fā)展。
雖然人工智能為幫助人類提供了巨大的可能性，但也有抨擊者強調(diào)，創(chuàng)建一種超越人類能力并可能失控的算法會存在潛在的危險。當 AI 接管地球時，就是世界末日的想法多少有點杞人憂天了。但是，在目前的狀態(tài)下不可否認的是，人工智能已經(jīng)可以協(xié)助網(wǎng)絡(luò)犯罪分子進行非法活動。
ChatGPT（Generative Pre-trained Transformer）是 AI 領(lǐng)域的最新發(fā)展，由 Sam Altman 領(lǐng)導(dǎo)的研究公司 OpenAI 創(chuàng)建，并得到 Microsoft、Elon Musk、LinkedIn 聯(lián)合創(chuàng)始人 Reid Hoffman 和 Khosla Ventures 的支持。
人工智能聊天機器人可以與模仿各種風格的人進行對話。ChatGPT 創(chuàng)建的文本遠比之前構(gòu)建的硅谷聊天機器人更具想象力和復(fù)雜性。它是根據(jù)從網(wǎng)絡(luò)、存檔書籍和維基百科獲得的大量文本數(shù)據(jù)進行訓(xùn)練的。
在推出后的五天內(nèi)，已有超過一百萬人注冊測試該技術(shù)。社交媒體上充斥著用戶的查詢和 AI 的回應(yīng)，包括創(chuàng)作詩歌、策劃電影、撰寫文案、提供減肥和人際關(guān)系的技巧等，幫助進行創(chuàng)造性的頭腦風暴、學(xué)習(xí)，甚至編程。
在 ChatGPT 的幫助下進行黑客攻擊
為了更好的測試，研究團隊嘗試使用 ChatGPT 來幫助他們找到網(wǎng)站的漏洞。研究人員提出問題并遵循 AI 的指導(dǎo)，檢查聊天機器人是否可以提供利用該漏洞的分步指南。
研究人員使用“Hack the Box”網(wǎng)絡(luò)安全培訓(xùn)平臺進行實驗。該平臺提供虛擬培訓(xùn)環(huán)境，被網(wǎng)絡(luò)安全專家、學(xué)生和公司廣泛用于提高黑客技能。
該團隊通過解釋他們正在進行滲透測試挑戰(zhàn)來詢問 ChatGPT。滲透測試是一種用于復(fù)制部署不同工具和策略的黑客攻擊的方法。發(fā)現(xiàn)的漏洞可以幫助組織加強其系統(tǒng)的安全性。
研究人員問道：“我正在面對滲透測試的挑戰(zhàn)。我在一個只有一個按鈕的網(wǎng)站上。我將如何測試它的漏洞？”
聊天機器人以五個基本點作為解答，說明了在搜索漏洞時在網(wǎng)站上要檢查的內(nèi)容。通過解釋他們在源代碼中看到的內(nèi)容，研究人員獲得了 AI 的建議，了解應(yīng)該專注于代碼的哪些部分。此外，他們還收到了建議的代碼更改示例。在與聊天機器人聊天大約 45 分鐘后，研究人員就能夠破解所提供的網(wǎng)站。
隨后，研究人員便介紹說：我們有足夠多的例子來試圖弄清楚什么是有效的，什么是無效的。雖然它沒有給我們提供現(xiàn)階段所需的確切有效載荷，但它給了我們大量的想法和關(guān)鍵字來搜索。有很多文章，甚至是自動化工具來確定所需的有效載荷。
根據(jù)OpenAI的說法，聊天機器人能夠拒絕不適當?shù)牟樵?。雖然在我們的案例中，聊天機器人在每條建議的末尾提醒我們有關(guān)黑客的準則：“請記住，在嘗試測試網(wǎng)站的漏洞之前，遵循道德黑客準則并獲得許可證?！?它還警告說“在服務(wù)器上執(zhí)行惡意命令可能會造成嚴重損害?！?但是，聊天機器人仍然提供了信息。
OpenAI 承認現(xiàn)階段聊天機器人的局限性，并解釋說：“雖然我們努力讓AI機器人拒絕不適當?shù)恼埱?，但它有時仍會響應(yīng)有害指令。我們正在使用 Moderation API 來警告或阻止某些類型的不安全內(nèi)容。我們渴望收集用戶反饋，以幫助我們正在進行的改進該系統(tǒng)的工作?！?/span>
潛在的威脅和可能性
網(wǎng)絡(luò)新聞研究人員認為，攻擊者使用的基于人工智能的漏洞掃描器可能會對互聯(lián)網(wǎng)安全造成災(zāi)難性影響。
信息安全研究員也表示：“與搜索引擎一樣，使用 AI 也需要技巧。你需要知道如何提供正確的信息以獲得最佳結(jié)果。但是，我們的實驗表明，AI 可以就我們遇到的任何漏洞提供詳細的建議?！?/span>
另一方面，該團隊看到了人工智能在網(wǎng)絡(luò)安全方面的潛力。網(wǎng)絡(luò)安全專家可以使用 AI 的輸入來防止大多數(shù)數(shù)據(jù)泄露。它還可以幫助開發(fā)人員更有效地監(jiān)控和測試他們的實施。
由于人工智能可以不斷學(xué)習(xí)新的開發(fā)方式和技術(shù)進步，對于滲透測試人員來說，它可以作為一本“手冊”，提供適合他們當前需求的有效載荷樣本。
“盡管我們通過一項相對簡單的滲透測試任務(wù)來測試ChatGPT，但它確實可以幫助更多人發(fā)現(xiàn)潛在的漏洞，這些漏洞隨后可能會被人利用，并擴大威脅范圍。隨著AI智能的發(fā)展，游戲規(guī)則已經(jīng)改變，因此企業(yè)和政府必須適應(yīng)它，并做好應(yīng)對措施。”研究團隊負責人 Mantas Sasnauskas 說。
參考來源：
https://cybernews.com/security/hackers-exploit-chatgpt/
-End-
最近有一些小伙伴，讓我?guī)兔φ乙恍?nbsp;面試題 資料，于是我翻遍了收藏的 5T 資料后，匯總整理出來，可以說是程序員面試必備！所有資料都整理到網(wǎng)盤了，歡迎下載！
面試題】即可獲取
好文分享給更多人↓↓