安全內(nèi)參2月2日消息，去年11月OpenAI正式發(fā)布ChatGPT時，程序員們驚訝地發(fā)現(xiàn)，這個AI驅(qū)動的聊天機器人不僅能輕松模仿人類語言，甚至可以編寫代碼。
在發(fā)布的幾天之后，程序員們貼出了一條條令人瞠目結(jié)舌的代碼生成示例。從串接云服務(wù)到將Python代碼移植為Rust，ChatGPT至少在某些基礎(chǔ)編程任務(wù)上已經(jīng)表現(xiàn)出非凡的能力。
但我們也需要擦亮雙眼，將圍繞ChatGPT掀起的炒作跟真實情況區(qū)分開來。ChatGPT的編程能力先后登上一系列頭條新聞，類似“ChatGPT對網(wǎng)絡(luò)安全的威脅遠超大多數(shù)人想象”的標題也確實讓人心頭一緊。不單是普通讀者好奇于ChatGPT編寫惡意軟件的能力，經(jīng)驗豐富的黑客更想檢驗這個大語言模型到底能在惡意攻擊中發(fā)揮多大作用。
實測：
ChatGPT缺乏編碼專業(yè)知識
Marcus Hutchins（ID為MalwareTech）是一位從黑帽轉(zhuǎn)型為白帽的黑客，曾在2017年因阻止WannaCry勒索軟件傳播而備受關(guān)注。此前曾編寫銀行木馬的他，當然也對ChatGPT究竟有多大本事充滿好奇。聊天機器人真能用來編寫惡意軟件嗎？
一番嘗試之下，結(jié)果令人失望。Hutchins在采訪中表示，“這十年來，我一直在以合法身份開發(fā)惡意軟件。我一般要花三個小時才能寫出一段功能性代碼，而且得用開發(fā)效率較高的Python語言。”
經(jīng)過幾個小時的忙碌，Hutchins成功編寫出勒索軟件程序中的一個組件：文件加密例程。接下來，他嘗試讓ChatGPT把該組件跟其他必要功能組合成完整的惡意軟件，但這位“AI新秀”笨拙地失敗了。事實證明，ChatGPT不光難以把各種組件整合起來，甚至連正確打開文件都很費勁。
在這類基本排序問題中的糟糕表現(xiàn)，證明ChatGPT等生成式AI系統(tǒng)仍存在嚴重缺陷。盡管它們能夠創(chuàng)建出與訓練數(shù)據(jù)極為相似的內(nèi)容，但大語言模型往往缺乏構(gòu)成專業(yè)知識的糾錯工具與上下文知識。人們在驚訝于ChatGPT模仿效果的同時，卻經(jīng)常忽視了它的局限性。
如果大家全盤接受炒作所灌輸?shù)挠^點，那ChatGPT已經(jīng)幾乎無所不能。從文職工作到學術(shù)論文、再到專業(yè)考試，也包括黑客們擅長的惡意軟件開發(fā)，這一切都將被ChatGPT所掌控。然而，這種論調(diào)其實掩蓋了ChatGPT等工具的核心應(yīng)用方式——并不是要取代人類專業(yè)知識，而是充當高效的AI助手。
ChatGPT編碼依賴專家指導(dǎo)
在ChatGPT發(fā)布的幾周之后，就有多家網(wǎng)絡(luò)安全公司發(fā)布一系列報告，證明該機器人可能被用于編寫惡意軟件。消息一出，旋即催生了一大堆關(guān)于ChatGPT編寫“多態(tài)惡意軟件”的頭條新聞。但這些報告往往掩蓋了技術(shù)專家在指示模型編寫代碼，特別是糾正所生成代碼結(jié)果方面發(fā)揮的重要作用。
去年12月，安全解決方案供應(yīng)商CheckPoint的研究人員展示了ChatGPT如何從頭到尾構(gòu)建惡意軟件——包括編寫網(wǎng)絡(luò)釣魚電子郵件和惡意代碼。然而，要想讓它生成功能完備的代碼，必須由專業(yè)程序員一步步提供引導(dǎo)和提示，例如添加沙箱檢測和檢查某項功能是否對SQL注入開放。
CheckPoint公司研究員Sergey Shykevich表示，“攻擊者必須知道自己想要什么，并指定相應(yīng)功能。單純要求其「編寫惡意軟件代碼」并不能生成真正有用的結(jié)果。”
對于Hutchins這樣的黑客來說，提出正確的問題就是成功的一半。另外，很多將ChatGPT宣傳成編程工具的媒體，往往也忽視了使用ChatGPT協(xié)助軟件開發(fā)對于研究人員自身的專業(yè)知識要求。
Hutchins認為，“精通編程的用戶其實是在引導(dǎo)ChatGPT進行開發(fā)，他們可能沒意識到自己在過程中起了多么重要的作用。如果缺乏編程經(jīng)驗，用戶甚至不知道該給ChatGPT什么樣的提示。”
必須承認，ChatGPT目前仍是眾多惡意軟件開發(fā)工具中的一員。在上周發(fā)布的報告中，威脅情報公司Recorded Future在暗網(wǎng)和內(nèi)部論壇中，發(fā)現(xiàn)了1500多條關(guān)于使用ChatGPT開發(fā)惡意軟件、創(chuàng)建概念驗證代碼的參考資料。這份報告還提到，其中大部分代碼都公開可用。
Recorded Future認為，ChatGPT對于“腳本小子、黑客行動主義者、欺詐分子/垃圾郵件發(fā)送者、支付卡欺騙者等技術(shù)水平不高的網(wǎng)絡(luò)犯罪分子”最有幫助。
對于惡意開發(fā)領(lǐng)域的新手，ChatGPT也能提供一定幫助。報告總結(jié)稱，“ChatGPT能為迷茫的初學者提供實時示例、教程和資源，降低了惡意軟件開發(fā)的準入門檻。”
ChatGPT有望降低黑客技術(shù)門檻，
但掀起革命火候未足
但總體來看，惡意黑客方獲得的助益非常有限。ChatGPT雖然降低了黑客技術(shù)的學習難度和接觸門檻，但同樣的內(nèi)容也完全可以在谷歌上輕松查到。
外媒CyberScoop在去年12月曾報道，隨著ChatGPT和其他大語言模型的發(fā)展成熟，其編寫合法和惡意原始代碼的能力也將不斷提高。但在真正的轉(zhuǎn)折來臨之前，ChatGPT等工具所發(fā)揮的仍以輔助作用為主，做不到憑空生成惡意軟件。
例如，ChatGPT確實能夠高效生成網(wǎng)絡(luò)釣魚電子郵件。對于難以順暢使用英語（或其他目標語言）編寫含鏈接惡意消息的俄語黑客來說，ChatGPT能迅速提高他們的寫作技巧。
哥倫比亞大學計算機科學助理教授、Barracuda網(wǎng)絡(luò)安全公司顧問Asaf Cidon提到，“目前絕大多數(shù)攻擊源自電子郵件，而絕大多數(shù)郵件攻擊并不屬于惡意軟件攻擊。對方只是想誘導(dǎo)用戶交出憑證或者執(zhí)行轉(zhuǎn)賬操作。”Cidon認為“ChatGPT確實很擅長這方面工作”，所以釣魚欺詐會變得更容易。
但這只是變化中的一環(huán)，還不至于掀起黑客革命。高質(zhì)量的網(wǎng)絡(luò)釣魚郵件已經(jīng)很容易制作——可以由攻擊者自己編寫，也可以在外包平臺上雇用專業(yè)翻譯完成。ChatGPT的出現(xiàn)，只是把釣魚郵件推向了規(guī)模化時代。在Cidon看來，ChatGPT“降低了所需投入”。
還有一種特殊的使用方法，惡意黑客可以利用以往郵件歸檔對大語言模型進行微調(diào)，使其學會企業(yè)CEO的文字風格。Cidon提到，這樣訓練出的大語言模型往往能輕松騙過公司員工。
但專家們強調(diào)，在對ChatGPT的網(wǎng)絡(luò)安全影響進行廣泛評估時，必須持續(xù)關(guān)注整體趨勢。目前，已經(jīng)出現(xiàn)了在針對性攻擊中使用大語言模型的有趣案例。不過至少在多數(shù)情況下，ChatGPT恐怕還無法提高成功幾率。畢竟根據(jù)喬治敦大學安全與新興技術(shù)中心研究員Drew Lohn的觀察，“網(wǎng)絡(luò)釣魚活動已經(jīng)非常成功，ChatGPT的加入可能并不會產(chǎn)生太大影響。”
總的來說，ChatGPT等工具有望降低準入門檻、擴大惡意黑客的群體規(guī)模。Lohn認為，ChatGPT也許能“引導(dǎo)黑客在不借助任何新型惡意軟件的情況下，順利完成入侵過程。……目前網(wǎng)絡(luò)上已經(jīng)充斥著大量開源工具和預(yù)先打包的惡意軟件，我擔心ChatGPT的普及會把這些工具交付到每個人手上。”
他也承認這個領(lǐng)域仍處于快速變化階段，情況隨時可能不同：“一個禮拜之后，也許一切都將改變。”
歡迎關(guān)注電子技術(shù)應(yīng)用2023年2月22日==>>商業(yè)航天研討會<<
