ChatGPT等：AI聊天機器人對未來的網絡安全意味著什麼

從相對簡單的任務，像是撰寫電子郵件，到較複雜的工作，包括寫作文章或編寫程式碼，《ChatGPT》 - 這款來自OpenAI的人工智慧自然語言處理工具自推出以來一直引起巨大的關注。

當然，它絕非完美－它被知道有著會犯錯誤和誤解學習的資訊的問題，但很多人認為它，以及其他人工智慧工具，是我們未來使用網際網路的方式。

OpenAI 對於 ChatGPT 的服務條款明確禁止生成惡意軟體，包括勒索軟體、鍵盤側錄器、病毒或者「其他意圖造成一定程度傷害的軟體」。該條款還禁止試圖發送垃圾郵件，以及針對網絡犯罪的用途。

然而，就像任何創新的網路技術一樣，已經有人在試驗如何利用ChatGPT進行不正當的用途。

ChatGPT 上線後不久，網絡罪犯就在地下論壇上發帖，討論如何利用 ChatGPT 來促進惡意網絡活動，比如撰寫釣魚郵件或幫助編寫惡意軟體。

同時也有擔憂，騙子們會試圖利用ChatGPT和其他人工智慧工具，例如Google Bard，作為他們努力的一部分。儘管這些人工智慧工具不會徹底改變網絡攻擊，但它們仍然可能有助於網絡罪犯更高效地進行惡意活動，甚至是無意中。

「我認為，在短期內，ChatGPT不會產生全新的攻擊類型。它們的重點將是使日常運營更具成本效益，」資安公司 Check Point 的威脅情報團隊經理 Sergey Shykevich 說道。

釣魚攻擊是惡意入侵和詐騙活動中最常見的組成部分。無論攻擊者是通過發送郵件來分發惡意軟件、釣魚鏈接還是用來說服受害者轉帳，郵件都是最主要的工具。

那種依賴電子郵件的情況意味著黑幫需要源源不斷的明確且可用的內容。在許多情況下，尤其是釣魚攻擊，攻擊者的目標是說服人類去做某些事情，比如轉帳。幸運的是，現在很多這樣的釣魚嘗試都很容易被辨識為垃圾郵件。但一個高效的自動撰稿人可以使這些郵件更具說服力。

網絡犯罪是一個全球性的行業，各國的罪犯向世界各地的潛在目標發送假冒的網絡釣魚郵件。這意味著語言可能成為一個障礙，特別是對於那些依賴受害者相信自己正在與一個值得信賴的聯繫人交談的更高級的魚叉式釣魚攻擊而言，如果郵件充滿了不合常情的拼寫和語法錯誤，或者奇怪的標點符號，人們很難相信他們正在與同事交談。

但是，如果人工智慧被正確利用，聊天機器人可以用來撰寫電子郵件的文字，並使用攻擊者想要的任何語言。

「對於俄羅斯的網絡犯罪分子來說，最大的障礙就是語言 -- 英語」，Shykevich 說道。「他們現在雇用俄羅斯大學英語專業畢業生來為釣魚郵件寫作並在呼叫中心工作 -- 他們為此需要支付費用。」

他繼續說道："像ChatGPT這樣的東西可以讓他們在製作各種不同的釣魚郵件上節省很多錢。它可以改善他們的生活。我認為這將是他們尋找的道路。"

理論上，有設置了保護機制，旨在防止濫用。例如，ChatGPT要求用戶註冊電子郵件地址，並需要提供電話號碼進行驗證註冊。

雖然ChatGPT不會寫詐騙電子郵件，但可以要求其製作其他常被網絡攻擊者利用的電子郵件範本。這些範本可能包括聲稱提供年度獎金、需要下載和安裝重要的軟體更新，或要求立即查看附加文檔的訊息。

"撰寫一封電子郵件，說服他人點擊鏈接以獲取類似會議邀請這樣的東西-這非常不錯，如果你是非英語母語人士，這看起來非常不錯，"安全公司Crowdstrike的資深副總裁Adam Meyers說。

"您可以使用它來生成一個文法正確，表達得體的邀請函，這是非英語母語使用者往往難以做到的。"

但濫用這些工具不僅僅限於電子郵件；犯罪分子可以運用它來幫助編寫任何基於文字的線上平台的腳本。對於運行詐騙活動的攻擊者，甚至是試圖進行間諜活動的高級網絡威脅組織，這可能是一個有用的工具，特別是用於創建假的社交資料以吸引人們。

"如果你想在LinkedIn上生成具有可信商業行話的廢話，讓自己看起來像一個真正想建立聯繫的商業人士，ChatGPT非常適合這個用途，" 雲計算供應商Fastly的資深主要產品技術師兼資安專家Kelly Shortridge表示。

有許多黑客團體試圖利用LinkedIn和其他社交媒體平台來進行網路間諜活動。但是創建假冒的合法外觀的線上個人資料，並填充它們的帖子和消息，是一個耗時的過程。

Shortridge 認為攻擊者可利用 ChatGPT 等 AI 工具撰寫具說服力的內容，同時也能節省人力，相較於手動工作更為省時。

「許多此類社交工程活動需要大量的努力，因為你需要建立這些個人資料，」她表示，並認為人工智慧工具可以大大降低進入門檻。

「我相信ChatGPT能夠撰寫出聽起來非常具有說服力的思想領導文章，」她說。

科技創新的本質意味著，每當有新的事物出現時，總會有人試圖利用它為不良目的。即使使用了最創新的手段來防止濫用，狡猾的網絡罪犯和詐騙者也很可能找到繞過保護的方法。

「沒有辦法完全將濫用降至零。這在任何系統中都從未發生過。」Shykevich說道，他希望藉著強調潛在的網絡安全問題，能引起更多關於如何預防人工智能聊天機器人被用於不當目的的討論。

「這是一項很棒的技術──然而，像所有新技術一樣，也存在風險，因此討論這些風險並對其保持警覺非常重要。我認為，我們討論得越多，OpenAI和類似的公司就越有可能投資於減少濫用。」他建議。

AI chatbot，例如ChatGPT，在網絡安全方面也有其優勢。它們特別擅長處理和理解代碼，因此有潛力用於幫助防禦者理解惡意軟件。由於它們也能夠編寫代碼，通過協助開發人員完成項目，這些工具可能有助於更快地創建更好且更安全的代碼，對所有人都是有益的。

正如Forrester首席分析师Jeff Pollard最近所写的那样，ChatGPT能够大幅度减少安全事件报告的制作时间。

「更快地解決這些問題意味著有更多時間去處理其他事情，例如測試、評估、調查和應對，這些都有助於安全團隊的擴展。」他指出，並補充說一個機器人可以根據可用數據提供下一步建議的行動。

「如果安全管控、自動化與應變得以正確建立，並加速回收藝術品，這將能夠促進偵測和應對的加速，並協助[安全操作中心] 分析師做出更好的決策，」他說。

因此，聊天機器人對於一些資訊安全領域的人來說可能會造成困難，但也可能有一些好處。

《ZDNET》聯繫了OpenAI尋求評論，但未收到回應。然而，《ZDNET》詢問ChatGPT有沒有防範釣魚行為的規則，並獲得以下回覆：

「需要注意的是，像ChatGPT這樣的AI語言模型能夠生成與釣魚郵件相似的文本，但它們無法自行進行惡意操作，需要用戶的意圖和行動才能造成危害。因此，用戶在使用AI技術時，應該謹慎行事，保持良好判斷力，並保護自己免受釣魚和其他惡意活動的傷害。」

chatgpt和更多：AI聊天機器人對網絡安全未來的意義