ChatGPT和新的AI以令人興奮和嚇人的方式對網絡安全造成破壞

生成型人工智慧正在改變網絡安全，同時對攻擊者和防禦者都有幫助。來自威脅情報平台 Recorded Future 的執行長 Christopher Ahlberg 表示，網絡罪犯正在利用人工智慧以大規模推出複雜且新穎的攻擊，而防禦者則正在使用同樣的技術保護重要基礎設施、政府機構和企業網絡。

生成式人工智慧（AI）幫助了不怀好意的參與者創新並開發了新的攻擊策略，使其能夠在網絡安全防禦之前佔據先機。AI幫助網絡罪犯自動化攻擊，掃描攻擊表面，並生成適合不同地理區域和人口統計數據的內容，使他們能夠針對不同國家的更廣泛範圍的潛在受害者。網絡罪犯采用這種技術來製作具有說服力的釣魚郵件。AI生成的文本幫助攻擊者製作高度個性化的郵件和短信，更有可能欺騙目標。

"我認為你無需過於創意地思考就可以意識到，這實際上可以幫助[網絡罪犯]成為作家，這是一個問題，" Ahlberg 說。

防禦者正在使用人工智能來抵禦攻擊。組織使用該技術主動預防洩漏並尋找網絡漏洞。它還可以動態自動化一些任務，例如設置特定關鍵字的警報以及檢測網上的敏感信息。威脅獵人使用人工智能來識別不尋常的模式並概述大量的數據，將跨多個信息來源和隱藏的模式連接起來。

這項工作仍然需要人類專家的參與，但 Ahlberg 表示，像 ChatGPT 這樣的生成式 AI 技術可以提供幫助。

"我們希望加快分析週期，以幫助我們以思維的速度進行分析，"他說道。"這是一件非常困難的事情，而我認為我們正在這裡見證一個突破，這相當令人興奮。"

Ahlberg 也討論了高度智能機器可能帶來的潛在威脅。隨著世界變得越來越數位化和互聯，能夠扭曲現實和塑造觀念的能力可能會被惡意行為者利用。這些威脅不僅限於國家，使得形勢更加複雜和不對稱。

人工智慧（AI）有潛力幫助防範這些新興威脅，但同時也帶來了一系列風險。例如，具有高度處理能力的機器可能比人類更快、更有效地入侵系統。為了應對這些威脅，我們需要確保AI的使用是防禦性的，並清楚了解誰在掌控之中。

隨著人工智慧（AI）在社會中融入率愈來愈高，法律立法者、法官以及其他決策者了解這項技術及其影響至關重要。建立技術專家與政策制定者之間的緊密聯盟，在AI在威脅獵殺等領域的未來中尋求出路至關重要。

AI 在資訊安全領域的機遇、挑戰和倫理考量是複雜且不斷演變的。確保無偏見的 AI 模型並保持人類參與決策將有助於應對倫理挑戰。對技術的警覺、協作及清晰的理解將在應對高度智能機器潛在長期威脅方面至關重要。

Ahlberg 也對中國、俄羅斯和經濟對手部署自主機器提出了擔憂。這些國家可能不會減緩人工智慧的發展或分享倫理考慮。雖然有能力在這些機器上「切斷插頭」是一個聰明的保障措施，但他指出，科技融入社會和全球經濟的程度可能會使它們難以脫離。Ahlberg 強調需要清楚設計產品和機器的控制權歸屬。

「互聯網在這一切中扮演的重要角色是，它成為了全球信息匯聚的地方，」Ahlberg 說道。「這些龐大的語言模型正在進行一些非常神奇的事情...這加速了思考的週期。」

他補充說道：「未來25年，世界將成為互聯網的一個倒影。」