作為一款基于文本的問答式機器人（或稱聊天機器人），ChatGPT因廣泛應用先進的AI技術而備受關注。從準確修復編碼錯誤、生成烹飪食譜、創建3D動畫到制作完整的歌曲、撰寫小說和學術論文，ChatGPT展現了人工智能（AI）的驚人能量。然而，有專家提出，人們可以利用諸如ChatGPT等AI工具便捷自己的工作和生活，但若被不道德地使用，ChatGPT也會被用于開發智能惡意軟件程序并發起隱形攻擊。
“AI一直被視為是一把‘雙刃劍’?！本W絡安全供應商“派拓網絡”副總裁兼亞太及日本地區首席安全官希恩·杜卡（Sean Duca）2月7日在受訪中說道，自2022年11月底ChatGPT問世以來，全球技術專家和評論員一直在關注AI生成的內容工具所產生的影響，尤其是對網絡安全的影響。
受訪的一些技術專家也表示，這種關注也被視為是對ChatGPT“能力”的側面肯定。
在2022 年黑帽和Defcon安全大會上，一個技術團隊展示了AI在生成釣魚郵件和魚叉式釣魚信息方面是如何超越人類的：研究人員將OpenAI的GPT-3平臺與其他側重于個性分析的AI即服務產品相結合，生成了根據他們同事的背景和性格而定制的釣魚郵件。最終，研究人員開發出一個在攻擊目標之前對郵件進行梳理和完善的流程。令他們驚訝的是，這個平臺還能自動提供具體內容——例如當被要求生成針對特定國家的人的內容時，會提到該國的法律。
ChatGPT發布后，其開發者明確表示，這款AI工具具有“質疑錯誤前提”和“拒絕不當請求”的能力。但是，盡管該系統自帶用于防止任何形式犯罪活動的“防護欄”，但經過調整，它生成了一封看上去極其像人類寫出來的近乎完美的釣魚郵件。
目前，勒索軟件攻擊是最主要的安全事件。據統計，勒索軟件攻擊不僅案例數量超過總量的三分之一（36%），而且攻擊者索要和獲得的贖金也在不斷增加。安全專家認為，究其原因，主要是由于“暗網”中的勒索軟件工具價格低廉——甚至不到10美元，而且還出現了“勒索軟件即服務”模式和ChatGPT等AI工具，這大大降低了網絡犯罪的門檻。
希恩·杜卡表示，鑒于日益智能和先進的黑客技術所帶來的威脅迫在眉睫，網絡安全行業必須擁有同等資源才能對抗這些AI驅動的攻擊。從長遠來看，安全行業的目標不是僅讓一群人類威脅獵手通過猜測來零散地解決問題，當務之急是采取智能化的行動來化解這些不斷發展的威脅。
專家認為，從技術的復雜性到人為因素，企業在確保AI網絡安全的過程中面臨著諸多挑戰，尤其是需要高度重視機器、人類和道德因素之間的平衡。
“好消息是，自主響應如今能夠在無需人類干預的情況下有效解決威脅。但隨著AI驅動的攻擊成為常態，受到自動化惡意軟件攻擊的企業、政府和個人需要越來越多地依靠AI和機器學習等新興技術做出自動化響應?！毕６鳌ざ趴ㄕf道，某種程度上，這可以算得上是“解鈴還須系鈴人”。
