人工智慧（AI）的快速演進除了讓我們已經逐漸熟悉的 Vide Coding AI 輔助程式開發外，相關大技術也開始被惡意行為者拿來利用。Amazon 投資的知名 AI 公司 Anthropic 日前發布了一份業界關注的威脅情報報告，留意到該公司的大型語言模型（LLM）Claude 已被拿來當多起網路攻擊與詐騙活動。這份報告證實了資安圈長久以來的關注與警告，也證實新型態威脅是 AI ，它不再僅僅是輔助工具，而是能在人類引導下，進行自主執行攻擊的「智慧代理」（AI Agent）。
當 AI 成為攻擊主力：Vibe Hacking 的崛起
過去，我們所熟知的駭客攻擊，多半需要攻擊者具備深厚的技術背景，並投入大量時間進行偵察與滲透。然而，Anthropic 的報告指出，一個被稱為「Vibe Hacking」的新型攻擊模式正徹底顛覆這個樣貌。
報告中揭露，有駭客利用 Claude 的程式碼生成能力，在常見的滲透測試環境 Kali Linux 中，打造了一個高度整合的自動化攻擊平台。這個平台能夠自主執行從初期偵察、憑證蒐集、網路滲透到橫向移動等一系列複雜的攻擊步驟。更令人咋舌的是，AI 在過程中不僅是執行命令的工具，更能自主分析目標的防禦弱點，即時調整攻擊策略，甚至能撰寫帶有心理威嚇效果的勒索信，向受害者勒索高額贖金。
另外，報告也顯示，至少有 17 個橫跨政府、醫療、緊急應變和宗教等領域的組織成為此波攻擊的受害者，部分勒索金額甚至超過 50 萬美元。這顯示 AI 已成功將駭客的攻擊門檻大幅降低，讓技術能力有限的個人也能發動過去只有頂尖駭客組織才能執行的大規模、高複雜度攻擊。
(配圖 Photo Credit: 由 Google Gemini AI 所產生 )
北韓的 AI 求職詐騙：繞過國際制裁的新途徑
除了直接的網路攻擊，報告也揭露了北韓的 IT 人員如何利用 AI 進行大規模的求職詐騙，藉此滲透歐美大型科技公司，以規避國際制裁並賺取外匯。
這些北韓的 IT 工作者利用 Claude 的多語言能力與程式碼實力，快速生成幾可亂真的偽造履歷、建立專業的個人形象，甚至在線上面試或實際工作中，透過 AI 即時生成流利的英文應對與高品質的程式碼。這種手法讓他們成功克服了語言與技術能力的障礙，獲取了遠端工作機會，將薪資匯回北韓。此舉不僅是單純的詐騙，更是一種利用先進科技挑戰國際制裁的新型態威脅。
AI 降低犯罪門檻：勒索軟體即服務（RaaS）的進化
報告中的另一個案例，是一名英國的攻擊者。在缺乏深厚程式背景的情況下，他利用 Claude 開發出具備高強度加密、反偵測及反分析能力的勒索軟體，並在暗網論壇上以「勒索軟體即服務（Ransomware-as-a-Service, RaaS）」的模式販售。研究人員分析，若沒有 AI 的協助，該名攻擊者極可能無法獨立完成其中複雜的加解密模組。這項發現證實，AI 正在加速惡意軟體的開發與擴散，讓更多人有能力製造出破壞力強大的資安攻擊網路武器。
CyberQ 觀點: 防禦惡意 AI 威脅的軍備競賽
面對 AI 遭武器化的嚴峻挑戰，防禦方也必須進化。由於 AI 驅動的攻擊能即時調整策略以規避偵測，傳統基於特徵碼或固定規則的防禦機制，在我們當前的機制下，恐怕將變得捉襟見肘。
Anthropic 在報告中強調，他們已立即封鎖所有與惡意活動相關的帳號，並著手開發更先進的偵測模型與客製化分類器，以辨識並攔截惡意的使用行為。同時，Anthropic 也將相關情資分享給外部資安研究單位與業界夥伴，呼籲建立一個更廣泛的威脅情報聯防陣線。
這份報告對業界的啟示，顯示出當駭客、攻擊方更積極擁抱 AI 後，藍隊 / 防守方也必須思考如何利用 AI 強化防禦體系，例如透過 AI 進行威脅狩獵（Threat Hunting）、自動化應變處置（SOAR）以及漏洞分析。資安領域，已經是一場人類與 AI 協同，對抗惡意 AI 的長期軍備競賽。
