全球網路資安廠商趨勢科技發布研究註一指出，指出在各大企業正積極導入AI以強化資安防禦的同時，對於AI可能擴大攻擊面並帶來新型風險的擔憂也日趨提升。
趨勢科技企業平台長金敬秀表示：「AI在強化資安防禦上具有巨大潛力，能更快速地識別異常，並自動化處理繁瑣任務。然而，攻擊者也同樣渴望藉助AI來達成其非法意圖，這使得威脅態勢迅速演變。我們的研究與實測明確指出，AI系統在設計初期就必須內建資安防護。這相當重要，絕不能被視為導入AI系統之後才考量的問題。」
根據本次研究，台灣已有91%的企業將AI工具納入資安策略，高於全球81%，且剩下的9%企業也正積極探索導入的可能性。幾乎所有受訪者(98%)都願意在某種程度上使用AI，而近半數企業已依賴AI處理如資產自動盤點、風險優先順序排序、異常偵測等關鍵任務。有一半的受訪者表示，AI與自動化是未來12個月內強化資安的首要任務。
然而，AI帶來的正向發展也伴隨著資安風險隱憂。高達92%的企業認為AI將在未來三至五年對其資安曝險造成負面影響。台灣有43%、全球有超過半數的受訪企業預期AI驅動的攻擊將在規模與複雜性上大幅升級，迫使他們重新思考現有資安策略，而企業指出前五大擔憂包括：資料處理與儲存方式不透明、AI網路釣魚或社交工程攻擊的風險增加、AI系統可能暴露敏感資料、自有資料被不可信模型濫用，以及由於終端裝置、API與影子IT增加而引發的合規與監控挑戰。
今年趨勢科技於柏林舉辦的Pwn2Own駭客大賽，首次加入AI類別，也突顯了機會與風險之間的拉鋸戰。比賽針對四大主流AI框架進行攻擊，共有十二組參賽團隊出擊，其中以NVIDIA Triton Inference Server推論伺服器受到最多關注。Chroma、Redis與NVIDIA Container Toolkit亦遭成功入侵，有些甚至僅透過一個漏洞就全面攻破。總計發現七個AI框架中的零日漏洞。廠商將有90天的時間進行漏洞修補，之後相關技術細節才會對外公開。
隨著AI更深入整合至企業IT環境中，趨勢科技呼籲資安領導人應主動評估快速變化的風險態勢，並將嚴謹的資安規範貫穿AI導入的每個階段。
趨勢科技最新研究：https://www.trendmicro.com/explore/aichangingcyberrisk
註一：趨勢科技委託Sapio Research訪問了2,250名IT和/或網路資安負責人（其中100名為來自台灣的IT和/或網路資安負責人），涵蓋多種垂直產業、企業規模，以及歐洲、北美與亞太地區21個國家。
