[課程報導] ISACA 台灣與新加坡分會-資通風險評估 & AI 革命前景與風險

Raymond 以 CSA (Cyber Security Agency ) Singapore 新加坡網路安全局所公布的 2023 趨勢分析幾個現象為例 :

1. 信任被利⽤：專門攻擊供應鏈和3⽅服務漏洞
2. 駭客⾏動主義的進化：更加採取犀利戰術並擴展攻擊目標
3. 威脅GPT：將AI 武器化進⾏網路攻擊
4. ⽤於網路防禦的AI：案例研究⽅法來解決
5. (打擊) AI 與網路犯罪：數位世界需要策動更安全計畫

他進一步針對全球國際法規、標準，對AI定義條列出來分享給學員 :
ISACA : 人工智慧是一種先進的計算機系統，可以根據一組預先確定的規則模擬人類能力，例如分析。
NIST : 人工智慧是計算機科學的一個分支，致力於開發數據處理系統，該系統執行通常與人類智慧相關的功能，例如推理、學習和自我提升。
ISO : 人工智慧是一個致力於工程系統的技術和科學領域，該系統為一組設定出的人類定義目標生成內容、預測、建議或決策等輸出 [ ISO/IEC 22989：2022 ]。

MIT (麻省理工學院) 將AI風險分7個領域

自從2022年Chat GPT上市後，AI人工智慧與GenAI生成式AI話題熱議之際，其中網路安全的「風險議題」也無一倖免，其風險包含IT資產、IT流程、企業聲譽、人員等。

美國 MIT (麻省理工學院) 將 AI 風險分為 7 個領域 :
(1) 辨別和毒性
(2) 隱私和安全（違規）
(3) 錯誤資訊
(4) 惡意行為者和濫用
(5) 人機交互
(6) 社會經濟和環境危害
(7 ) AI系統安全、故障和限制

MIT這裡也提及從多元其他角度來思考風險，分別為實體(人為因素、人工智慧、其他) 、意圖(有意、無意、其他)與時間(部署前、部署後、其他)。雖然MIT為學術性質的研究與分享角度，且MIT AI 風險資料庫為免費使用，Raymond 建議大家可以上網瀏覽，網址為 https://airisk.mit.edu/