571
預測 5：保護 GenAI 代碼中的智慧財產權將成為關鍵
隨著 AI 生成代碼的使用愈加普遍，組織將面臨來自訓練資料的專有智慧財產權（IP）可能被無意使用的風險。AI 模型依賴於龐大的資料集進行訓練，組織若不慎使用，可能會侵犯版權法並導致法律訴訟及聲譽損害。嚴格的資料審計、品質保證及合規框架將成為保護專有 IP 的重要基礎。為此，針對訓練資料中專有內容進行辨識與排除的先進技術將有助於企業確保 AI 的負責與合法使用。
預測 6：AI 資料處理的合規框架將更加嚴格
我們預測 AI 資料安全將迎來更嚴格的全球法規及內部治理框架。隨著 AI 模型處理與生成資料的規模不斷擴大，新的漏洞正在浮現，這需要更為強化與專業化的保護措施。法規的變化將促使企業加強對先進安全措施的投資與人員培訓，以降低法律風險並建立信任。合規性將從法律責任轉變為永續成長的策略，重點關注 AI 訓練資料的安全性及更嚴格的模型監督，以確保安全部署。
預測 7：開發者規避限制性 AI 政策可能導致風險增加
隨著組織針對 AI 制定政策，我們預測部分開發者可能為了追求速度與敏捷性而規避限制性規定，導致未授權的 AI 使用，進一步暴露應用於新漏洞，並提升遭遇網路攻擊的風險。為應對這些風險，企業需要找到一個平衡點，制定既能保障安全又不影響創新的安全協議。
預測 8：AI 驅動的惡意軟體將成為現實
隨著大型語言模型（LLMs）的普及，惡意攻擊者可能會利用它們開發 AI 驅動的惡意軟體。這類先進的惡意軟體可能生成令人信服的網路釣魚攻擊、自動化社交工程並避開傳統檢測手段。AI 驅動的威脅將迫使企業開發更先進的偵測與防禦策略。傳統的安全措施可能無法應對，企業必須投資於能抵禦這類威脅的防禦工具。