何全德說明,世界組織設定 AI 的風險,首要定義 AI 風險類別,他以雲端安全聯盟 ( Cloud Security Alliance ,CSA ) LLM 服務威脅態樣為例,CAS 提出了九項類別,模型操控、資料下毒、敏感資料洩漏、模型偷竊、功能失效/失靈、不安全的供應鏈、不安全的 Apps /外掛、阻斷服務攻擊、治理/法遵損失。美國國家標準暨技術研究院 NIST 去年 7 月也公布最新 AI 風險管理框架,也同樣指出生成式 GenAI 具備獨特、加劇的風險,例如核生化資訊能力、虛構/幻覺、傷害性的偏差或同質化、資訊真確性等等,同時 NIST 表示有效及可靠(valid and reliable)是 AI 可信任的基石。
演講分享的最後,何全德提醒大家人工智慧 AI 已經加速腳步往前行,儘管 AI 非常熱門,短期 AI 引起人類的焦慮,長期則點燃人類的希望,同樣的他希望大家能睜大眼睛,冷靜思考,AI 的確是一場革命,我們大家需全面考慮,可能潛在的影響,存在的挑戰與未知的風險,對於企業方面,他也建議企業導入 AI 科技的應用需關注企業經營策略與組織文化,這兩者同樣也關乎企業 AI 應用成敗關鍵因素中的一環。