May Wang博士進一步解釋，單憑人工是無法閱讀數以千計的安全問題手冊，包括像是設定端點安全設備、疑難排解效能問題、為新使用者提供適當的安全憑證和權限，以及按廠商細分安全架構設計等內容，相反的對於LLM大型語言模型，其可採用擴充式、迅速的吸收消化、摘要、分析和生成出正確資訊的能力，改變運作安全作業中心，改變專業人員部署安全的方式、地點和時間等功能。
3.人工智慧(AI)安全性與防護
除了利用 AI 達到網路安全性之外，如何在不損害AI模型的情況下建立安全的 AI和安全的使用AI，這也是一個重要值得關注的議題。
去年(2023) 10 月 30 日，美國總統約瑟夫·拜登(Joseph Biden)發佈一項行政命令，內容涵蓋人們對於AI 技術、產品和工具的負責與適當使用。這項命令目的是強調AI供應商要採取一切必要的措施，以確保其提供的解決方案用於正確的應用上，而非被使用於惡意目的。
May Wang博士也表示，LLM 也可能被惡意者所利用。例如，駭客可以使用 LLM 輕鬆產生大量且更高品質的社交攻擊網路釣魚郵件，也可以利用 LLM建立全新的惡意程式。因此，我們也需有危機意識，將會有愈來愈多的攻擊來自於AI的使用，同時我們也需接受這是一個動態的領域，AI模型每天都在變化與進步，即使我們部署完成AI解決方案後，模型也會不斷的演進，所以我們必須堅守住，持續地評估、監控、保護和改進。
下一步: 技術生態系統合作
在某種程度上，ChatGPT 等通用AI 模型的成功，幾乎讓我們在網路安全性方面的警覺性彈性疲乏。然而，作為一個產業，我們必須將開發AI安全架構當作首要任務才是。May表示，這是當代極具挑戰性和前瞻性的目標，其中涉及廠商、企業、學術機構、政策制定者、監管機構，也就是一整個技術生態系統的通合作。最後，May也分享Palo Alto Networks都希望能夠建立、測試、部署並持續改進他們的LLM大型語言模型（large language model），在資安上更為注重，且讓其LLM更以網路安全性為中心。同時，May也再三提醒大家，網路安全性在人工智慧AI應用上，一個非常獨特、專業且棘手的領域，我們必需要以正確處理數據、工具、模型和使用案例等四個關鍵方面才能讓其發揮作用。
文章來源: Palo Alto Networks 的IoT 安全技術長May Wang博士
首圖來源: Photo by Steve Johnson on Unsplash
謝謝您的閱讀，歡迎來信交流 irispan@cybersecurenews.com.tw