部署 AI 技術，支援內容審核作業
YouTube 一向結合人工判讀和機器學習技術來落實《社群規範》，我們的系統採用 AI 分類器，先大規模偵測可能違反規範的內容，再由 Google 全球超過 2 萬名審查員確認該內容是否確實違反政策。透過 AI，內容審核系統的速度和準確率持續提升中，而其中一項顯著的影響便是辨認新的濫用形式。
當新威脅出現時，我們的系統沒有足夠的背景資訊來大規模地理解並加以辨識它們，但透過生成式 AI，我們迅速擴大了訓練 AI 分類器的資訊集，而這也意味著我們能夠在更短的時間內辨認並找出這類內容。此外，提升系統的速度和準確率，也讓我們的人工審查員能夠減少接觸有害內容。
打造負責任的 AI 工具和功能
當我們持續為創作者開發新的 AI 工具，我們在面對重大責任與挑戰時的做法始終不變，我們相信重點是花時間把事情做對，而不是追逐第一名的寶座。我們正仔細思考如何在多年的基礎上建立能夠處理內容審核作業的團隊和技術，包括投入大量心力，持續開發防護機制，避免 AI 工具生成不該出現在 YouTube 上的內容類型。
我們也知道，一定會有惡意行為人設法規避這些防護機制，因此我們將採納使用者的意見回饋，從中學習並持續改良機制。在我們公司內部，像是情報辦公室這樣的專門團隊，也特別著重對抗式測試和威脅偵測，以確保我們的系統能夠應對不斷出現的新挑戰。
AI 轉變近在眼前
對於在 YouTube 上運用 AI 解鎖新型態的創新與創意，我們還在這趟旅程的開端，並對這項科技的潛力感到無比興奮，而我們也深知在未來幾年內，接下來的變革將在創意產業中產生迴響。在這個關鍵時刻，我們正投入心思與時間力求平衡，在這項技術帶來龐大效益的同時，確保我們持續維護這個社群的安全，我們將與創作者、藝人、以及創意產業的各方人士攜手打造一個人人受惠的未來。
本文作者：YouTube 產品管理副總裁 Jennifer Flannery O’Connor、YouTube 產品管理副總裁 Emily Moxley