生成式 AI 具備無窮潛力，不僅可以協助創作者在 YouTube 上揮灑創意，還能改變平台上觀眾和創作者的體驗。但把握這些機會的同時，我們必須擔起責任，維護 YouTube 社群的安全。無論生成或創作內容的方式是什麼，所有上傳至 YouTube 的內容都必須符合《社群規範》，而我們也瞭解 AI 可能會帶來新風險，因此必須有新的做法來應對。相關工作目前還在初步階段，在逐漸學習並進一步瞭解狀況後，我們也將持續改進我們的做法。以下是 YouTube 將於未來幾個月至明年將推出的更新內容：
揭露規定和全新內容標籤
為了符合所有人的利益，我們認為需要維護 YouTube 上健康的資訊生態系統，因此我們制定了長遠的政策，禁止透過技術手段操縱、誤導觀眾，並可能造成嚴重傷害風險的內容。不過，AI 強大且新穎的敘事形式，也可能被用於產出誤導觀眾的內容，尤其是在觀眾不知道影片經過變造或合成的情況下。為了解決這個問題，我們會在未來幾個月內推出更新，讓觀眾在看到這類內容時能夠被提醒。
具體而言，我們將提供新選項，要求創作者在上傳內容時，指出該內容是否經過變造、合成、或使用 AI 工具生成。例如，可能會有 AI 生成的影片，栩栩如生地描繪了某個從未發生的事件、或是某人從未說過的話、做過的事。若創作者持續選擇不揭露這項資訊，YouTube 可能會加以處置，包括移除內容、YouTube 合作夥伴計畫資格遭停權等。當然，在這項更新推出之前，我們將會與創作者合作，確保他們了解這些新的規範。
如果內容可能經過變造或合成，我們會以兩種方式告知觀眾：在說明面板中新增標籤，標示部分內容經過數位修改或生成；至於涉及敏感議題等特定內容類型，我們則會在影片播放器中加上更顯眼的標籤。
對於某些合成內容，單單加上標籤可能還是無法減輕帶來傷害的風險，因此不管是否有加上標籤，只要是違反《社群規範》的內容都會從 YouTube 下架，例如意圖使觀眾受到驚嚇或反感的寫實暴力合成影片，就可能被移除。
隨著這些更新項目的推出，由 YouTube 生成式 AI 產品或功能所創作的內容，也都將被明確標示為變更或合成內容。
供觀眾、創作者和藝人使用的新選項
我們持續收到來自 YouTube 社群的意見回饋，觀眾、創作者和藝人都曾對於新興科技可能帶來的影響表示疑慮 — 尤其當自己的臉孔或聲音在未經同意的情況下遭到數位生成，或是當自己的觀點遭到扭曲。
因此，在未來幾個月內，若影片由 AI 產生、經過合成或修改，且包含臉孔、聲音等可辨識個人身分的模擬內容，使用者就能根據隱私權申訴程序要求移除。我們在評估這些申訴要求時會考量多項因素，例如提出申訴要求的人，其身份是否能被正確辨識、內容是否為搞笑模仿或諷刺作品、或者內容是否以公職人員或知名人士為主角等，並非所有內容都會從 YouTube 移除。
此外，我們也會推出新功能供音樂合作夥伴使用：如果發現 AI 產生的音樂模仿藝人的獨特歌聲或饒舌內容，音樂合作夥伴可以要求移除。在決定是否核准移除要求時，我們會將一些因素納入考量，例如內容主題是否為新聞報導、分析或評論等，而這項移除要求將開放給代表參與 YouTube 早期 AI 音樂實驗的唱片公司或發布商，我們也會在未來幾個月內陸續開放給更多唱片公司或發布商。