果凍威而鋼

Anthropic Claude啟用生成內容標記 歐盟AI法案促透明度規範升級

Anthropic Claude啟用生成內容標記 歐盟AI法案促透明度規範升級

商傳媒|吳承岳/台北報導

人工智慧公司 Anthropic 已宣布,其旗下大型語言模型 Claude 生成的內容將導入機械可讀的標記,以提升透明度並符合歐盟人工智能法案(EU AI Act)的規範。這項措施將於 2026 年 8 月 2 日起對新的 Claude 模型生效,預計將對全球使用 AI 生成內容的企業帶來廣泛影響。

歐盟人工智能法案(EU AI Act)是一項旨在規範歐盟境內 AI 系統開發與使用的里程碑式法規。依據該法案第 50 條規定,AI 系統提供者有義務對合成的文字、語音、影像、影片等 AI 生成內容進行標記,使其能被機器偵測,以確保內容的透明性。Anthropic 已簽署相關行為準則,並承諾落實此要求。

為實現內容標記,Anthropic 將採用兩項互補技術:針對文字內容,將嵌入肉眼不可見的「浮水印」(embedded watermark),確保即使複製貼上也能保留一定程度的標記,同時不影響閱讀體驗;針對檔案格式,如 .svg、.png、.jpg,則會附加基於 Coalition for Content Provenance and Authenticity (C2PA) 標準的「署名來源中繼資料」(signed provenance metadata)。C2PA 是一個致力於推動數位內容來源與真實性驗證的技術標準聯盟,廣泛應用於 AI 生成影像和編輯影像的場景。無論透過 Claude Platform、Claude、Claude Code、Claude Cowork、Claude Tag 等平台,或經由 AWS、Google Cloud、Microsoft Foundry 使用對應的 Claude 模型,這些標記機制都將適用。

儘管這項措施主要由歐盟法規驅動,Anthropic 強調其標記政策將適用於所有提供 Claude 服務的地區,而非僅限於歐盟。這意味著,如同過去一般資料保護規範(GDPR)在全球造成的影響,即使台灣企業僅在本地使用 Claude,未來也可能需要審視其 AI 內容生成與發布流程,並更新內部規範。特別是,若企業將 Claude API 整合至面向歐盟客戶的服務中,或將 AI 生成內容用於企業對外宣傳、廣告、新聞稿、教育或金融醫療說明文件時,則必須明確揭露 AI 生成物的來源、編輯責任及可偵測性。

Anthropic 也坦言,這些標記並非萬無一失。浮水印或中繼資料可能因內容大幅修改、翻譯、過短,或檔案格式轉換、螢幕截圖等操作而失效或被移除。因此,偵測到的標記僅表示內容「可能」經過 Claude 處理,但無法完全證明內容的真實性、未經竄改或內容本身是正確的。企業不能將 AI 生成內容標記視為唯一判斷依據,應配合人工審查、來源驗證、編輯紀錄及原始檔案比對等,作為綜合判斷的輔助工具。

企業內部應調整其 AI 使用政策,特別是負責對外公開 AI 生成內容的部門。這包括確認 AI 內容是否需揭露、編輯責任歸屬、版權驗證、個人與機密資訊混入檢查等。此外,應評估內容管理系統 (CMS)、行銷自動化工具 (MA工具)、社群網路服務 (SNS)、內容傳遞網路 (CDN)、資料外洩防護 (DLP) 等平台是否會在內容公開時自動移除重要的 C2PA 中繼資料。日本的 AI 業務指南,雖非強制性法規,但也建議業者提升對 AI 內容的透明度和說明責任,這與歐盟法案的目標一致。

未來,Anthropic 預計將公布偵測功能相關的技術文件,協助使用者和第三方檢測這些標記。企業在將偵測功能納入業務流程時,應避免採二元判斷,而是記錄「可能經過 AI 處理」、「無法偵測」或「中繼資料遺失」等多重狀態,並將其作為多重確認材料之一,而非唯一依據。應將其與人工審查、出處確認、編輯紀錄等措施結合,以應對潛在的偵測迴避技術,全面強化 AI 生成內容的管理。

Exit mobile version