谷歌推出 SynthID AI水印工具 幫助用戶識別人工智能圖片

谷歌推出 SynthID AI水印工具 幫助用戶識別人工智能圖片

谷歌DeepMind團(tuán)隊近日推出了一款名為SynthID的工具，旨在應(yīng)對日益增長的AI生成圖像問題。該工具可以在AI生成的圖像中嵌入人眼不可見的水印，但可以用專門的人工智能檢測工具檢測出來，以區(qū)分真實和虛假的內(nèi)容。該工具已在谷歌云平臺上向部分客戶開放。 SynthID的原理是在圖像的像素中嵌入一個水印，但不會影響圖像本身的質(zhì)量和體驗。該水印可以抵抗裁剪、縮放等常見的圖片編輯操作，只有專門的AI檢測工具才能識別出來。谷歌DeepMind的CEO Demis Hassabis表示，這種水印隨著AI模型的改進(jìn)，會變得更加隱蔽和強大。 SynthID工具會告訴用戶圖像是否為人工智能生成。Hassabis認(rèn)為，SynthID是為了解決深度偽造等潛在危險的問題而開發(fā)的。在2024年美國和英國即將舉行大選的背景下，建立AI圖像識別系統(tǒng)是非常重要的。他還表示，SynthID的基本思想也可以應(yīng)用于視頻和文本等其他媒體。 目前，SynthID只能在谷歌云平臺上使用，主要針對使用Vertex AI平臺和Imagen圖像生成器的客戶。Hassabis希望通過真實場景的測試，讓SynthID變得更好。然后，谷歌將把它用于更多地方，與更多合作伙伴分享，并提高公眾的意識和教育。 除了谷歌之外，還有許多其他公司也在致力于建立AI保護(hù)和安全系統(tǒng)。例如，Meta、OpenAI等公司正在使用一種名為C2PA的協(xié)議，利用加密元數(shù)據(jù)來標(biāo)記AI生成的內(nèi)容。Hassabis說，SynthID可能成為一個互聯(lián)網(wǎng)范圍內(nèi)的標(biāo)準(zhǔn)之一。但他也強調(diào)，這只是一個初步嘗試，并不是解決深度偽造問題的萬能藥。他說，“在我們證明了技術(shù)基礎(chǔ)部分有效之前，考慮擴(kuò)展和社會討論還為時過早。”

(8305370)