【AI 之禍】女網紅被動成「咸片」主角

一項研究發現,96% 的「深偽技術」(deepfake)的影片都是色情的。

A blonde woman cries on screen.

QTCinderella 得知有人用她的肖像製作「深偽技術」的色情影片後,開始直播分享她的痛苦。 Credit: Twitch

人工智能發展愈趨成熟,「深偽技術」(Deepfake,即基於人工智能的人體圖像合成技術。)亦在生活中更加常見,而且更常被濫用。

這種「人工換臉」的技術可用於操控政客的肖像以傳播虛假信息。亦有人利用此技術將演員施嘉莉祖安遜 (Scarlett Johansson)等名人的樣貌製作成露骨的色情影片。但如果樣貌「被盜」的不是施嘉莉祖安遜,而是你呢?

追踪「深度換臉」影片的研究公司 Sensity AI 在 2019 年一項研究中發現,其中 96% 的影片,內容都是色情。

上星期,美國遊戲影片串流媒體服務平台 Twitch 主播 Brandon Ewing Atrioc 在開台時瀏覽器上的內容,涉及由人工智能合成的幾位女主播的 Deepfake 影像,「深度換臉」製作的色情內容再成公眾熱話。

Atrioc 和妻子一同在直播中道歉,與表示自己對 AI 藝術非常感興趣,亦承認買了兩個舊朋友的 Deepfake影片。
我病態地感到好奇並點擊它,這實在令人作嘔,我感到非常抱歉,太羞恥了。
Atrioc
在事件發生後,另一位受歡迎的 Twitch 串流主播 QTCinderella 亦成為「人工換臉」的另一位受害者,她發現她的肖像被人工智能篡改,並作為假材料在網絡上被出售。
A man weeps on screen.
Twitch 主播 Atrioc 在被發現觀看「人工換臉」的色情影像後發出道歉影片。
這位 28 歲,真名為布萊爾(Blaire)的主播在回應時,顯得非常不安,並在直播中說:「這就是被侵犯的感覺。這就是被利用的感覺,這就是看到自己被違背意願地裸體,傳播到整個互聯網的感覺。」

她咒罵互聯網對女性不斷地剝削和物化,認為這令人筋疲力盡。而且在互聯網上把(合成影片)展示給成千上萬的人。

她痛罵那些從網站得到偽冒相片並私訊她的人,這就是令她痛苦的感覺。

「如果你能夠看到女性不是在推銷自己或從中得益,如果你能夠看到你就是問題所在。你將女性視為一個物件。」

事件的另一名受害者 Pokimane 擁有超過 700 萬追隨者,她發表推文,呼籲在「停止在未經同意的情況下對他人進行性化」。
A female gamer with headphones smiles and waves at her computer screen.
廣受歡迎的女性遊戲玩家 Pokimane 要求觀眾停止對她進行性化。 Credit: Pokimane
但在事件發生後,評論中亦有很多人認為 Atrioc 觀看未經同意的虛假色情內容沒有問題。

很多評論都支持 Atrioc ,當中包括「我有點為他感到難過」,「很公平,你做你要做的事」和「那是甚麼網站?幫朋友問的。」

為國家帶來全新的「性同意」課程及領導澳洲「Teach us Consent」計劃的「性同意」行動倡導者 Chanel Contos 表示:這件事和一些觀眾的反應「令人深感不安」。

她向 The Feed 表示:「我們需要就這方面研究規則、法規和法律,但真正防止人們濫用肖像,唯一方法是把『同意』的概念植入他們的心裏,特別是更傾向使用這種人工智能科技的年輕人。」

「人工智能技術能令偽冒變得更逼真和冒犯。動態圖片比明顯經過 Photoshop 處理的靜止圖像更令人不快。」

什麼是「深偽技術」(人工換臉)?


「深偽技術」(這個詞彙是深度學習和偽造的結合)是把圖像或視頻重疊在現有圖像上。此技術使用機器學習功能和人工智能來操控視像甚至影片,令他們看起來和聽起來像某一個人。

警告:以下帖文包含不雅用語

雖然「深偽技術」可以有助於娛樂或遊戲行業,但此技術可被利用為製作兒童性虐待材料、名人色情影片、復仇色情影片、假新聞、金融詐騙,以及以未經當事人同意的假色情材料而引起關注。

去年 3 月,烏克蘭總統澤連斯基 (Volodymyr Zelenskyy) 的「深偽技術」影片在社交媒體上流傳,並被黑客放入烏克蘭新聞網站,影片後來被揭穿和刪除。
這段偽冒視頻內容是呼籲烏克蘭軍隊放下武器,向俄羅斯投降。許多人認為該影片是俄羅斯資訊戰的一部份。

推出 ChatGPT 聊天機械人的公司 OpenAI 在上周接受《福布斯》雜誌採訪時表示,他對人工智能所製成的復仇色情內容「非常擔憂」。
他說:「我一直非常關注有人以開放源碼製作出復仇色情內容。」

「這會造成巨大且可預料的傷害。」

澳洲法律對「深偽技術」色情內容有何規範?

eSafety專員格蘭特(Julie Inman Grant)回應 The Feed 的聲明中說:「最近我們開始看到「深偽技術」被用作製造假新聞、虛假色情影片和惡意惡作劇,主要針對政客和名人等知名人士。」

「隨著大眾更容易獲取這項技術,我們預計普通的澳洲國民也會受到影響。」

「發布裸體或偽造性影像是濫用肖像,即在未經他人同意下在網上分享某人的私密影像。」

濫用肖像違反《2021年網絡安全法》,該法律由 eSafety 管理。根據《安全法》,肇事者將被罰款,而在其他司法管轄區可能會判處監禁。

任何澳洲人的圖像或影片被更改變得更私密,及在未經同意下在網上發佈,都可以聯絡 eSafety 尋求幫助以將其刪除。
格蘭特在回應中補充說:「在協助識別、檢測和確認深度偽造的技術正取得進展,科技公司有責任將這些技術包含到他們的平台和服務中。」

Gilbert + Tobin 律師事務所的科技合夥人 Andrew Hii 表示,聯邦法律保護澳洲人免被此濫用,但監管問題仍然存在。

他說:「我認為存在的問題是,監管機構是否在執行法律方面做得夠好,並讓那些相信是受害的人能夠很容易地採取行動阻止這種情況。」
瀏覽更多最新時事資訊,請登上,或訂閱

SBS 中文堅守《SBS 行為守則》及《SBS 編採指引》,以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。作為一個公共服務廣播機構,SBS 的主要作用是提供多語種媒體服務,為全體澳洲人提供資訊、教育性及娛樂性內容,並與此同時反映澳洲多元文化社會的特色。SBS 廣東話及 SBS 普通話電台節目均已為大眾服務超過 40 年。


分享
Published 10 February 2023 2:43pm
By Michelle Elias
Source: SBS


Share this with family and friends