Midjourney 人工智慧用戶在中國國家主席圖片被禁的情況下找到解決方法

Midjourney 人工智慧禁止製作中國國家主席習近平的形象,但用戶想方設法製作深度偽造

AI 生成的教皇方濟各穿著河豚大衣的圖像引發了關於假圖像進步的爭議。From Twitter

Midjourney 是一種根據自然語言描述生成圖像的人工智慧(AI) 服務,最近禁止製作中國國家主席習近平的照片,這令其用戶非常沮喪,然而,該禁令並沒有阻止其用戶透過創建習主席的深度偽造(deepfakes)來尋找解決方法,這些深度偽造是由複雜的機器學習技術產生操縱數位肖像。

上週,Midjourney 採取行動透過禁止進入其免費試用版來防止其平台上的深度偽造擴散,儘管該平台仍然允許創建世界領導人的形象,但中國國家主席顯然被排除在外,Midjourney 嚴禁任何試圖生成與他相似的圖像,甚至在提示中提及他的名字的行為。

根據文本到圖像AI 生成器用戶的一條推文,“如果您在提示中提供習主席現有照片的完整 URL,那麼 /imagine 仍然是可能的,或者你可以使用 /blend 與兩張現有照片。”另一位用戶表示,可以選擇使用 MidJourney v5 的兩張圖像之間的混合功能,但表示擔心最終會受到監管。

批評者,如個人權利和表達基金會 (FIRE) 的資深學者莎拉麥克勞克林 (Sarah McLaughlin),認為該禁令構成一種審查制度,破壞言論和表達自由的基本原則。

去年秋天,在聊天服務 Discord 上交換的消息中,Midjourney 的創始人兼執行長大衛霍爾茲(David Holz)透露,該公司收到當地用戶關於“不同國家的各種話題”的投訴,促使他們擋住許多相關詞,然而,根據《華盛頓郵報》查看的聊天記錄,霍爾茲沒有列出被禁止的條款,以避免不必要的爭議。

霍爾茲在他的 Discord 評論中提到,禁止的詞語不僅僅與中國有關,儘管如此,他承認中國是一個特別敏感的問題,因為政治幽默可能會使中國用戶面臨風險,霍爾茲試圖解釋他的行為背後的原因,他說:“我們的決定不是出於經濟利益,在這種情況下,很明顯,確保中國人能夠獲得這項技術是為了更大的利益。”

原文

新增留言