“換臉”有風(fēng)險(xiǎn)!有人曾利用AI換臉技術(shù)制作淫穢視頻

最近，一個(gè)面部變化軟件刷新了社交網(wǎng)絡(luò)。通過這個(gè)軟件，用戶可以實(shí)現(xiàn)與明星的面部變化，一鍵進(jìn)入明星主演的電影和電視片段，上癮。然而，隨著該軟件在互聯(lián)網(wǎng)上的普及，人們也開始關(guān)注其背后的隱私、肖像權(quán)、版權(quán)等相關(guān)問題。

換臉有風(fēng)險(xiǎn) 個(gè)人信息或泄露

這個(gè)軟件在蘋果應(yīng)用商店的口號(hào)是只需要一張照片就能出演世界好戲。使用該軟件AI技術(shù)，將用戶上傳的照片放入平臺(tái)上用戶選擇的影視片段，實(shí)現(xiàn)用戶與明星的變臉。

用這個(gè)軟件換臉，首先需要用手機(jī)號(hào)動(dòng)態(tài)驗(yàn)證碼驗(yàn)證登錄。換臉的時(shí)候需要眨眼等驗(yàn)證，類似于刷臉支付時(shí)收集的面部信息。

在這方面，一些用戶在社交媒體上表達(dá)了他們對(duì)隱私泄露的擔(dān)憂。如果別有用心的人使用該技術(shù)竊取用戶更改面部的信息，包括其他個(gè)人信息，一旦匹配成功，輕則是準(zhǔn)確的欺詐，重則可能打開用戶的賬戶和密碼洞 。這樣，不僅丟臉，還可能丟錢。

法律專家 岳神山：確實(shí)存在一定的安全隱患，如果該軟件被犯罪分子掌握，很可能會(huì)造成危險(xiǎn)。目前，許多國內(nèi)應(yīng)用程序在要求用戶信息方面非常野蠻，過度要求用戶提供信息是一個(gè)常見的問題。用戶在使用時(shí)應(yīng)注意保護(hù)隱私；開發(fā)人員還應(yīng)遵守法律，按照法律規(guī)定收集信息；監(jiān)管部門還應(yīng)及時(shí)制止和規(guī)范不規(guī)范行為。

“換臉” 侵權(quán)的可能性

把AI換臉推到輿論風(fēng)口浪尖的人，也擔(dān)心肖像權(quán)和版權(quán)。

雖然該軟件在使用過程中需要驗(yàn)證肖像權(quán)，但每個(gè)用戶上傳的未經(jīng)驗(yàn)證照片將有10次制作視頻的機(jī)會(huì)。這意味著用戶有機(jī)會(huì)使用他人的照片來制作面部視頻，這可能會(huì)觸及他人的肖像權(quán)。

同時(shí)，在軟件內(nèi)置的影視劇片段中，有很多熱門電視劇，包括《顏夕宮物語》、《長安十二小時(shí)》、《還珠格格》，還有很多熱門的綜藝片段。那么，使用影視劇片段換臉是否也存在侵權(quán)隱患呢？

法律專家 岳神山：在該軟件的應(yīng)用過程中，版權(quán)問題是法律的底線，不能隨意超越。我認(rèn)為這個(gè)軟件的開發(fā)者假裝困惑，他應(yīng)該清楚地知道版權(quán)問題，但把版權(quán)鍋扔給用戶，說這些是用戶自己上傳的，問題由用戶承擔(dān)。他的鍋似乎被扔掉了。事實(shí)上，根據(jù)法律規(guī)定，平臺(tái)知道有侵權(quán)視頻，仍然播放和鏈接，他仍然必須承擔(dān)相應(yīng)的責(zé)任。

AI換臉被用來制作淫穢視頻

AI由于之前用于制作淫穢視頻，換臉技術(shù)受到了公眾的關(guān)注。許多外國媒體報(bào)道Deepfake”和“DeepNude根據(jù)美國在國外引起的熱議《 ** 》隨著越來越多的人利用這一技術(shù)制作名人色情視頻，AI換臉引起恐慌。據(jù)《衛(wèi)報(bào)》報(bào)道，這類軟件是對(duì)未來的可怕一瞥

爆款躁起來 防火墻要造

顯然，快速躁的換臉應(yīng)用中的風(fēng)險(xiǎn)也讓用戶快速好"起來。這不僅僅是這個(gè)爆款應(yīng)用面臨的問題。當(dāng)企業(yè)再次造這種爆款應(yīng)用時(shí)，應(yīng)該更早地造防火墻，更加堅(jiān)固地造防火墻。當(dāng)然，光靠創(chuàng)造爆款沖動(dòng)的企業(yè)是不夠的，早期介入的監(jiān)管力量顯然是不可或缺的。作為用戶，看到這種躁爆款，請(qǐng)?jiān)趹?yīng)用前確認(rèn)安全風(fēng)險(xiǎn)，稍安勿躁。

—END—

來源中國警察網(wǎng)

上海西陸信息科技有限公司 承接各類微信小程序開發(fā)制作、小程序定制、APP 網(wǎng)站 開發(fā)制作，聯(lián)系電話 18221533805、15900430334