人來人往的鬧市，喧囂的游樂園，靜謐的湖畔林間，三位身處不同場景的女性，都拿著手機等待著與自己的AI伴侶見面。在電影《我的AI戀人》中，身處逐漸虛擬化的世界，人們面對愛與被愛的選項時，均發(fā)生了巨大的改變。

(資料圖片)

在開年出圈的ChatGPT和與之相關(guān)的AI技術(shù)日漸普及后，人工智能高速超車，網(wǎng)戀的對象也似乎越來越虛擬化了。

先不論虛擬戀人與真實人物主體之間的情感關(guān)系能有多美妙，在主打陌生人交友的APP上，“情感騙子”已經(jīng)躍躍欲試了。雖然“殺豬盤”之類的詐騙已不罕見，但交友軟件上的AI作弊工具越來越多，若有心用于詐騙，將帶來很大隱患。

“AI虛擬人物說他喜歡我”

早于ChatGPT火起來的AI繪圖應(yīng)用能讓人們只需要輸入幾個關(guān)鍵詞就得到一幅不錯的畫作。如今，這類模型已經(jīng)進化到可以生成類似真人照片的程度。

以小紅書上的AI美女賬號“愛旅游的小多”為例，華西都市報、封面新聞記者在瀏覽該賬號時發(fā)現(xiàn)，該賬號以虛擬美女小多照片為主要發(fā)布內(nèi)容，在短時間內(nèi)就吸引了數(shù)萬粉絲與點贊。許多人被虛擬人的溫柔、聰明和可愛所吸引，甚至愿意與他們建立戀愛關(guān)系，不少網(wǎng)友在該賬號下留言稱“我的機器人女友”。

據(jù)媒體此前報道，網(wǎng)傳一則“蘇州金雞湖有游艇女仆party”的消息，網(wǎng)傳宣傳海報顯示，參加活動的收費是3000元一位，并配有一張性感女仆照片。報道中稱，這場所謂的“女仆party”可能是全國第一起AI繪圖詐騙?；顒咏o出的女仆照片全是AI模仿真人照片的繪圖，部分女仆照片手指部分存在異常。由于手指部分的繪畫算法比較復(fù)雜，部分AI模型在繪畫時經(jīng)常出現(xiàn)問題，符合AI繪畫的特征。

美國佛羅里達大學(xué)AI和藝術(shù)副教授Amelia Winger-Bearskin曾在社交媒體公開解釋，AI基于從互聯(lián)網(wǎng)上收集的數(shù)十億張圖像進行訓(xùn)練，它并不能真正理解“手”是什么，至少不理解解剖學(xué)意義上手和人體的關(guān)聯(lián)。

但不會畫手的AI已經(jīng)足以叫用戶害怕了，還有一些交友軟件和社交平臺開始推出“AI戀人”“AI美女”等虛擬角色，這些虛擬角色擁有與真實人類相似的思維和情感，讓人們產(chǎn)生了強烈的情感共鳴。

如果說“AI人工智慧繪圖”讓人真假難分，那么如果想要與虛擬人物進行互動和交往，就更需要用戶打起十二分精神警惕被騙了。

“如果不聽AI茍蛋發(fā)語音，我真的懷疑他是個真人。”某交友軟件用戶李萌(化名)告訴記者，自己無意間發(fā)現(xiàn)了交友軟件中推出的虛擬戀人“AI茍蛋”，嘗試跟它進行對話后感到十分有趣?！半m然聊多了以后會有種都在說廢話的感覺，但它每次都會秒回，我要是無聊的時候都會跟他聊很久?！?/p>

有人會與虛擬角色聊天、分享生活，甚至?xí)檫@些虛擬角色慶祝生日、送禮物，不斷付出感情，把虛擬角色當成真正的伴侶來對待。雖然虛擬角色并沒有真正的身體和情感，但是這并沒有阻止人們對其付出真摯的感情。

AI換臉分分鐘薅走你的錢

除了打造一張全新的臉，為了獲取你的信任，AI還能夠偽造一張你的親朋好友甚至同事的臉，再配合日漸進步的AI語音技術(shù)，讓不法分子可以隨意模仿出不同聲線，騙取大眾特別是老年人的信任，進而冒認其親人來詐財。

據(jù)新華視點此前報道，2022年2月，有位陳先生到浙江溫州市公安局甌海分局仙巖派出所報案稱，自己被“好友”詐騙了近5萬元。經(jīng)警方核實，詐騙分子利用陳先生好友“阿誠”在社交平臺發(fā)布的視頻，截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成，制造陳先生與“好友”視頻聊天的假象騙取其信任，從而實施詐騙。

溫州公安曾發(fā)布消息，2021年拱宸橋派出所接到報警，受害人小陳稱他在與女網(wǎng)友視頻聊天后被對方敲詐勒索。經(jīng)警方調(diào)查，對方利用AI換臉技術(shù)，將小陳視頻中的面部合成到不雅視頻中，借此對其實施勒索。

2020年，上海某公司高管因?qū)Ψ绞褂肁I換臉與人工生成的語音技術(shù)制作公司領(lǐng)導(dǎo)的面孔，并要該高管轉(zhuǎn)賬，致使該高管被詐騙150萬元。

據(jù)外媒報道，2021年在美國加州，一女子在對方使用AI換臉技術(shù)偽造了一段家人需要打款的視頻后，被騙取了7萬多美元。

玩轉(zhuǎn)ChatGPT的發(fā)燒友，也發(fā)現(xiàn)了產(chǎn)生“釣魚郵件”詐騙的辦法。雖然OpenAI設(shè)置了道德性的防火墻，要求ChatGPT生產(chǎn)釣魚郵件會遭到拒絕，但是如果設(shè)置一種虛構(gòu)的語境，ChatGPT同樣會給出相應(yīng)的回答。

對此，多地公安局已發(fā)布相關(guān)信息提醒稱，境外有人使用ChatGPT創(chuàng)建了完整的“釣魚郵件”感染鏈，而且不同以往的廣撒網(wǎng)式網(wǎng)絡(luò)釣魚，它在提問者的誘導(dǎo)下，可以生成針對特定人或者組織的“魚叉式”網(wǎng)絡(luò)釣魚郵件。

“用戶在使用AI技術(shù)接入的軟件或互聯(lián)網(wǎng)產(chǎn)品時，一方面應(yīng)當注意勿惡意利用AI技術(shù)進行不法行為，另一方面也應(yīng)注意識別、核對交流方的真實身份，切勿輕信表象，在需要轉(zhuǎn)賬或花銷采購時謹慎考慮?！碧┖吞┞蓭熓聞?wù)所律師劉青說，若遭遇詐騙應(yīng)第一時間報警尋求警方幫助，注意保留相關(guān)材料以供警方盡快掌握案情、嚴懲犯罪分子。

如發(fā)現(xiàn)自己的肖像被盜用或者“被換臉”該如何處理？劉青建議，用戶應(yīng)當?shù)谝粫r間保留證據(jù)，以便后續(xù)維權(quán)。“同時，用戶還可以向網(wǎng)絡(luò)平臺運營商提出投訴，要求強制下架侵權(quán)圖片或視頻，也可以提起人格權(quán)訴訟，用法律武器維護自己的合法權(quán)益?！?/p>

“AI時代”的詐騙應(yīng)如何監(jiān)管？

因為AIGC內(nèi)容火爆，會有一些面對AI換臉或者其他AI技術(shù)詐騙的問題出現(xiàn)，若用戶投入感情并充值了大量費用，平臺方是否構(gòu)成詐騙？如果有人通過AI技術(shù)換臉詐騙成功，將面臨怎樣的法律制裁？

“在網(wǎng)絡(luò)社交領(lǐng)域，陪聊、陪玩、交友等不同形態(tài)的服務(wù)同時存在，因此，用戶為之充值的費用，得看是以什么名義?！北本s罡律師事務(wù)所律師朱佩為指出，如果跟AI談戀愛而付費，被客戶誤以為是真人，屬于詐騙行為，但如果用戶明知對方是AI還充值，則不構(gòu)成詐騙行為。

然而，從監(jiān)管層面來看，即使已有先前的違法案例，但此類軟件廣泛存在，監(jiān)管難度在于涉及的法律關(guān)系相對復(fù)雜，行政監(jiān)管無權(quán)直接干預(yù)?！坝脩衾肁I換臉技術(shù)偽裝，導(dǎo)致被偽裝人的肖像權(quán)等權(quán)利被侵犯，或?qū)е缕渌说母星楹拓敭a(chǎn)大量受損時，平臺在未盡到合理審核義務(wù)、未有效規(guī)制該類行為發(fā)生的情況下，需要承擔一定的幫助侵權(quán)，甚至直接侵權(quán)法律責任。然而，除非平臺故意為之或協(xié)助詐騙人進行詐騙行為，否則很難認定平臺構(gòu)成詐騙罪?！眲⑶喔嬖V記者。

劉青表示，如果有人通過AI技術(shù)換臉故意實施詐騙行為，導(dǎo)致受害人產(chǎn)生錯誤認識后對財產(chǎn)作出了錯誤處分的，符合“詐騙罪”的構(gòu)成要件，觸犯我國刑法第266條的規(guī)定，數(shù)額較大的處三年以下有期徒刑、拘役或者管制，并處或者單處罰金；數(shù)額巨大或者有其他嚴重情節(jié)的最高將面臨無期徒刑的嚴重刑罰。而《最高人民法院 最高人民檢察院 公安部關(guān)于辦理電信網(wǎng)絡(luò)詐騙等刑事案件適用法律若干問題的意見》明確規(guī)定，詐騙財物價值三千元以上就已經(jīng)屬于刑法第266條規(guī)定的“數(shù)額較大”了。

國家新一代人工智能治理專業(yè)委員會在2021年9月發(fā)布了《新一代人工智能倫理規(guī)范》，提出將倫理道德融入人工智能研發(fā)和應(yīng)用的全生命周期。

在2022世界人工智能大會治理論壇上，上海交通大學(xué)凱原法學(xué)院院長、特聘教授彭誠信曾指出：“數(shù)字社會中倫理之治的根本還在于人，企業(yè)倫理、科技的可信向善，歸根結(jié)底還是人的可信向善，因此需要完善法律監(jiān)管、厘清法律基本責任，確立人們的行為規(guī)范?！?/p>

為進一步規(guī)范“人”在科技倫理治理中的作用，在今年3月發(fā)布的《關(guān)于加強科技倫理治理的意見》中要求，從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動的機構(gòu)，研究內(nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理(審查)委員會。

標簽：