近期，一些消費者利用AI工具制作虛假圖片來騙取退款的行為，被部分商家在社交平臺上曝光，隨即引發(fā)熱議，AI軟件甚至又多了個“退款神器”的名頭。發(fā)霉的水果、破裂的鏡子、灑掉的奶茶……據(jù)記者了解，社交平臺上類似被商家披露的案例中，大多是消費者對AI軟件下達指令，生成相應的偽造圖片后，再聲稱貨品存在質(zhì)量問題，以此申請售后處理。

消費者利用AI偽造商品有問題的圖片申請退款，這種行為該如何定性，是否涉嫌違法？平臺如果沒有盡到審核義務支持買家退款，商家損失怎么辦？監(jiān)管部門、電商平臺及商家可采取哪些具體措施予以監(jiān)管和遏制？

?案例一：偽造酸奶發(fā)霉圖片

△人工智能修改偽造的酸奶發(fā)霉圖片，原圖和偽造圖對比

△圖片偽造過程

?案例二：偽造蛋糕磕碰破損圖片及視頻

△人工智能修改偽造的網(wǎng)購蛋糕磕碰破損圖片，原圖和偽造圖對比

△圖片及視頻偽造生成過程

在社交平臺上，有商家曬出了一些所謂商品“瑕疵”圖，部分商品圖片似乎可以以假亂真，但是仔細看依舊有不少漏洞。例如修改后的圖片中，商品出現(xiàn)了不合邏輯、不合常理、不符合物理規(guī)律的變化等，部分圖片還留有“人工智能生成”的水印或者標注。記者檢索發(fā)現(xiàn)，涉事商品大多為食品、生活用品等，雖然單價不高但是依舊引發(fā)討論。這種行為到底是“薅羊毛”還是涉嫌違法？

中國互聯(lián)網(wǎng)協(xié)會法治工作委員會副秘書長 胡鋼：依照我國《民法典》和《消費者權(quán)益保護法》的有關(guān)規(guī)定，消費者應當遵循誠信原則，依法維護自身的合法權(quán)益。消保法實施條例也規(guī)定，消費者通過造假、捏造事實等方式騙取經(jīng)營者的賠償，或者對經(jīng)營者進行敲詐勒索的，不適用懲罰性賠償?shù)囊?guī)定。

北京郵電大學互聯(lián)網(wǎng)治理與法律研究中心主任、教授 謝永江：如果是數(shù)額較小，消費者可能涉嫌民事欺詐，商家可以要求返還貨款。如果涉及金額較大或者情節(jié)嚴重的，消費者還可能構(gòu)成行政違法甚至涉嫌詐騙罪。

《治安管理處罰法》就有相關(guān)規(guī)定，這種詐騙要處5到10日的拘留或者2000以下的罰款，情節(jié)較重的話，要處10到15日拘留，3000以下的罰款。如果數(shù)額夠大，比如說3000以上達到這個刑事立案的標準，那可能構(gòu)成這個刑法上的詐騙罪了。

胡鋼表示，除了消費者，不少經(jīng)營者也利用人工智能等技術(shù)實施造假。同時，惡意索賠的消費者畢竟僅占廣大消費者中極少的部分。那么，如果平臺沒有盡到審核義務，支持買家“AI造假”退款，給商家造成損失怎么辦？

胡鋼：依照我國《網(wǎng)絡安全法》《電子商務法》等法律的有關(guān)規(guī)定，平臺經(jīng)營者應當履行合理的身份核驗、內(nèi)容審查、爭議調(diào)處等法定職責。平臺經(jīng)營者沒有妥善盡到合理的審核義務和調(diào)處義務，造成平臺內(nèi)經(jīng)營者損失的，平臺經(jīng)營者應當與惡意索賠的消費者共同承擔相應的賠償責任。

記者也嘗試使用多款人工智能軟件進行“復現(xiàn)”，發(fā)現(xiàn)部分生成結(jié)果的確可以以假亂真。

商家無法分辨誠實消費者，不得不增加防偽成本，如錄制商品封裝過程等；消費者難以甄別商家宣傳的真?zhèn)危�購物決策變得猶豫；平臺則陷入對交易雙方行為的審核困境。部分消費者利用AI造假破壞市場環(huán)境，監(jiān)管部門、電商平臺及商家可采取哪些具體措施予以監(jiān)管和遏制？

面對AI偽造的退貨圖片，商家也探索應用了一系列應對措施。部分商家表示，對于“僅退款”的交易申請已經(jīng)提高審核門檻，例如要求買家提供不同角度的拍攝照片，甚至提供連續(xù)的視頻證據(jù)。還有的購物App要求必須通過自帶拍照功能拍攝商品圖片，無法從相冊選擇圖片。

胡鋼：從監(jiān)管部門而言，需要不斷完善相關(guān)法律法規(guī)，特別是及時出臺有關(guān)AI技術(shù)實施欺詐等違法行為的專門規(guī)定，或健全有關(guān)技術(shù)指南，從而明確其法律性質(zhì)和處罰標準。其次，要加強技術(shù)監(jiān)管，利用技術(shù)手段來強化對相關(guān)違法行為的監(jiān)測、識別和打擊力度，同時對個別典型的案例嚴格處罰，形成震懾效應。

胡鋼認為，要強化國家強制性標準的建設和實施，即強制要求人工智能技術(shù)生成的內(nèi)容必須帶有不可篡改的水印或標識，以便及時識別和有效溯源。

胡鋼：對于電商平臺經(jīng)營者而言，要強化其技術(shù)和管理措施，例如升級審核技術(shù)，優(yōu)化審核流程，并且加強對商家和消費者的培訓和支持。對于商家，需要強化證據(jù)留存，提高風險防范意識，并且積極有效維權(quán)。

為規(guī)范AI發(fā)展問題，自9月1日起，《人工智能生成合成內(nèi)容標識辦法》已正式實施，明確規(guī)定AI生成內(nèi)容需要“持證上崗”，人工智能生成合成內(nèi)容應有顯式標識和隱式標識。但是新規(guī)并沒有就不進行AI標注的法律后果進行明示。謝永江建議，對此類“僅退款”的申請，平臺方應當升級相應的技術(shù)手段，對新規(guī)要求下的圖片或者視頻進行實質(zhì)性審核，盡到合理的審查義務。

謝永江：平臺碰到這種新現(xiàn)象，它應該對照片、圖片進行實質(zhì)審核，判斷是否偽造，要有配套的技術(shù)手段，提高識別率。另外最好也聽取商家的意見，看看商家陳述，對于商家有救濟渠道。如果平臺沒有盡到審核義務的話，平臺方就有過錯，如果對商家造成損害，也應該承擔責任。

此外，謝永江還建議，構(gòu)建跨平臺消費者信用聯(lián)動機制，對此類惡意退款行為進行限制，將不誠信消費者納入征信體系。

謝永江：如果能夠跨平臺進行信用聯(lián)動，你在某平臺上用這種手段來申請退款，那在別的平臺上也把你列入相應的黑名單或者是關(guān)注名單。對消費者來講，如果惡意申請退款，那就付出相應的代價。可以通過主管部門來牽頭，或者行業(yè)平臺來牽頭建立這種機制。