近日，“用戶手機(jī)內(nèi)文物照片被閑魚AI擅自上架售賣”一事引發(fā)關(guān)注。網(wǎng)友顧女士稱，在自己毫不知情的情況下，其閑魚APP賬號(hào)待售主頁上，赫然掛著陜西歷史博物館的鎮(zhèn)館之寶：唐鎏金舞馬銜杯紋皮囊式銀壺，標(biāo)價(jià)6000元。

顧女士懷疑，閑魚私自讀取了手機(jī)相冊(cè)，將照片“偷”去上架，由平臺(tái)AI自動(dòng)配文、定價(jià)并發(fā)布。對(duì)此，閑魚回應(yīng)稱，經(jīng)核查，相關(guān)商品系A(chǔ)I將圖片識(shí)別為普通文玩商品，并生成建議標(biāo)題、描述等信息，目前相關(guān)鏈接已由用戶主動(dòng)下架。對(duì)于相關(guān)產(chǎn)品體驗(yàn)問題給大家?guī)淼睦_，閑魚方面深表歉意。

6月1日，北京卓浩律師事務(wù)所張建律師在接受九派新聞采訪時(shí)分析稱，平臺(tái)“無二次確認(rèn)彈窗”的模糊設(shè)計(jì)，或涉嫌侵害用戶拒絕僅通過自動(dòng)化決策作出對(duì)其有重大影響決定的權(quán)利。

其認(rèn)為，要避免類似事件再發(fā)生，需多方協(xié)作。平臺(tái)設(shè)置商品上架二次確認(rèn)彈窗，建立AI內(nèi)容嚴(yán)格審核制度，完善風(fēng)險(xiǎn)算法評(píng)估機(jī)制；技術(shù)開發(fā)者在設(shè)計(jì)AI功能時(shí)，將“用戶確認(rèn)”設(shè)為強(qiáng)制前提；監(jiān)管部門要強(qiáng)化執(zhí)法，建立AI應(yīng)用“合規(guī)紅線”。同時(shí)，公眾在使用APP時(shí)要注意“無感授權(quán)”陷阱，對(duì)“拍照估價(jià)”等功能保持警惕，盡量不向AI提供身份證、銀行卡、家庭住址等核心隱私。

【1】事發(fā)：用戶相冊(cè)圖片被識(shí)別并上架，閑魚致歉

據(jù)上游新聞報(bào)道，5月30日，江蘇網(wǎng)友顧女士的閑魚APP賬號(hào)的待售主頁上，赫然掛著一件陜西歷史博物館的鎮(zhèn)館之寶：唐鎏金舞馬銜杯紋皮囊式銀壺，標(biāo)價(jià)6000元。更令顧女士震驚的是，這場(chǎng)售賣全程由平臺(tái)AI自動(dòng)配文、定價(jià)并發(fā)布，作為賬號(hào)主人的她毫不知情。

顧女士最初懷疑是閑魚私自讀取了手機(jī)相冊(cè)，將照片“偷”去上架。詢問平臺(tái)客服后，對(duì)方告知，或是因?yàn)檫@張照片曾被上傳至“閑魚空間”，從而觸發(fā)了商品上架功能。

對(duì)這一解釋，顧女士并不買賬。她表示，不記得自己曾往“閑魚空間”發(fā)過這張文物圖。而且即便在“閑魚空間”誤傳過照片，在無任何確認(rèn)提示的情況下，閑魚也不能默認(rèn)將照片包裝成商品，擅自標(biāo)價(jià)，還用AI自動(dòng)生成了“整體包漿自然”“適合收藏或陳設(shè)擺件”的描述。

閑魚AI生成的相關(guān)商品描述。圖/上游新聞

據(jù)新黃河大魚財(cái)經(jīng)報(bào)道，6月1日，閑魚方面有關(guān)負(fù)責(zé)人回應(yīng)稱，經(jīng)核查，相關(guān)商品系A(chǔ)I將圖片識(shí)別為普通文玩商品，并生成建議標(biāo)題、描述等信息，目前相關(guān)鏈接已由用戶主動(dòng)下架。

閑魚方面表示，平臺(tái)將始終嚴(yán)守法律底線，堅(jiān)決反對(duì)并積極配合國(guó)家機(jī)關(guān)打擊文物違法交易。目前，閑魚已接入國(guó)家文物局“中國(guó)被盜（丟失）文物信息發(fā)布平臺(tái)”，可對(duì)820條國(guó)家級(jí)被盜文物數(shù)據(jù)進(jìn)行智能比對(duì)；同時(shí)已對(duì)收藏領(lǐng)域72個(gè)高敏類目提升發(fā)布門檻，要求賣家明確勾選是否具備來源憑證。

對(duì)于相關(guān)產(chǎn)品體驗(yàn)問題給大家?guī)淼睦_，閑魚方面深表歉意。后續(xù)將盡快加強(qiáng)商品上架提醒和用戶確認(rèn)，避免類似誤解再次發(fā)生。

【2】律師：注意“無感授權(quán)”陷阱，警惕“拍照估價(jià)”等功能

針對(duì)此事涉及的法律問題，九派新聞采訪了北京卓浩律師事務(wù)所張建律師。

張建分析，閑魚平臺(tái)AI在未獲用戶明確授權(quán)的情況下，自動(dòng)讀取照片、配文生成商品描述并上架售賣的行為，在法律上應(yīng)定性為一項(xiàng)復(fù)合型民事侵權(quán)及行政違法行為。對(duì)于毫不知情的賬號(hào)主人，主要涉及知情權(quán)與決定權(quán)、隱私權(quán)以及個(gè)人信息保護(hù)權(quán)被侵害。

“個(gè)人信息保護(hù)法”第二十四條要求，個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式。通過自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說明，并有權(quán)拒絕個(gè)人信息處理者僅通過自動(dòng)化決策的方式作出決定。

由此，張建認(rèn)為，閑魚“無二次確認(rèn)彈窗”的模糊設(shè)計(jì)，或涉嫌侵害用戶拒絕僅通過自動(dòng)化決策作出對(duì)其有重大影響決定的權(quán)利。行政方面，或涉嫌違反“網(wǎng)絡(luò)安全法”等。

有人擔(dān)憂，此次雖未達(dá)成實(shí)際交易，但AI這一操作日后可能為文物販子線上非法交易提供隱形便利。

對(duì)此，張建分析稱，若該功能被文物販子利用，造成實(shí)際的文物損失，責(zé)任劃分應(yīng)遵循“誰控制、誰收益、誰擔(dān)責(zé)”的原則。作為AI服務(wù)提供者的平臺(tái)，若未盡審核與安全保障義務(wù)，需承擔(dān)連帶責(zé)任。若平臺(tái)明知漏洞卻放任不管，嚴(yán)重的可能成為倒賣文物罪或非法經(jīng)營(yíng)罪的共犯。此外，若AI算法存在設(shè)計(jì)缺陷，根據(jù)《中華人民共和國(guó)民法典》中的過錯(cuò)責(zé)任原則，開發(fā)者也需要承擔(dān)相應(yīng)責(zé)任。

此事涉及軟件權(quán)限獲取的問題，引發(fā)公眾對(duì)AI侵犯隱私邊界的隱憂。在使用APP時(shí)，用戶如何避免相冊(cè)中圖片被過度識(shí)別、獲??？

張建提醒，公眾在使用APP時(shí)要注意“無感授權(quán)”陷阱。在手機(jī)設(shè)置中，將相冊(cè)權(quán)限由“允許訪問所有照片”改為“僅允許訪問選中的照片”或“禁止”，這是比較有效的阻斷方式。同時(shí)對(duì)“拍照估價(jià)”等功能保持警惕，注意頁面是否有小字提示，注意識(shí)別是否有商業(yè)風(fēng)險(xiǎn)。盡量不向AI提供身份證、銀行卡、家庭住址等核心隱私。盡量勤檢查平臺(tái)“我發(fā)布”等頁面，發(fā)現(xiàn)異常立即下架并投訴。

“此次事件并非一個(gè)孤立的技術(shù)烏龍，而是AI野蠻生長(zhǎng)時(shí)代的一個(gè)警示?！被诖耸拢瑥埥ㄖ赋?，在日常生活中，常有一些APP下載協(xié)議中存在“默示同意”類條款，多數(shù)平臺(tái)將此項(xiàng)協(xié)議設(shè)置為強(qiáng)制要求同意，或者設(shè)置為“默示授權(quán)”。此類設(shè)置中的內(nèi)容被認(rèn)為是模糊條款，通常因“未盡合理提示說明義務(wù)”或“不合理地免除平臺(tái)責(zé)任”被認(rèn)定為無效的“格式條款”或“霸王條款”。對(duì)電子交易行業(yè)而言，很容易動(dòng)搖平臺(tái)的交易信用根基。

如何避免類似事件再發(fā)生？張建認(rèn)為，需要多方協(xié)同努力。首先，建議閑魚等平臺(tái)設(shè)置商品上架二次確認(rèn)彈窗；建立AI內(nèi)容嚴(yán)格審核制度，嚴(yán)格要求設(shè)置標(biāo)識(shí)“AI生成”內(nèi)容，進(jìn)一步完善風(fēng)險(xiǎn)算法評(píng)估機(jī)制。

監(jiān)管部門要進(jìn)一步依法強(qiáng)化執(zhí)法，建立AI應(yīng)用“合規(guī)紅線”，提升處罰力度。技術(shù)開發(fā)者在設(shè)計(jì)AI功能時(shí)，將“用戶確認(rèn)”設(shè)為強(qiáng)制前提，將AI生產(chǎn)內(nèi)容設(shè)置發(fā)布門檻，比如要求加標(biāo)識(shí)，建立“隱私保護(hù)設(shè)計(jì)”理念。用戶要進(jìn)一步提高警惕，注意管理權(quán)限的設(shè)置，關(guān)注相關(guān)新聞消息，發(fā)現(xiàn)異常及時(shí)投訴舉報(bào)。

九派新聞?dòng)浾?胡冰月