對(duì)話交流,、創(chuàng)作詩(shī)歌、編寫代碼,、自動(dòng)繪畫……以大語(yǔ)言模型為代表的生成式人工智能（AI）快速發(fā)展，正前所未有地改變著人們的工作和生活,。

　　隨著生成式AI應(yīng)用場(chǎng)景日益增多,，個(gè)人信息保護(hù)也面臨新的挑戰(zhàn)：對(duì)數(shù)據(jù)的收集和挖掘，會(huì)不會(huì)侵犯?jìng)€(gè)人隱私,？怎樣處理好個(gè)人信息保護(hù)與數(shù)據(jù)合理利用之間的關(guān)系,？使用個(gè)人信息的邊界在哪兒,？本報(bào)記者就此進(jìn)行了采訪,。

　　“畫像”背后藏風(fēng)險(xiǎn)

　　“對(duì)許多上班族來(lái)說(shuō)，做PPT是一件讓人頭疼的事,，經(jīng)常要加班加點(diǎn)熬夜制作,，有時(shí)還要額外付費(fèi)聘請(qǐng)專業(yè)設(shè)計(jì)人員修改潤(rùn)色?！痹诒本┠郴ヂ?lián)網(wǎng)公司工作的小潘告訴記者,，現(xiàn)在通過(guò)生成式AI軟件，只需確定主題,、導(dǎo)入大綱,、選擇模版，不到1分鐘就能生成一份專業(yè)又精美的PPT,。

　　盡管效率明顯提高,，小潘卻心有疑慮：PPT里提到的工作內(nèi)容、行業(yè)數(shù)據(jù),、個(gè)人情況,，會(huì)不會(huì)被儲(chǔ)存在AI“大腦”中？如果涉及企業(yè)戰(zhàn)略規(guī)劃,、商業(yè)秘密,、關(guān)鍵技術(shù)，有沒有被惡意竊取或泄露給第三方的可能,？“目前,，還沒看到軟件有類似‘一鍵擦除數(shù)據(jù)’的功能，無(wú)法確定這些信息的最終去向,?！毙∨苏f(shuō),。

　　現(xiàn)實(shí)中，不管是生成PPT,、制作簡(jiǎn)歷還是自動(dòng)美顏,、智能聊天，都不可避免地要向生成式AI提供姓名,、職業(yè),、人臉、聲紋等個(gè)人信息,，其中潛藏著不容忽視的隱私泄露風(fēng)險(xiǎn),。

　　比如，一款基于生成式AI技術(shù)的攝影軟件一度走紅網(wǎng)絡(luò),。用戶花9.9元,，上傳個(gè)人照片，選擇喜歡的模版,，便能獲取一套由AI生成的寫真集,。在AI寫真“刷屏”網(wǎng)絡(luò)的同時(shí)，該軟件也因存在濫用用戶信息的嫌疑受到批評(píng),。有網(wǎng)友說(shuō)：“向一款手機(jī)APP里傳這么多照片,，讓我感到很不安。誰(shuí)知道這些照片會(huì)不會(huì)被作為其他用途,？”后來(lái),，研發(fā)團(tuán)隊(duì)致歉，承諾上傳照片只用于數(shù)字寫真制作,，制作完成后,，照片也將自動(dòng)刪除。

　　出于對(duì)新興技術(shù)的好奇,，消費(fèi)者往往在不知不覺中將個(gè)人隱私“透露”給AI,。反過(guò)來(lái)，憑借獲取到的信息,，通過(guò)強(qiáng)大的數(shù)據(jù)整合,、處理能力，生成式AI也能判斷出個(gè)人的身份特征和行為習(xí)慣,。有研究發(fā)現(xiàn),，聊天機(jī)器人可以從日常對(duì)話中精準(zhǔn)提煉關(guān)鍵信息，了解其購(gòu)物習(xí)慣,、個(gè)人興趣乃至個(gè)人觀念,，從而為用戶精準(zhǔn)“畫像”。

　　“生成式AI具有高度智能化特征,，借助其出色的內(nèi)容理解和學(xué)習(xí)能力,，從海量信息中獲取個(gè)人隱私,，甚至可能通過(guò)對(duì)話‘誘導(dǎo)’用戶打開‘心房’?！蔽髂险ù髮W(xué)科技法學(xué)研究院副院長(zhǎng)鄭志峰告訴記者,，這意味著生成式AI十分“懂”你，在侵害個(gè)人隱私方面更加高效,、隱蔽,，不易察覺。

　　用戶數(shù)據(jù)成“養(yǎng)料”

　　“我們將對(duì)您主動(dòng)上傳的文檔材料進(jìn)行脫敏處理后作為AI訓(xùn)練基礎(chǔ)材料使用……”前段時(shí)間,，某辦公軟件隱私政策中的條款被質(zhì)疑濫用用戶信息,。隨后，該軟件發(fā)布聲明,，保證用戶文檔不再被用于AI訓(xùn)練目的,。

　　啥是AI訓(xùn)練？“對(duì)生成式AI來(lái)說(shuō),，離不開算法,、算力、數(shù)據(jù)三要素,。其中,，數(shù)據(jù)是AI的‘養(yǎng)料’,，‘投喂’得越多,，AI越‘聰明’?！编嵵痉褰榻B,，這決定了生成式AI必須盡可能多地采集、處理和使用各種數(shù)據(jù),，為大模型成長(zhǎng)提供充足“營(yíng)養(yǎng)”,。

　　當(dāng)前，各類數(shù)據(jù)采集無(wú)時(shí)不有,、無(wú)處不在,，幾乎每個(gè)人都被置于數(shù)字化空間之中，個(gè)人隱私極易以數(shù)據(jù)的形式被存儲(chǔ),、復(fù)制,、傳播。在所有數(shù)據(jù)類型中,，個(gè)人信息能反映個(gè)人行為,、偏好、行動(dòng)軌跡等,，是最有價(jià)值的數(shù)據(jù)類型之一,。

　　“許多企業(yè)利用用戶數(shù)據(jù)優(yōu)化產(chǎn)品和服務(wù),、定向投放廣告或開展經(jīng)營(yíng)活動(dòng)?！敝袊?guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝說(shuō),，“有的企業(yè)片面關(guān)注數(shù)據(jù)價(jià)值，忽視了隱私保護(hù)和數(shù)據(jù)安全,，可能出現(xiàn)違法收集,、濫用用戶信息等行為?！?/p>

　　生成式AI的快速發(fā)展和應(yīng)用門檻的大幅降低增加了隱私泄露風(fēng)險(xiǎn),。研究報(bào)告顯示，截至2024年1月,，前十位AI類APP需求規(guī)模同比增長(zhǎng)近40倍,。生成式AI正加速滲透人們生活的方方面面。然而,，應(yīng)用場(chǎng)景日益豐富的同時(shí),，違規(guī)收集、使用用戶信息的花樣也變多了,。

　　借助生成式AI的換臉和擬聲技術(shù)進(jìn)行遠(yuǎn)程視頻詐騙就是一例,。有媒體報(bào)道，郭先生接到“好友”的視頻通話,，對(duì)方聲稱需要保證金用以項(xiàng)目競(jìng)標(biāo),，想借郭先生公司賬戶“走個(gè)賬”。出自對(duì)“好友”的信任,，郭先生陸續(xù)給對(duì)方轉(zhuǎn)賬共計(jì)430萬(wàn)元,。等郭先生再次聯(lián)系好友時(shí)才發(fā)現(xiàn)自己被騙。

　　“隨著AI生成內(nèi)容愈發(fā)逼真,，傳統(tǒng)內(nèi)容審核機(jī)制和安全防護(hù)手段已不足以適應(yīng)新形勢(shì)的要求,。”中國(guó)信通院人工智能研究所高級(jí)業(yè)務(wù)主管呼娜英說(shuō),，生成式AI技術(shù)愈加成熟,，用戶在保護(hù)好個(gè)人隱私的同時(shí)，也需要提升對(duì)新型網(wǎng)絡(luò)犯罪的辨別和防范能力,。

　　給AI產(chǎn)品貼“標(biāo)記”

　　怎樣才能滿足生成式AI的“胃口”,，同時(shí)又保護(hù)好個(gè)人隱私呢？處理好兩者關(guān)系,，既需要法律法規(guī)的約束,，也離不開技術(shù)手段的支撐。

　　去年7月,，國(guó)家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,，多處提及個(gè)人信息保護(hù)問(wèn)題,。強(qiáng)調(diào)生成式AI服務(wù)提供者“對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息,，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄,，不得非法向他人提供使用者的輸入信息和使用記錄”等。

　　“中國(guó)目前有關(guān)個(gè)人隱私保護(hù)的法律法規(guī)比較完善,。未來(lái)需要根據(jù)生成式AI技術(shù)特點(diǎn)進(jìn)一步構(gòu)建具體的權(quán)利,、義務(wù)和責(zé)任規(guī)則?！编嵵痉迮e例說(shuō),，AI的風(fēng)險(xiǎn)等級(jí)是多樣的，不同AI算法對(duì)于個(gè)人隱私的侵害程度不同,，需要有針對(duì)性的具體措施,。

　　通過(guò)技術(shù)手段識(shí)別、阻斷和追溯生成式AI生成侵犯?jìng)€(gè)人隱私的有害信息,，也是人工智能治理實(shí)踐中的重要措施之一,。根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》， 深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容,，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí),。

　　“通俗地說(shuō)，就是給生成式AI的產(chǎn)品和服務(wù)貼上統(tǒng)一的‘標(biāo)記’,，提示用戶該內(nèi)容由AI合成,，也有助于監(jiān)管部門管理?！焙裟扔⒔榻B,，由于顯式標(biāo)識(shí)容易被裁剪或刪除,，還需進(jìn)一步探索隱式標(biāo)識(shí)的解決方案,。

　　盡管生成式AI在一定程度上存在隱私泄露風(fēng)險(xiǎn)，但并不意味著它與信息保護(hù)之間是完全對(duì)立的,，關(guān)鍵是要找到發(fā)展與規(guī)范之間的平衡點(diǎn),，在生活越來(lái)越“智能”的同時(shí)，守護(hù)好個(gè)人隱私安全,，推動(dòng)生成式AI健康可持續(xù)發(fā)展,。