今年以來,，數(shù)字中國建設(shè)峰會、中國網(wǎng)絡(luò)文明大會,、2023年國家網(wǎng)絡(luò)安全宣傳周等重要活動接連在福建舉辦，這三場活動都與互聯(lián)網(wǎng)有關(guān),，但聚焦的卻是截然不同的兩個關(guān)鍵詞。

　　互聯(lián)網(wǎng)是把“雙刃劍”,，“發(fā)展”和“安全”正是它的一體兩面,。隨著新一輪科技革命和產(chǎn)業(yè)變革深入發(fā)展，網(wǎng)絡(luò)安全領(lǐng)域面臨的風險和挑戰(zhàn)日益突出,。

　　例如,，近年來越來越受輿論關(guān)注的“AI換臉術(shù)”，在今年的網(wǎng)絡(luò)安全博覽會上,，“AI換臉”的“攻”和“防”亦備受關(guān)注,。

　　只需一張目標人物的照片，依托人工智能合成,，站在攝像頭前的你就能在屏幕上“變成”他,，還能通過網(wǎng)貸平臺的人臉認證，眨眨眼,、搖搖頭就把錢轉(zhuǎn)出去了,。在美亞柏科展區(qū)，工作人員演示了這一“騙術(shù)”,。

　　對此,，現(xiàn)場工作人員表示，目前,，美亞柏科自主研發(fā)了深度偽造檢測鑒定平臺,，可以進行智能檢測和識別偽造的視頻，助力監(jiān)管部門提升內(nèi)容安全治理能力,。

　　于今年4月在福州舉辦的數(shù)字中國建設(shè)峰會上聊“發(fā)展”時,，AI稱得上是最熱的詞；在當下正在舉辦的網(wǎng)絡(luò)安全宣傳周上談“安全”時，AI仍是最大的焦點,。

　　“數(shù)據(jù)可以說是AI大模型最重要的一個要素,，大家認識不同，但是總的來說幾乎所有人都認為數(shù)據(jù)的質(zhì)量對模型智能水平影響最高,，差不多要超過60%,。”在北京智源人工智能研究院院長,、北京大學計算機學院教授黃鐵軍看來,，大模型基于背后的數(shù)據(jù)，所有的功能都源于數(shù)據(jù),，這也意味著越來越高的風險,，“對于AI技術(shù)，你給它‘喂’的數(shù)據(jù)出錯了,，它就永遠照這個錯誤的來辦,，有的時候相互矛盾?！?/p>

　　粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院創(chuàng)院理事長沈向洋談到“AI對社會的沖擊”時用了三個詞：不完美的數(shù)據(jù)源,、一本正經(jīng)的“胡說八道”和更難被察覺的AI謠言。

　　搜索引擎和AI大模型都有搜集資料,、解答疑問的功能,，沈向洋形象地將搜索引擎形容為“責任有限公司”，而將AI大模型形容為“責任無限公司”,。如此論斷的區(qū)別在于深層次學習,。

　　“搜索引擎搜出來不好的東西，你知道它的出處在哪里,，所以它責任有限,，而AI大模型通過深層次的人工智能將內(nèi)容生成，我把它叫做‘責任無限公司’,?！鄙蛳蜓笳f。

　　在一些專家看來,，生成式人工智能,，新型安全風險正在顯現(xiàn)，比如不良輿情,、算法偏見,、認知錯誤、心理誤導,、數(shù)據(jù)泄露等,。

　　今年7月，我國出臺了全球首部針對生成式人工智能的專門立法――《生成式人工智能服務(wù)管理暫行辦法》，對數(shù)據(jù)合規(guī)提出明確要求,。

　　中央宣傳部副部長,、中央網(wǎng)信辦主任、國家網(wǎng)信辦主任莊榮文在會上表示,，要創(chuàng)新數(shù)據(jù)治理,，大力提升數(shù)據(jù)安全和個人信息保護水平，加大數(shù)據(jù)領(lǐng)域違法違規(guī)行為的打擊力度,，保障個人信息安全,。要強化規(guī)范引領(lǐng)，加強新技術(shù)新應(yīng)用前瞻性研究,，劃清安全紅線,，有效規(guī)范引導新技術(shù)新應(yīng)用健康有序安全發(fā)展。(人民網(wǎng))