日前舉行的中央經(jīng)濟(jì)工作會(huì)議指出,，2024年要“加快推動(dòng)人工智能發(fā)展”,。當(dāng)前，人工智能（AI）已廣泛滲透到各行各業(yè),，從醫(yī)療保健,、交通運(yùn)輸,，到教育培訓(xùn)、娛樂(lè)休閑等。那么AI技術(shù)有哪些新趨勢(shì),，未來(lái)該如何更安全地發(fā)展,？2023年12月27日，AI發(fā)展與治理創(chuàng)新研討會(huì)在北京舉行,，與會(huì)專家與相關(guān)從業(yè)者圍繞AI技術(shù)創(chuàng)新發(fā)展進(jìn)行了分享與討論,。

　　新模式新業(yè)態(tài)不斷涌現(xiàn)

　　“人工智能已成為引領(lǐng)產(chǎn)業(yè)發(fā)展、驅(qū)動(dòng)經(jīng)濟(jì)增長(zhǎng),、連接全球合作的重要新興技術(shù)方向,。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院信息技術(shù)研究中心主任范科峰認(rèn)為,，當(dāng)前,，AI技術(shù)新模式新業(yè)態(tài)不斷涌現(xiàn)，產(chǎn)品和服務(wù)逐漸完善,，在經(jīng)濟(jì)社會(huì)各領(lǐng)域廣泛應(yīng)用,，與實(shí)體經(jīng)濟(jì)融合持續(xù)深化，正深刻改變著人類的生產(chǎn)生活方式,。

　　在研討會(huì)上,，多項(xiàng)AI技術(shù)在各領(lǐng)域?qū)嶋H應(yīng)用的案例令人眼前一亮。

　　AI技術(shù)能幫人更好地做生意,。對(duì)從事家具外貿(mào)電商業(yè)務(wù)的黃凱來(lái)說(shuō),，他的日常工作就離不開(kāi)AI技術(shù)的幫助?！斑^(guò)去,，要上架一款家具，我們得先完成設(shè)計(jì),、做出樣品,，再進(jìn)行產(chǎn)品拍攝。這個(gè)過(guò)程不僅時(shí)間長(zhǎng),，而且花費(fèi)的成本也很高,。但現(xiàn)在，有了AI技術(shù)的幫助,，只需要輸入數(shù)據(jù),，就能很簡(jiǎn)單地做出產(chǎn)品圖，并且能隨意模擬產(chǎn)品在客廳,、商場(chǎng)等不同場(chǎng)景下擺放的效果,，效率得到了極大提升?！贝送?，AI技術(shù)還幫助黃凱的公司降低了招聘運(yùn)營(yíng)人員的難度,。據(jù)黃凱介紹，以前,，從事外貿(mào)生意對(duì)運(yùn)營(yíng)人員的外語(yǔ)水平,、工作經(jīng)驗(yàn)要求較高，但有了AI工具做輔助,，新員工也可以很快上手完成工作了,。

　　在醫(yī)療領(lǐng)域，AI技術(shù)大有用武之地,。胰腺癌是一種生存率較低的惡性腫瘤,，并且早期篩查容易出現(xiàn)漏診或誤診?，F(xiàn)在,，來(lái)自浙大醫(yī)學(xué)院附屬第一醫(yī)院、復(fù)旦大學(xué)附屬腫瘤醫(yī)院的醫(yī)學(xué)團(tuán)隊(duì),，已開(kāi)始采用“平掃CT+AI”的方法,，進(jìn)行大規(guī)模胰腺癌早期篩查。在2萬(wàn)多人的真實(shí)病例試驗(yàn)中,，發(fā)現(xiàn)了31例臨床漏診病變,，其中2例早期病患很快就完成了手術(shù)。該項(xiàng)研究成果也已發(fā)表在國(guó)際醫(yī)學(xué)期刊上,。

　　在影視制作領(lǐng)域,，AI技術(shù)未來(lái)可期。阿里大文娛團(tuán)隊(duì)借助AI技術(shù),，在虛擬拍攝,、數(shù)字人、超高清視聽(tīng)體驗(yàn)等領(lǐng)域取得了創(chuàng)新突破,。相對(duì)傳統(tǒng)制作方式,，借助虛擬拍攝，制作效率可以提升40%,?！昂芏噙^(guò)去想到但做不到、甚至創(chuàng)作者也沒(méi)想到的場(chǎng)景,，都在AI的助力下呈現(xiàn)在我們的面前,。可以預(yù)見(jiàn),，AI技術(shù)將全面提升中國(guó)影視制作的水平,。”阿里巴巴科技倫理治理委員會(huì)委員薛暉說(shuō),。

　　風(fēng)險(xiǎn)與挑戰(zhàn)不容忽視

　　隨著AI技術(shù)的快速發(fā)展,，技術(shù)風(fēng)險(xiǎn),、隱私保護(hù)等安全問(wèn)題也愈加受到關(guān)注。在研討會(huì)上,，阿里巴巴集團(tuán)與中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院聯(lián)合發(fā)布了《生成式人工智能（AIGC）治理與實(shí)踐白皮書(shū)》,，系統(tǒng)分析大模型和AIGC主要風(fēng)險(xiǎn)，并從應(yīng)用角度提出針對(duì)性治理建議和可操作性實(shí)踐方案,。

　　所謂生成式人工智能是指基于人工智能的技術(shù)方法,，通過(guò)對(duì)已有數(shù)據(jù)的學(xué)習(xí)和識(shí)別，生成相關(guān)內(nèi)容的技術(shù),。中國(guó)科學(xué)院信息工程研究所技術(shù)副總師韓冀中認(rèn)為,，這項(xiàng)技術(shù)最主要的特點(diǎn)，是改變了信息的生成方式和信息的獲取方式,?！懊恳淮涡畔@取方式的變化，都會(huì)帶來(lái)整個(gè)信息產(chǎn)業(yè)的變革,。比如我們?cè)缙讷@取信息可能通過(guò)黃頁(yè),，后來(lái)是搜索引擎，現(xiàn)在有了更新的渠道,，即ChatGPT這樣的技術(shù),，會(huì)讓整個(gè)信息產(chǎn)業(yè)產(chǎn)生巨大變化?！?/p>

　　阿里巴巴人工智能治理和可持續(xù)發(fā)展研究中心首席科學(xué)家何源認(rèn)為,，生成式人工智能技術(shù)應(yīng)用中，可能存在的安全風(fēng)險(xiǎn)與每個(gè)人息息相關(guān),。據(jù)何源介紹,，生成式人工智能可以通過(guò)交互的方式低成本、快速地生產(chǎn)內(nèi)容,，比如可以很容易地生成并傳播謠言,，這給內(nèi)容安全的防控帶來(lái)了新挑戰(zhàn)。在隱私和版權(quán)方面,，大模型應(yīng)用的海量互聯(lián)網(wǎng)數(shù)據(jù),，很難逐一確認(rèn)樣本授權(quán)，容易造成隱私泄露和侵權(quán)問(wèn)題,。另外,，生成式人工智能還降低了很多專業(yè)領(lǐng)域的技術(shù)門(mén)檻，有可能被濫用于黑客攻擊,、網(wǎng)絡(luò)犯罪等,。因此，業(yè)內(nèi)專家認(rèn)為,，建立相關(guān)安全治理體系十分必要,。

　　“多元協(xié)同,、開(kāi)放共治”

　　為規(guī)范生成式人工智能技術(shù)發(fā)展，2023年7月,，國(guó)家網(wǎng)信辦聯(lián)合多部委公布了《生成式人工智能服務(wù)管理暫行辦法》,。

　　該《辦法》一方面明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景,，構(gòu)建應(yīng)用生態(tài)體系,。同時(shí)，也明確“生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),，使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的,，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán),；涉及個(gè)人信息的,，應(yīng)當(dāng)取得個(gè)人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性”等,。

　　在研討會(huì)上，多位專家就生成式人工智能的安全治理提出自己的觀點(diǎn),。

　　中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院信息技術(shù)研究中心副主任董建提到,，當(dāng)前，國(guó)內(nèi)外都在推動(dòng)研發(fā)生成式人工智能的治理工具,，但如何通過(guò)技術(shù)深層次解決治理問(wèn)題,，尚需進(jìn)一步探索。

　　中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟安全治理委員會(huì)專委會(huì)副主委潘恩榮認(rèn)為,，生成式人工智能對(duì)人類的經(jīng)濟(jì)社會(huì)發(fā)展觀念帶來(lái)了巨大沖擊,，規(guī)范其發(fā)展“宜疏不宜堵”。一方面,，必須克服各種恐懼和臆想,，克制“堵”的沖動(dòng)；另一方面,，要在實(shí)踐中,，小步快跑地迭代出各種“疏”的方式,。

　　復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授張謐指出，科技行業(yè)應(yīng)該負(fù)責(zé)任地發(fā)展AI,，兼顧AI發(fā)展和風(fēng)險(xiǎn)管控?，F(xiàn)在全球范圍內(nèi)有AI競(jìng)賽的氛圍，各方應(yīng)該立足長(zhǎng)遠(yuǎn),，攜手營(yíng)造有序競(jìng)爭(zhēng),，保障AI技術(shù)發(fā)展處于安全區(qū)域。

　　“關(guān)于AI,，我們不知道的比知道的多,，難以想象的比可以預(yù)測(cè)的多?！毖煴硎?，生成式人工智能帶來(lái)了前所未有的挑戰(zhàn)，需要前瞻性地應(yīng)對(duì),，“多元協(xié)同,、開(kāi)放共治”是AI發(fā)展和治理的必經(jīng)之路。記者 李 貞