據(jù)外媒報道,，隨著OpenAI訓(xùn)練的ChatGPT人工智能聊天機(jī)器人風(fēng)靡全球,，多家公司也開始加速相關(guān)技術(shù)的研發(fā)和應(yīng)用。最新的自然語言處理模型GPT-4于3月14日推出,，進(jìn)一步推動了大型語言模型及類ChatGPT技術(shù)的發(fā)展。

然而,，隨著這些人工智能技術(shù)的快速發(fā)展,，也引起了人們對其潛在風(fēng)險的擔(dān)憂。上千名頂尖人士,，包括馬斯克,、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克等，曾公開呼吁AI實(shí)驗(yàn)室暫停訓(xùn)練更強(qiáng)大的模型6個月,，以制定并落實(shí)相關(guān)的安全協(xié)議,。

為了探討如何以最負(fù)責(zé)任的態(tài)度繼續(xù)開發(fā)AI技術(shù)，頂級投資公司SV Angel將于當(dāng)?shù)貢r間周三召集AI研發(fā)領(lǐng)域頂尖企業(yè)的高管和員工，探討制定使用AI技術(shù)的標(biāo)準(zhǔn),。據(jù)報道,，OpenAI、微軟,、谷歌,、蘋果、英偉達(dá)等公司的代表預(yù)計(jì)將參會,。

在此前呼吁暫停訓(xùn)練更強(qiáng)大的模型的信中,，他們提到，AI實(shí)驗(yàn)室和第三方的專家應(yīng)該利用暫停時間,，共同制定和實(shí)施先進(jìn)AI設(shè)計(jì)和開發(fā)的共享安全協(xié)議,，并由第三方專家進(jìn)行嚴(yán)格的審查和監(jiān)督。同時,，AI開發(fā)人員必須同政策制定者合作,，加速開發(fā)強(qiáng)大的AI管理系統(tǒng)。

這一事件再次引起人們對AI技術(shù)的潛在風(fēng)險的關(guān)注,。人們普遍認(rèn)為,，盡管AI技術(shù)的發(fā)展前景廣闊，但也需要制定相關(guān)安全協(xié)議和規(guī)定,，以確保其合理,、負(fù)責(zé)任的應(yīng)用。

據(jù)悉,，目前國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》,，現(xiàn)向社會公開征求意見。在征求意見稿中,，明確了提供者在提供服務(wù)過程中,，對用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)；利用生成式人工智能產(chǎn)品生成內(nèi)容的提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù),、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé),；對于運(yùn)行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內(nèi)容,，除采取內(nèi)容過濾等措施外,，應(yīng)在3個月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成等內(nèi)容。

隨著人工智能技術(shù)的不斷進(jìn)步，AI技術(shù)的發(fā)展前景仍然十分廣闊,。然而,，我們也需要認(rèn)真考慮其潛在風(fēng)險，積極制定相關(guān)安全協(xié)議和規(guī)定,，確保其合理,、負(fù)責(zé)任的應(yīng)用，以實(shí)現(xiàn)人工智能技術(shù)的可持續(xù)發(fā)展,。