據(jù)外媒報道，隨著OpenAI訓練的ChatGPT人工智能聊天機器人風靡全球,，多家公司也開始加速相關技術的研發(fā)和應用,。最新的自然語言處理模型GPT-4于3月14日推出，進一步推動了大型語言模型及類ChatGPT技術的發(fā)展,。

然而,，隨著這些人工智能技術的快速發(fā)展，也引起了人們對其潛在風險的擔憂,。上千名頂尖人士,，包括馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克等,，曾公開呼吁AI實驗室暫停訓練更強大的模型6個月,，以制定并落實相關的安全協(xié)議。

為了探討如何以最負責任的態(tài)度繼續(xù)開發(fā)AI技術,，頂級投資公司SV Angel將于當?shù)貢r間周三召集AI研發(fā)領域頂尖企業(yè)的高管和員工,，探討制定使用AI技術的標準。據(jù)報道,，OpenAI,、微軟、谷歌,、蘋果、英偉達等公司的代表預計將參會,。

在此前呼吁暫停訓練更強大的模型的信中,，他們提到,，AI實驗室和第三方的專家應該利用暫停時間，共同制定和實施先進AI設計和開發(fā)的共享安全協(xié)議,，并由第三方專家進行嚴格的審查和監(jiān)督,。同時，AI開發(fā)人員必須同政策制定者合作,，加速開發(fā)強大的AI管理系統(tǒng),。

這一事件再次引起人們對AI技術的潛在風險的關注。人們普遍認為,，盡管AI技術的發(fā)展前景廣闊,，但也需要制定相關安全協(xié)議和規(guī)定，以確保其合理,、負責任的應用,。

據(jù)悉，目前國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》,，現(xiàn)向社會公開征求意見,。在征求意見稿中，明確了提供者在提供服務過程中,，對用戶的輸入信息和使用記錄承擔保護義務,；利用生成式人工智能產(chǎn)品生成內容的提供者應當對生成式人工智能產(chǎn)品的預訓練數(shù)據(jù)、優(yōu)化訓練數(shù)據(jù)來源的合法性負責,；對于運行中發(fā)現(xiàn),、用戶舉報的不符合本辦法要求的生成內容，除采取內容過濾等措施外,，應在3個月內通過模型優(yōu)化訓練等方式防止再次生成等內容,。

隨著人工智能技術的不斷進步，AI技術的發(fā)展前景仍然十分廣闊,。然而,，我們也需要認真考慮其潛在風險，積極制定相關安全協(xié)議和規(guī)定,，確保其合理,、負責任的應用，以實現(xiàn)人工智能技術的可持續(xù)發(fā)展,。