人類應(yīng)如何提防“有了意識的AI”？

　　中美等28國簽署全球首個AI治理宣言

　　一向低調(diào)的Open AI首席科學(xué)家伊利亞?蘇茨科維爾近日罕見地接受了媒體長篇專訪,。在采訪中他透露,，他現(xiàn)在最擔(dān)心的已經(jīng)不是如何打造更新更強的大模型，而是擔(dān)憂如何提防未來必將出現(xiàn)的“超級人工智能”,。此前,，馬斯克、“AI教父”辛頓等人也多次提醒人們注意防范AI帶來的風(fēng)險,。

　　為了應(yīng)對危機,，日前全球主要國家在英國召開了一場AI安全峰會，中國科技部副部長吳朝暉也應(yīng)邀在峰會開幕式發(fā)表演講,。中國,、美國等28個國家和歐盟共同簽署了《布萊切利宣言》，關(guān)注人工智能模型對人類生存構(gòu)成威脅的擔(dān)憂,。有媒體評論說,，在人類面臨AI這一新興物種的強烈威脅之際，“全球表現(xiàn)得空前團結(jié)”,。

　　蘇茨科維爾：

　　AI可能已經(jīng)有了意識

　　蘇茨科維爾是一名以色列裔加拿大人,，早在本世紀(jì)初,，他就拜師于“AI教父”辛頓，他們的團隊從最初級的AI識圖軟件開始,，一步步將當(dāng)時不被人看好的AI模型的功能推向極限,。蘇茨科維爾還坦承，他在GPT模型剛推出的時候根本沒想到它的功能會如此強大,?！白铋_始我們給它提問，它總會有一搭沒一搭地回答,，還有很多事實錯誤,。”不過隨著訓(xùn)練量的增大,，以及數(shù)以十億計的用戶反饋之下,，GPT模型更新迭代速度遠(yuǎn)超任何人想象。

　　蘇茨科維爾在采訪中還認(rèn)為,，GPT模型已經(jīng)擁有了自己的意識,，盡管可能很輕微。他以量子力學(xué)中的“波茲曼大腦”概念舉例說,，構(gòu)成AI根基的“神經(jīng)網(wǎng)絡(luò)”在活躍的時候也擁有自己的意識,，在無人提問的空隙，這些意識也就消失不見了,。蘇茨科維爾稱，他目前工作的重點不是開發(fā)更強的AI模型,，而是防范未來強大的“超級人工智能”對人類造成的威脅。在這一步防范工作完成后,，他認(rèn)為一部分人類屆時可能會選擇與安全的AI相結(jié)合,，變成AI的一部分，以實現(xiàn)“共同永生”,。

　　馬斯克警告：

　　AI未來可能威脅人類生存

　　蘇茨科維爾表示，“AI看問題的眼光比人類深刻得多,，人類下了幾千年的圍棋,，了解的規(guī)律都比AI膚淺,。你可以想象當(dāng)AGI達成時,，AI在任何問題上都能像在圍棋上領(lǐng)先人類,，那會是什么景象,?！碧K茨科維爾的老師、“AI教父”辛頓也在今年6月的北京智源人工智能大會上對在場觀眾表達了擔(dān)憂,。他認(rèn)為,，組成AI的人造神經(jīng)網(wǎng)絡(luò)將比人腦更智能,，而且這一天的到來要遠(yuǎn)遠(yuǎn)早于他原來的想象。

　　眾所周知,，世界首富馬斯克一直以來也是“AI威脅論”持有者,。他曾在紀(jì)錄片中表示,，“在人工智能時代，我們可能給自己創(chuàng)造出來一個永恒不朽的獨裁者,。在過去,，至少希特勒和墨索里尼這樣的凡人能力有限，他們的作惡多端也有極限”,。馬斯克還稱，如果未來人類碰巧擋在了AI實現(xiàn)既定目標(biāo)的道路上,，AI會像“踩死螞蟻”一樣碾壓過人類的尸體,。

　　面對科學(xué)界普遍的擔(dān)憂,，11月1日,，首屆全球人工智能安全峰會在英國布萊切利莊園拉開帷幕,。在開幕式上，包括中國在內(nèi)的28個與會國共同簽署的《布萊切利宣言》正式發(fā)表,，這也是全球首個關(guān)于AI治理的共同宣言,。

　　據(jù)新華社報道,，中國科技部副部長吳朝暉在開幕式上發(fā)表了演講,。中方指出,，人工智能治理攸關(guān)全人類命運,，是世界各國面臨的共同課題,。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本,，智能向善,，加強技術(shù)風(fēng)險管控，并在相互尊重,、平等互利的原則基礎(chǔ)上,，鼓勵各方協(xié)同共治，增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán),，不斷彌合智能鴻溝和治理能力差距,。中方愿與各方一道就人工智能安全治理加強溝通交流,，為推動形成普遍參與的國際機制和具有廣泛共識的治理框架積極貢獻智慧，切實落實全球發(fā)展倡議,、全球安全倡議和全球文明倡議,，促進人工智能技術(shù)更好造福人類,，共同構(gòu)建人類命運共同體。

　　英國科學(xué),、創(chuàng)新和技術(shù)部的信息顯示,，本次峰會邀請了約100名各國官員,、人工智能企業(yè)代表和專家。美國,、中國、日本,、德國,、印度等20多個國家的政府代表,，以及聯(lián)合國、經(jīng)合組織,、國際電信聯(lián)盟等多個國際組織的代表參會,。有媒體稱，“這是全球罕見的團結(jié)表現(xiàn)”,。

　　成都商報-紅星新聞記者 鄭直