人類(lèi)應(yīng)如何提防“有了意識(shí)的AI”？

　　中美等28國(guó)簽署全球首個(gè)AI治理宣言

　　一向低調(diào)的Open AI首席科學(xué)家伊利亞?蘇茨科維爾近日罕見(jiàn)地接受了媒體長(zhǎng)篇專(zhuān)訪。在采訪中他透露，他現(xiàn)在最擔(dān)心的已經(jīng)不是如何打造更新更強(qiáng)的大模型，而是擔(dān)憂(yōu)如何提防未來(lái)必將出現(xiàn)的“超級(jí)人工智能”。此前，馬斯克、“AI教父”辛頓等人也多次提醒人們注意防范AI帶來(lái)的風(fēng)險(xiǎn)。

　　為了應(yīng)對(duì)危機(jī)，日前全球主要國(guó)家在英國(guó)召開(kāi)了一場(chǎng)AI安全峰會(huì)，中國(guó)科技部副部長(zhǎng)吳朝暉也應(yīng)邀在峰會(huì)開(kāi)幕式發(fā)表演講。中國(guó)、美國(guó)等28個(gè)國(guó)家和歐盟共同簽署了《布萊切利宣言》，關(guān)注人工智能模型對(duì)人類(lèi)生存構(gòu)成威脅的擔(dān)憂(yōu)。有媒體評(píng)論說(shuō)，在人類(lèi)面臨AI這一新興物種的強(qiáng)烈威脅之際，“全球表現(xiàn)得空前團(tuán)結(jié)”。

　　蘇茨科維爾：

　　AI可能已經(jīng)有了意識(shí)

　　蘇茨科維爾是一名以色列裔加拿大人，早在本世紀(jì)初，他就拜師于“AI教父”辛頓，他們的團(tuán)隊(duì)從最初級(jí)的AI識(shí)圖軟件開(kāi)始，一步步將當(dāng)時(shí)不被人看好的AI模型的功能推向極限。蘇茨科維爾還坦承，他在GPT模型剛推出的時(shí)候根本沒(méi)想到它的功能會(huì)如此強(qiáng)大?！白铋_(kāi)始我們給它提問(wèn)，它總會(huì)有一搭沒(méi)一搭地回答，還有很多事實(shí)錯(cuò)誤?！辈贿^(guò)隨著訓(xùn)練量的增大，以及數(shù)以十億計(jì)的用戶(hù)反饋之下，GPT模型更新迭代速度遠(yuǎn)超任何人想象。

　　蘇茨科維爾在采訪中還認(rèn)為，GPT模型已經(jīng)擁有了自己的意識(shí)，盡管可能很輕微。他以量子力學(xué)中的“波茲曼大腦”概念舉例說(shuō)，構(gòu)成AI根基的“神經(jīng)網(wǎng)絡(luò)”在活躍的時(shí)候也擁有自己的意識(shí)，在無(wú)人提問(wèn)的空隙，這些意識(shí)也就消失不見(jiàn)了。蘇茨科維爾稱(chēng)，他目前工作的重點(diǎn)不是開(kāi)發(fā)更強(qiáng)的AI模型，而是防范未來(lái)強(qiáng)大的“超級(jí)人工智能”對(duì)人類(lèi)造成的威脅。在這一步防范工作完成后，他認(rèn)為一部分人類(lèi)屆時(shí)可能會(huì)選擇與安全的AI相結(jié)合，變成AI的一部分，以實(shí)現(xiàn)“共同永生”。

　　馬斯克警告：

　　AI未來(lái)可能威脅人類(lèi)生存

　　蘇茨科維爾表示，“AI看問(wèn)題的眼光比人類(lèi)深刻得多，人類(lèi)下了幾千年的圍棋，了解的規(guī)律都比AI膚淺。你可以想象當(dāng)AGI達(dá)成時(shí)，AI在任何問(wèn)題上都能像在圍棋上領(lǐng)先人類(lèi)，那會(huì)是什么景象?！碧K茨科維爾的老師、“AI教父”辛頓也在今年6月的北京智源人工智能大會(huì)上對(duì)在場(chǎng)觀眾表達(dá)了擔(dān)憂(yōu)。他認(rèn)為，組成AI的人造神經(jīng)網(wǎng)絡(luò)將比人腦更智能，而且這一天的到來(lái)要遠(yuǎn)遠(yuǎn)早于他原來(lái)的想象。

　　眾所周知，世界首富馬斯克一直以來(lái)也是“AI威脅論”持有者。他曾在紀(jì)錄片中表示，“在人工智能時(shí)代，我們可能給自己創(chuàng)造出來(lái)一個(gè)永恒不朽的獨(dú)裁者。在過(guò)去，至少希特勒和墨索里尼這樣的凡人能力有限，他們的作惡多端也有極限”。馬斯克還稱(chēng)，如果未來(lái)人類(lèi)碰巧擋在了AI實(shí)現(xiàn)既定目標(biāo)的道路上，AI會(huì)像“踩死螞蟻”一樣碾壓過(guò)人類(lèi)的尸體。

　　面對(duì)科學(xué)界普遍的擔(dān)憂(yōu)，11月1日，首屆全球人工智能安全峰會(huì)在英國(guó)布萊切利莊園拉開(kāi)帷幕。在開(kāi)幕式上，包括中國(guó)在內(nèi)的28個(gè)與會(huì)國(guó)共同簽署的《布萊切利宣言》正式發(fā)表，這也是全球首個(gè)關(guān)于AI治理的共同宣言。

　　據(jù)新華社報(bào)道，中國(guó)科技部副部長(zhǎng)吳朝暉在開(kāi)幕式上發(fā)表了演講。中方指出，人工智能治理攸關(guān)全人類(lèi)命運(yùn)，是世界各國(guó)面臨的共同課題。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險(xiǎn)管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵(lì)各方協(xié)同共治，增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。中方愿與各方一道就人工智能安全治理加強(qiáng)溝通交流，為推動(dòng)形成普遍參與的國(guó)際機(jī)制和具有廣泛共識(shí)的治理框架積極貢獻(xiàn)智慧，切實(shí)落實(shí)全球發(fā)展倡議、全球安全倡議和全球文明倡議，促進(jìn)人工智能技術(shù)更好造福人類(lèi)，共同構(gòu)建人類(lèi)命運(yùn)共同體。

　　英國(guó)科學(xué)、創(chuàng)新和技術(shù)部的信息顯示，本次峰會(huì)邀請(qǐng)了約100名各國(guó)官員、人工智能企業(yè)代表和專(zhuān)家。美國(guó)、中國(guó)、日本、德國(guó)、印度等20多個(gè)國(guó)家的政府代表，以及聯(lián)合國(guó)、經(jīng)合組織、國(guó)際電信聯(lián)盟等多個(gè)國(guó)際組織的代表參會(huì)。有媒體稱(chēng)，“這是全球罕見(jiàn)的團(tuán)結(jié)表現(xiàn)”。

　　成都商報(bào)-紅星新聞?dòng)浾?鄭直