互聯(lián)網(wǎng)大腦會(huì)演變成科幻電影中的“天網(wǎng)”嗎

互聯(lián)網(wǎng)不斷進(jìn)化，人工智能迎來(lái)一波新浪潮。互聯(lián)網(wǎng)會(huì)變成天網(wǎng)嗎？人工智能會(huì)超越人類嗎？

文 |劉鋒

《終結(jié)者》電影中，人工智能發(fā)生突變，控制互聯(lián)網(wǎng)形成”天網(wǎng)”并開始摧毀世界。

另一部著名科幻電影《黑客帝國(guó)》則講述了一名年輕的網(wǎng)絡(luò)黑客尼奧發(fā)現(xiàn)看似正常的現(xiàn)實(shí)世界實(shí)際上是由一個(gè)名為“矩陣”的超級(jí)人工智能系統(tǒng)設(shè)計(jì)和控制，這個(gè)超級(jí)版的”天網(wǎng)“不但控制了機(jī)器人，也控制了人類，讓人類大腦相連，生活在一個(gè)虛擬的但看似真實(shí)的世界里。

▲《黑客帝國(guó)》海報(bào)科幻預(yù)言的實(shí)現(xiàn)，崛起的超級(jí)智能

關(guān)于互聯(lián)網(wǎng)進(jìn)化為“天網(wǎng)”的題材被很多科幻小說(shuō)和電影題材以不同方式表現(xiàn)出來(lái)，成為人類一直揮之不去的夢(mèng)魘。

科幻作品的意義在于可以跳過(guò)科技進(jìn)步的天塹，直達(dá)可能的未來(lái)世界，如今人類興奮于人工智能的興起，恐慌于人工智能是否超越人類時(shí)，一個(gè)更為龐大和令人驚嘆的超級(jí)智能正在崛起，科幻成真的現(xiàn)實(shí)逐步到來(lái)。

人類群體智慧以云群體智能的形式成為了互聯(lián)網(wǎng)的“右大腦”，設(shè)備的機(jī)器智能以云機(jī)器智能的形式形成了互聯(lián)網(wǎng)“左大腦”。作為基于互聯(lián)網(wǎng)大腦架構(gòu)形成的超級(jí)智能，它的未來(lái)會(huì)不會(huì)真的演變成“天網(wǎng)”、“矩陣”？這是一個(gè)值得思考和警惕的問(wèn)題。

互聯(lián)網(wǎng)大腦能否演變?yōu)椤疤炀W(wǎng)”？

如果我們仔細(xì)觀察一下互聯(lián)網(wǎng)大腦的構(gòu)成和運(yùn)轉(zhuǎn)情況，就可以看出關(guān)鍵風(fēng)險(xiǎn)點(diǎn)主要集中在一個(gè)地方，“不斷發(fā)育成熟的互聯(lián)網(wǎng)運(yùn)動(dòng)神經(jīng)系統(tǒng)”。

回想一下互聯(lián)網(wǎng)的發(fā)展歷程，在1969年到1990年的21年中，互聯(lián)網(wǎng)主要連接了科研機(jī)構(gòu)、軍事機(jī)構(gòu)和政府機(jī)構(gòu)的計(jì)算機(jī)，人類通過(guò)互聯(lián)網(wǎng)進(jìn)行科技軍事政治的信息分享與資料保存，這時(shí)的互聯(lián)網(wǎng)對(duì)現(xiàn)實(shí)世界的影響還很小。

1990年到2010年的20年中，隨著萬(wàn)維網(wǎng)的確立，新聞、電子商務(wù)、社交網(wǎng)絡(luò)、博客、音樂(lè)、游戲等互聯(lián)網(wǎng)應(yīng)用蓬勃發(fā)展，數(shù)十億的人被連接到互聯(lián)網(wǎng)上。這時(shí)的互聯(lián)網(wǎng)對(duì)人類依然沒(méi)有值得警惕的危險(xiǎn)性。

但變化還是在悄然發(fā)生，隨著互聯(lián)網(wǎng)線路的不斷升級(jí)，傳輸速率加快，21世紀(jì)以來(lái)，越來(lái)越多的攝像頭、聲音傳感器、溫度傳感器，濕度傳感器被鏈接到互聯(lián)網(wǎng)上，互聯(lián)網(wǎng)已經(jīng)開始從虛擬世界的建設(shè)邁向與現(xiàn)實(shí)世界的關(guān)聯(lián)上。不過(guò)這時(shí)的互聯(lián)網(wǎng)對(duì)于現(xiàn)實(shí)世界依然是安靜和安全的。

危險(xiǎn)的苗頭在2012年以后逐步顯現(xiàn)，隨著工業(yè)4.0、工業(yè)互聯(lián)網(wǎng)、無(wú)人汽車、3D打印、智能制造的興起，無(wú)數(shù)的智能汽車、無(wú)人機(jī)、工業(yè)機(jī)器人、家庭服務(wù)機(jī)器人、辦公設(shè)備被連入到互聯(lián)網(wǎng)上，互聯(lián)網(wǎng)大腦的運(yùn)動(dòng)神經(jīng)系統(tǒng)開始加速發(fā)育了。

還記得《速度與激情8》中黑客通過(guò)互聯(lián)網(wǎng)控制數(shù)百臺(tái)無(wú)人汽車追逐并試圖殺害外交官嗎？這已經(jīng)不再是科幻的想象。

英國(guó)《泰晤士報(bào)》2009年12月18日?qǐng)?bào)道，伊斯蘭武裝分子使用廉價(jià)的網(wǎng)上黑客軟件，成功侵入美國(guó)中央情報(bào)局（CIA）的“捕食者”無(wú)人機(jī)攻擊系統(tǒng)。

盡管武裝分子目前仍無(wú)法使用黑客軟件遠(yuǎn)程遙控“捕食者”無(wú)人機(jī)，但他們卻可以觀看無(wú)人機(jī)傳給美國(guó)控制中心的實(shí)時(shí)監(jiān)控畫面。這個(gè)案例突出顯示了互聯(lián)網(wǎng)運(yùn)動(dòng)神經(jīng)系統(tǒng)未來(lái)的安全風(fēng)險(xiǎn)問(wèn)題。

▲《速度與激情8》海報(bào)互聯(lián)網(wǎng)大腦的安全風(fēng)險(xiǎn)

從廣義上說(shuō)，任何鏈接到互聯(lián)網(wǎng)上可以移動(dòng)或?qū)ΜF(xiàn)實(shí)世界進(jìn)行改造的設(shè)備都可看做是互聯(lián)網(wǎng)大腦的運(yùn)動(dòng)神經(jīng)系統(tǒng)，當(dāng)這個(gè)系統(tǒng)出現(xiàn)問(wèn)題時(shí)，可以產(chǎn)生出無(wú)數(shù)令人不寒而栗的場(chǎng)景。

例如水庫(kù)的大壩閘門因?yàn)榭刂瞥绦蚋↑c(diǎn)數(shù)溢出，突然將閘門保持關(guān)閉改為迅速提升，從而導(dǎo)致大壩突然放水，造成下游重大水災(zāi)；還有就是被互聯(lián)網(wǎng)云端控制的數(shù)千臺(tái)機(jī)器人由于控制它們的互聯(lián)網(wǎng)云端AI程序出現(xiàn)BUG，導(dǎo)致混亂的運(yùn)動(dòng)和操作，對(duì)周圍的工人造成傷害。

更為嚴(yán)重的是，聯(lián)網(wǎng)的核武器被遠(yuǎn)程的黑客控制或由于自身的程序錯(cuò)誤，發(fā)生科幻小說(shuō)里“天網(wǎng)”做出發(fā)射攻擊行為。雖然這個(gè)事故不像“天網(wǎng)”那樣，是AI產(chǎn)生敵對(duì)意識(shí)導(dǎo)致，但其后果和影響是一樣的。

因此可以看出在今天的現(xiàn)實(shí)世界，互聯(lián)網(wǎng)大腦產(chǎn)生威脅人類安全的風(fēng)險(xiǎn)點(diǎn)，主要發(fā)生在互聯(lián)網(wǎng)運(yùn)動(dòng)神經(jīng)系統(tǒng)的運(yùn)行過(guò)程中，有兩種風(fēng)險(xiǎn)產(chǎn)生情況。

第一種是云機(jī)器智能中的AI程序特別是AI巨型神經(jīng)元程序出現(xiàn)BUG，導(dǎo)致的重大事故。上面談到大壩突然防水、工業(yè)機(jī)器人失控、核武器發(fā)射都屬于這一類。

第二種是黑客、野心家或者是沒(méi)有受過(guò)專業(yè)訓(xùn)練的操作者對(duì)互聯(lián)網(wǎng)運(yùn)動(dòng)神經(jīng)系統(tǒng)進(jìn)行操作導(dǎo)致的重大災(zāi)難，這是一種更為常見和更為嚴(yán)重的類型，包括我們前面提到的黑客攻擊醫(yī)院的醫(yī)療設(shè)備、敵方人員接管無(wú)人機(jī)、智能機(jī)器人、航空器材等等。

對(duì)于這一類風(fēng)險(xiǎn)，如何區(qū)分哪些是破壞分子的角色，哪些是正常操作，在監(jiān)控和防范上要更為復(fù)雜和困難。阻止敵對(duì)力量、破壞力量對(duì)互聯(lián)網(wǎng)運(yùn)動(dòng)系統(tǒng)的侵入和使用，將是人類未來(lái)持續(xù)博弈的過(guò)程。

互聯(lián)網(wǎng)大腦進(jìn)化，人類參與和控制不可或缺

應(yīng)該說(shuō)這一輪的人工智能熱潮本質(zhì)上依然是互聯(lián)網(wǎng)進(jìn)化過(guò)程中的又一次波浪式高潮。它的產(chǎn)生離不開互聯(lián)網(wǎng)之前應(yīng)用和技術(shù)為人工智能新爆發(fā)奠定的基礎(chǔ)。

不過(guò)這一次人工智能浪潮具有與以往不同的特點(diǎn)，人工智能和機(jī)器人不再是一個(gè)個(gè)單獨(dú)的個(gè)體，而是通過(guò)與互聯(lián)網(wǎng)的大數(shù)據(jù)、社交網(wǎng)絡(luò)、云計(jì)算結(jié)合，形成了互聯(lián)網(wǎng)的大腦模型。

這個(gè)類大腦架構(gòu)不但擁有更為豐富的知識(shí)，更為強(qiáng)大的計(jì)算能力；而且還深入到人類生活的方方面面，譬如路邊的攝像頭、家庭的服務(wù)機(jī)器人、每日陪伴我們的手機(jī)等。

面對(duì)這個(gè)龐大的超級(jí)智能，單個(gè)的人產(chǎn)生了巨大的壓力感和無(wú)力感，也許這是今天人們擔(dān)心互聯(lián)網(wǎng)變成天網(wǎng)，人工智能超越甚至控制人類的根本原因。

從互聯(lián)網(wǎng)大腦模型的形成可以看出互聯(lián)網(wǎng)進(jìn)化的動(dòng)力源泉主要來(lái)自人類的群體智慧和機(jī)器的云端智慧，與“天網(wǎng)”、“黑客帝國(guó)”不同的是，離開了人的參與，互聯(lián)網(wǎng)的左大腦-機(jī)器云端智慧并不具備獨(dú)立的智慧和進(jìn)化能力，它將會(huì)逐步枯萎。

而互聯(lián)網(wǎng)的右大腦-人類群體智慧是驅(qū)動(dòng)互聯(lián)網(wǎng)前進(jìn)的核心動(dòng)力。人保持自己的主動(dòng)性和能動(dòng)性，是互聯(lián)網(wǎng)大腦的關(guān)鍵組成部分，而不是受控于互聯(lián)網(wǎng)大腦的奴隸。

互聯(lián)網(wǎng)雖然在形態(tài)上形成類腦巨系統(tǒng)結(jié)構(gòu)，但它依然是人類參與和控制的系統(tǒng)，它就是人類自己的延伸，是人類社會(huì)的一部分，因此，科幻電影中”天網(wǎng)”、“矩陣”、“奧創(chuàng)”與人類的對(duì)抗，在現(xiàn)實(shí)中歸根結(jié)底依然是人類之間的斗爭(zhēng)。