□ 尹傳紅

半個(gè)月前撒手人寰的著名物理學(xué)家斯蒂芬·霍金，生前在其專業(yè)領(lǐng)域之外有兩個(gè)驚人之論：一是主張不要主動(dòng)去聯(lián)系或接觸外星人，二是警示人工智能最終有可能會(huì)毀滅人類。對(duì)于第一個(gè)論題，人們多半認(rèn)為這位科學(xué)明星太“科幻”了，不是特別當(dāng)真。而第二個(gè)論題，由于有比爾·蓋茨和埃隆·馬斯克等大佬的呼應(yīng)支持，倒好像真有那么回事。

實(shí)際上霍金不止一次拿人工智能唬人。2014年5月，他與包括諾貝爾物理學(xué)獎(jiǎng)得主弗蘭克·維爾切克在內(nèi)的幾位著名科學(xué)家聯(lián)合在英國(guó)《獨(dú)立報(bào)》上發(fā)表文章，對(duì)人工智能的迅速發(fā)展提出告誡說：創(chuàng)建一臺(tái)真正能思考的機(jī)器“將是人類歷史上最大的事件”。一臺(tái)超出人類智力水平的計(jì)算機(jī)可能會(huì)“超越人類研究者的發(fā)明，超越有控制能力的人類領(lǐng)導(dǎo)者”。把這一切視為科幻小說，則“有可能是我們歷史上最糟糕的錯(cuò)誤”。

而擁有機(jī)器人專業(yè)博士學(xué)位的美國(guó)作家丹尼爾·威爾森，幾年前出版了一本生動(dòng)描述機(jī)器人對(duì)人類發(fā)動(dòng)戰(zhàn)爭(zhēng)的科幻小說《機(jī)器人啟示錄》。小說中，一個(gè)看似淳樸、嬰兒外形的機(jī)器人阿考斯教訓(xùn)制造他的人類說：“你們?nèi)祟愔皇且环N被設(shè)計(jì)出來創(chuàng)造更多智能工具的生物機(jī)器，你們已經(jīng)抵達(dá)你們物種的金字塔尖了，……你們的大限已到；你們已經(jīng)達(dá)成你們被設(shè)計(jì)出來時(shí)所賦予的一切使命。”

自20世紀(jì)40年代計(jì)算機(jī)被發(fā)明出來之后，機(jī)器就一直被寄予厚望，人工智能的先驅(qū)者們大多數(shù)時(shí)候都不認(rèn)為他們的事業(yè)可能會(huì)存在風(fēng)險(xiǎn)。不過，英國(guó)著名數(shù)學(xué)家、“計(jì)算機(jī)科學(xué)之父”阿蘭·圖靈早在1951年就曾表達(dá)出一種擔(dān)心：“這似乎是可能的，一旦思維的步驟開始了，用不了多長(zhǎng)時(shí)間，其力量就有可能超越我們脆弱的人類……它們可以通過互相交流來增進(jìn)它們的心智。所以，到了某一個(gè)階段，我們將不得不考慮機(jī)器控制世界這個(gè)問題了。”

美國(guó)應(yīng)用數(shù)學(xué)家、信息論的創(chuàng)始人諾伯特·維納是最先預(yù)見到信息技術(shù)雙重可能性的人。在20世紀(jì)中葉計(jì)算機(jī)時(shí)代的開端，維納就為我們描述了未來一個(gè)令人心悸的場(chǎng)面：……如果我們朝著制造機(jī)器的方向前進(jìn)，這些機(jī)器可以學(xué)習(xí)，它們的行為可以通過經(jīng)驗(yàn)來修正，那么我們必將面對(duì)這樣一個(gè)事實(shí)：我們給予機(jī)器的任何程度的獨(dú)立性都可能導(dǎo)致對(duì)我們自身意愿的反抗。瓶子里跑出的精靈不會(huì)心甘情愿地重新回到瓶子里。同樣，我們也沒有任何理由希望它們善待我們。

英國(guó)數(shù)學(xué)家歐文·約翰·古德大概是清晰闡述人工智能未來圖景的第一人，1965年他指出：我們把超智能機(jī)器定義為具備超越所有聰慧人類智能活動(dòng)的機(jī)器。一旦機(jī)器設(shè)計(jì)成為一項(xiàng)智能活動(dòng)，那么，超智能機(jī)器就能設(shè)計(jì)出更好的機(jī)器。毫無疑問，肯定會(huì)出現(xiàn)諸如“智能爆發(fā)”這樣的局面，人類智能會(huì)被遠(yuǎn)遠(yuǎn)地甩在后面。因此，第一臺(tái)超智能機(jī)器將是人類制造的最后一臺(tái)機(jī)器，如果這臺(tái)機(jī)器不是足夠聽話并告訴我們要怎樣才能控制它的話。

在《關(guān)于第一臺(tái)超智能機(jī)器的推測(cè)》中，古德捎帶也談到了科幻：“本書的內(nèi)容對(duì)一些讀者來說可能很荒誕，但是對(duì)于作者來說，這都是真實(shí)而迫切的，絕不僅僅是科幻小說的內(nèi)容，應(yīng)該被認(rèn)真對(duì)待。”

認(rèn)真對(duì)待超智能機(jī)器的業(yè)內(nèi)專家為數(shù)不少。美國(guó)發(fā)明家、未來學(xué)家雷·庫茲韋爾于2005年推出《奇點(diǎn)臨近：2045年，當(dāng)計(jì)算機(jī)智能超越人類》一書。他在書中所闡釋的“奇點(diǎn)”（Singularity）頗受關(guān)注，也廣有影響。這是一個(gè)英文單詞，表示獨(dú)特的事件以及種種奇異的影響。數(shù)學(xué)家用這個(gè)詞來表示一個(gè)超越了任何限制的值，如除以一個(gè)越來越趨近于零的數(shù)，其結(jié)果將激增。

據(jù)說，奇點(diǎn)由計(jì)算機(jī)的重要奠基人之一馮·諾伊曼第一次提出，并把它表述為一種可以撕裂人類歷史結(jié)構(gòu)的能力。而美國(guó)計(jì)算機(jī)專家和科幻作家弗諾·文奇則使用該詞來描述那種無情的、飛速前進(jìn)的科技發(fā)展最終將達(dá)到的一種臨界聚集狀態(tài)。

關(guān)于創(chuàng)新技術(shù)的神奇設(shè)想，聽起來都像是科幻，但確乎向來如此。而在我們與創(chuàng)新技術(shù)的浪漫故事中，也總是風(fēng)險(xiǎn)和收益并存，永遠(yuǎn)會(huì)有好壞權(quán)衡。似乎不可避免的是，我們很快就要與一種前所未有的東西共享這個(gè)星球了。那是一種真正不可思議的具有超群才智的玩意兒。

接下來，我們要考慮什么，又該做些什么呢？