 |
作者：（英）尼克·波斯特洛姆
出版社：中信出版集團(tuán) |
在你的顱腔里，有個(gè)器官能夠閱讀,。這個(gè)器官就是人的大腦,，它具有其他動(dòng)物大腦沒(méi)有的一些能力，而我們?cè)诘厍蛏系闹髟椎匚槐銡w功于這些獨(dú)特的能力,。其他動(dòng)物有更強(qiáng)壯的肌肉或更銳利的爪子,，但是我們有更聰明的大腦。我們?cè)谝话阒悄芊矫娴男┰S優(yōu)勢(shì)使我們創(chuàng)造了語(yǔ)言,，發(fā)展了科技,，并建立了復(fù)雜的社會(huì)組織。這種優(yōu)勢(shì)隨著時(shí)間的延續(xù)而不斷提高,，因?yàn)槊恳淮说某删投冀⒃谇叭说某删椭稀?/P>
如果有一天我們發(fā)明了超越人類大腦一般智能的機(jī)器大腦,，那么這種超級(jí)智能將會(huì)非常強(qiáng)大。并且,，正如現(xiàn)在大猩猩的命運(yùn)更多地取決于人類而不是它們自身一樣,，人類的命運(yùn)將取決于超級(jí)智能機(jī)器,。
然而我們擁有一項(xiàng)優(yōu)勢(shì)：我們清楚地知道如何制造超級(jí)智能機(jī)器。原則上,，我們能夠制造一種保護(hù)人類價(jià)值的超級(jí)智能,，當(dāng)然，我們也有足夠的理由這么做,。實(shí)際上,，控制問(wèn)題——也就是如何控制超級(jí)智能，似乎非常困難,，而且我們似乎也只有一次機(jī)會(huì),。一旦不友好的超級(jí)智能出現(xiàn)，它就會(huì)阻止我們將其替換或者更改其偏好設(shè)置,，而我們的命運(yùn)就因此被鎖定了,。
在本書中，我將努力詮釋可能出現(xiàn)的超級(jí)智能帶來(lái)的挑戰(zhàn),，以及我們?nèi)绾胃玫貞?yīng)對(duì),。這很可能是人類面對(duì)的最重要和最可怕的挑戰(zhàn)。而且,，不管我們成功還是失敗,，這大概都是我們將要面對(duì)的最后一個(gè)挑戰(zhàn)。
本書并不認(rèn)為,，我們即將在人工智能方面取得重大突破,，或者能夠準(zhǔn)確預(yù)測(cè)突破會(huì)在何時(shí)發(fā)生。突破有可能會(huì)在21世紀(jì)的某些時(shí)候?qū)崿F(xiàn),，但是我們并不能確定,。本書的前幾章討論了取得突破的可能途徑，并談?wù)摿撕螘r(shí)能夠突破的問(wèn)題,。然而,，本書的主要部分討論的是智能爆發(fā)以后會(huì)發(fā)生什么。我們會(huì)研究智能大爆發(fā)的動(dòng)力學(xué),，超級(jí)智能的形式和能量,，以及具有決定性優(yōu)勢(shì)的超級(jí)智能體有哪些戰(zhàn)略選擇。然后,，我們探討的重點(diǎn)轉(zhuǎn)向控制問(wèn)題,，并提出為了讓我們生存并且獲得有利的結(jié)果，我們?nèi)绾芜x擇初始數(shù)據(jù)的問(wèn)題,。在本書的結(jié)尾,，我們將畫面拉遠(yuǎn)，思考我們的研究所呈現(xiàn)的更大的圖景。最后提出了一些建議,，指出為了增加避免存在性災(zāi)難的概率,，我們現(xiàn)在可以做些什么。
我希望本書可以開(kāi)辟出一條道路,，以使其他研究者能夠更加快速和便捷地到達(dá)這個(gè)領(lǐng)域的前沿,，從而以全新的視角加入這項(xiàng)研究，進(jìn)一步擴(kuò)展我們的認(rèn)識(shí),。非科技專業(yè)的讀者不必因?yàn)闀信紶柍霈F(xiàn)的數(shù)學(xué)知識(shí)或?qū)I(yè)術(shù)語(yǔ)感到氣餒,，因?yàn)橥梢酝ㄟ^(guò)上下文的解釋看懂主要觀點(diǎn),。
我已經(jīng)盡可能地在全書中指明細(xì)微差別和不確定性——書中遍布著太多的“可能”,、“或許”、“也許”,、“也有可能”,、“看起來(lái)”、“大概”,、“非�,？赡堋薄ⅰ皫缀蹩隙ā边@樣的詞,。我相信我的書中可能有一些較嚴(yán)重的問(wèn)題和誤導(dǎo)性,，但是我認(rèn)為目前書中提到的其他觀點(diǎn)更加糟糕，包括默認(rèn)觀點(diǎn)或者所謂的“零假設(shè)”,，這些觀點(diǎn)認(rèn)為我們可以暫時(shí)安全地或合理地忽略超級(jí)智能出現(xiàn)的可能性,。
