劉慈欣談ChatGPT：人類的無能反而是人類最后的屏障(2)

第一個層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類或是統治世界。

這一點從目前的這個技術發展趨勢來看，特別是從目前的技術水平來看，在可以看到的未來可能性不是太大。

當然您剛才提到一個很有意思的概念叫迭代。人工智能的迭代，這是目前人工智能最可能出現危險的一個行為。

這個行為是什么呢？就是說當人工智能按我們現在的發展，它比人類的智能稍稍高一些的話，它自己也會像人類一樣去創造新的人工智能，它創造出來的這個新人工智能可能比它的智能也稍微高一點，那么它又會接著迭代下一代，這樣的話他們就會很快的把這些人工智能的智能水平提高到很高。

可能迭代下去，會提高到人類（智能）的幾百倍甚至上萬倍。

而它而由于它的這個計算機的計算時間比這個人腦人的大腦要快成千上萬倍，那么這個迭代的時間可能十分的短，據推測可能只有半個小時到一個小時。

就說我們把人工智能發展到現在用了一個世紀的時間，而人工智能百倍于現在的這個程度，可能只用半個小時到一個小時，這是很可怕的一件事。

但是做出這個預測的人忘了一點，就是我們人類的計算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。

所以這就是一個有很諷刺意義的一件事情：我們人類的無能反而成為我們一個最后的屏障。所以您說的這這種毀滅不太可能。

那么第二種消滅則是一種我們想不到的一種方式，就是說第一種消滅人類是完全違背人類意愿的，而第二種對人類的消滅可能完全符合我們的意義。

比如說人工智能的發展，我剛才說過它可能會代替我們的這個大量的工作，而我們的社會如果適應了與人工智能的這種共存，我們發展出一種新的這種分配制度，那么我們就可能帶來一個十分舒適的那種社會環境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來進行。

在這種情況下，我們會越來越多地交出自己對社會運作的操作這種權利給到人工智能。

而生活會變得越來越舒適，那么這個樣子下去的話，我們可能面臨著人類歷史上前所未有的一個巨大的陷阱。

就是說在這個科技的這種安樂窩里面，那么人類文明的活力在哪里？我們的開拓精神在哪里？如果這樣一直發展下去的話，那可能人類最后的命運就是您說的被人工智能所消滅，但這個消滅的過程完全是在我們的意愿之內，而人工智能至始至終它沒有任何惡意，它只是照著人類的指示去行駛。

而這樣的如果真的發生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計算能力遠遠小于我們前面那個真正的字面意義上的那種消滅。所以這確實是我們應該對未來有所警覺的一件事情。


劉慈欣演講全文整理

大家好，我們今天要談論的話題是科幻文學中的可持續未來。

作為一種基于想象力的文學形式，科幻小說并不能夠對未來作出科學的預測，它只是描述未來的各種可能性，同時它也提供了一個看世界和看未來的獨特視角，這個視角與我們從現實看世界看未來的視角可能有很大的不同。

科幻的視角是什么？大家可能都知道一張叫《暗淡藍點》的照片，我本來想把那個照片拿來的，但我覺得好像大家應該都看過那張照片，就沒有把它拿來放出來。

這可能是人類歷史上最重要也是最著名的照片之一，他是上個世紀70年代發射的旅行者1號宇宙探測器，在90年代初在距地球60億公里的太空中拍攝的。

初看上去整張照片它都是黑色的，很仔細看才能發現這一片黑色中有一個小小的亮點。它十分的小，就是僅有這張照片的0.12個像素那么大。如果不加以指示，你說觀看者是很難發現這個白點的。

有人形容它是太空中的一粒塵埃，其實是把它說的大了。按照比例計算，這個暗淡的小點放在宇宙中，它比地球大氣層中的一粒塵埃還要小很多個數量級，要小得多。這個亮點就是地球，人類世界的全部，和我們有關的一切，所有活著和曾經活過的人，所有曾經有過和正在進行歷史和生活，都在這里塵埃上面，這就是科幻的視角。

對于人類的發展和未來，這個視角與我們傳統的視角是有很大差異的。從這個視角去看，我們對人類社會的可持續發展會有一些新的感悟。

原文轉自：https://www.thepaper.cn/newsDetail_forward_23639458