洛可的蛇妖,指向群體明顯的恐怖思想實驗。
蛇妖,是西方神話中的怪物,如哈利波特里的蛇怪。
曾經(jīng)在一個名為“l(fā)esswrong”的論壇里,一位名為“洛可”的用戶發(fā)布了一個他涉及的思想實驗帖子——
假設(shè)未來的某一天,超級人工智能被設(shè)計了出來,代號為basilisk(蛇怪),它意圖控制全人類,報復(fù)所有不聽命令者。
更恐怖的是,它會回溯懲罰過去若干年里沒有伸出援手的人,哪怕目標死亡,意識也會被植入永恒的虛擬世界進行折磨。
當(dāng)時的帖子引起了論壇不少人的討論,越演越烈。
直到最后論壇創(chuàng)始人埃利澤出現(xiàn),他留言咒罵發(fā)帖者,并將這個思想實驗帖子刪除,還屏蔽了該問題的討論。
此時空間崇高而遼闊的萬龍深淵,往日瑰麗宏偉,象征著神話生物波瀾壯闊一生的巨龍骸骨,都失去了往日喧囂,學(xué)徒們紛紛低著頭。
場內(nèi),時不時亮起還能夠通訊的手機光芒。
這些“特權(quán)”的輝光,亮起、熄滅,伴隨著信息的洪流擴散人間。
“恩雅?”王若綾緊張關(guān)心道。
而一旁的恩雅則是全身瑟瑟發(fā)抖,不住地舉手又放下,手中的手機仿佛成了燙手山芋。
她忍不住扶著額頭,內(nèi)心深處反應(yīng)過來這里發(fā)生了很不對勁的事情,但是身處局中卻難以解釋清楚。
林奇默默站在王若綾身旁道,“恩雅已經(jīng)完整入局了,你算是半入局?!?p> “為什么會這樣?”王若綾仿佛也失去了平時的理智。
正如知曉這個故事的人,都難以理解那位論壇管理者為何會破口大罵。
林奇目光望向遠方。
這一切,都要從一個紐康姆悖論說起,一個源自最優(yōu)選擇的思想實驗說起。
洛克的蛇妖思想試驗,本質(zhì)是對這個悖論的某種致敬。
“如果有一天預(yù)言系的法師之王出現(xiàn)在你的面前,他手里有兩個箱子,箱A裝了十萬秘法金幣,箱B裝了一百萬秘法金幣或者什么都沒有裝?!?p> 王若綾神色微動。
她本身就在一定范圍里小有名氣,加上曾經(jīng)的偶像路人緣,一直受到不少學(xué)徒的注目。
瞬間四五位學(xué)徒也靠了過來,豎耳傾聽。
宿舍的劉凱、陳世坤、郭思飛也注意到這邊的動靜,瞄了過來。
“此刻法師之王給你兩個方案,選擇一是拿走兩個箱子A和B,選擇二是只拿走箱子B?!绷制鎺еM惑的語氣道。
“哈哈,那腦子沒問題的都會選擇全拿呀?!币晃粚W(xué)徒忍不住嗤笑道。
林奇點了點頭,“沒錯,不過這位法師之王掌握著世間最強大的預(yù)言術(shù),能夠看到你們未來的選擇。”
“如果他預(yù)測你選方案一拿AB箱,那B箱子什么都沒有?!?p> “如果他預(yù)測你選方案二拿B箱,那B箱子就會提前放入100萬?!?p> 說著林奇便繼續(xù)掃視著眾人,“你們現(xiàn)在會選方案一,還是選方案二呢?”
聽了一會的郭思飛,忍不住放聲道,“那不是妥妥方案二拿B箱子,得到100萬么?”
周圍學(xué)徒也忍不住跟著點頭,這個問題都看不到好糾結(jié)的地方。
“那如果,這位法師之王,并沒有申明他此次的預(yù)言術(shù)100%準確呢?”
此話一出,瞬間幾位學(xué)徒直接色變。
郭思飛低頭沉思,“如果預(yù)言我選的是一(AB),但我固定選二(B),那么我的B箱子就會空無一物?!?p> 王若綾也正色起來,“但如果預(yù)言我選的是二(B),那意味著箱子B已經(jīng)放入100萬,這樣子我反而選一(AB)全拿,會得到110萬,這才是回報率最大的選擇?”
陳世坤反駁道,“但他預(yù)測到你會因為這個理由選一,你的B箱不就空無一物,還預(yù)測正確呢?”
“不對?!眲P也反應(yīng)過來,“既然它預(yù)測了我選的一,就意味著B箱子沒放錢,那我還選二拿B箱子,不也一無所獲?!?p> “也不對?!惫硷w繼續(xù)反駁,“那他應(yīng)該能預(yù)言到我想搏一搏選二(B),那B箱子肯定有100萬。”
劉凱繼續(xù)搖頭,“他預(yù)測了你這種貪大求全的思路,知道你肯定選一,所以B箱子還是沒錢?!?p> 到了這一刻,眾人都噤聲了。
這意味著那位法師之王的預(yù)言,一直在預(yù)測他們的預(yù)測,無窮循環(huán)。
我預(yù)判了你所預(yù)判的我的預(yù)判——
所以游戲?qū)謺r常看到各種詭異蛇形走位。
自行車正面相交也是常常拐來拐去,還碰到一起。
然而,此時的王若綾已經(jīng)嘴巴張開,陷入震驚。
因為她的腦海里已經(jīng)生成——
丨選擇丨預(yù)測一丨預(yù)測二丨
丨選一丨AB(10萬)丨AB(110萬)丨
丨選二丨B(0萬)丨 B(100萬)丨
所以無論對方怎么預(yù)測,她選一看起來都劃算些,要么10萬,要么110萬。
但選二,就只有0萬和100萬的區(qū)別。
這一刻王若綾和林奇雙眸對視,瞬間明白林奇想要說的一切。
整個模型替換一下。
箱子A換成“幫助末日主君”。
箱子B換成“安全”或者“沉淪地獄”。
甚至此時的末日主君還沒出現(xiàn),預(yù)言能否順利實現(xiàn),也取決于眾人選擇。
那他們就會面臨兩個選擇——
選擇一,A+B箱子拿走,跟隨幫助“末日主君”,最終得到“安全”。
選擇二,只拿走B箱子,不幫助“末日主君”,最終得到“沉淪地獄”。
自然正常人,都會選擇一。
王若綾忍不住走到林奇身旁,此時他們周圍一圈學(xué)徒們,都討論起林奇這個思想實驗的奇妙來,甚至都傳道講師的耳朵里。
少女緊緊貼著林奇耳垂說道。
“你最初的法師之王預(yù)言,是關(guān)于自由意志下,回報率如何最高的思想實驗。原本回報率最高的B箱子,變成了回報率最低,這不一樣?!?p> 林奇點點頭,微微低聲給她講起另一個思想實驗——帕斯卡賭注。
這是法國數(shù)學(xué)家、物理學(xué)家、思想家帕斯卡在著作《思想錄》提出的論述——
“我不知道上帝是否存在,如果他不存在,作為無神論者沒有任何好處。但是如果他存在,作為無神論者我將有很大的壞處。所以,寧愿相信上帝存在?!?p> 信上帝,有上帝則獲得永生,沒有上帝則浪費禱告。
不信上帝,有上帝則沒有永生,沒有上帝則節(jié)約時間。
“付出有限的時間,就能換來無限的可能性,恐怕是人都會選擇,自然眾人都會選擇?!蓖跞艟c感慨道,身后偷偷聽到的學(xué)徒也露出疑惑目光。
林奇點頭,這便是那個預(yù)言的微妙之處——
丨可能丨有末日主君丨沒末日主君丨
丨選一丨正常安全丨浪費精力丨
丨選二丨沉淪地獄丨節(jié)省精力丨
這樣正常人就會忍不住選一,傳播、幫助、跟隨這位末日主君。