矽谷正夯的 AI「末日值」是什麼? 科技業大老末日值多少?

矽谷正夯的 AI「末日值」是什麼? 科技業大老末日值多少?
异世界居酒屋阿信

「末日值」指的是你認爲AI可能帶領人類走向末日的機率。圖/聯合報系資料照片

「你的『末日值』是多少?」據說已成了矽谷科技圈新貴近期最常掛在嘴邊的問候語,對於身處AI產業的人來說,這更是一個無法含糊其詞糊弄過去、避而不談的議題。「末日值」到底是什麼?詢問他人「末日值」的意義何在?

所謂的「末日值」(probability of doom,也寫作「p(doom)」),指的就是你個人認爲AI可能帶領人類走向末日的機率。

若不相信AI會導致世界末日,那你的末日值就會趨近0。相反的,若你堅信AI終將導致人類社會滅亡,那你的末日值就會趨近100。

唐朝贵公子 上山打老虎额

據《紐約時報》科技專欄作家魯斯(Kevin Roose)觀察,末日值這一概念及名詞,大概源自於矽谷科技產業的圈內人社羣平臺交流版「LessWrong」,最早可追溯至十餘年前的一則版上貼文。

工商社论》疫情下看英国「自由日」的解封社会实验

據《紐約時報》科技專欄作家魯斯(右)。取自X@kevinroose

當時就已開始研究AI技術的幾名網友發文分享各種「AI導致人類滅亡」的情境,並分享自己所認定的「末日值」。令人意想不到的事,這則半開玩笑的貼文在ChatGPT等生成式AI崛起後,竟成了人們十分嚴肅看待、熱衷討論的議題。

而「LessWrong」創辦人、AI學者尤德考斯基(Eliezer Yudkowsky)則是出了名的「AI末日論者」(doomer),自認末日值高達95。

科技業名人末日值各有不同

在科技業、AI產業有名有姓的各路人馬的末日值,分別都是多少?

魯斯在《紐約時報》專欄中寫道,被譽爲「深度學習教父」的AI學者辛頓(Geoffrey Hinton)以及班吉歐(Yoshua Bengio)都曾呼籲業界提高警惕,加強對AI技術的管控。

辛頓認爲,若不嚴格監管,AI在未來30年內導致人類滅絕的機率爲10%,而班吉歐則在一次訪談中表示, AI災難性事件發生的機率大概爲20%。

財經新聞網《商業內幕》(Business Insider)指出,曾在ChatGPT開發商OpenAI擔任研究員、今年(2023)入選美國《時代》(Time)雜誌「百大最具影響力的AI圈內人」榜單的克里斯基亞諾(Paul Christiano),一度在播客節目中坦言:「我認爲AI完全掌控人類社會的機率大概爲10%到20%,到時候會有很多人、甚至是絕大多數人類死亡。這對我來說,是需要嚴肅看待的問題。」

美國商業新聞雜誌《快公司》(Fast Company)則報導,近期一項針對40名AI工程師所進行的問卷調查結果顯示,他們的平均末日值爲40,也就是業界普遍認爲AI導致人類滅亡的機率爲40%。

台铁平交道死伤事故 板桥-树林双向列车延误

再像特斯拉(Tesla)創辦人馬斯克(Elon Musk)剛成爲「2023年財富增長最多的人」,則曾公開表示自己的末日值爲20至30左右。而AI新創公司Anthropic執行長阿莫迪(Dario Amodei)的末日值爲10到25之間。

AT&T認為T-Mobile與Starlink合作的衛星網路服務將對外造成干擾

神級風水師

花莲稻香平交道 交长惊呼太危险

馬斯克曾公開表示自己的末日值爲20至30左右。路透

陆第1家日系车厂惊爆倒闭:1元人民币出售 2千员工惨失业

有趣的是,《快公司(Fast Company)》形容美國聯邦貿易委員會(Federal Trade Commission)主席可汗(Lina Khan)是「最常打着『反AI』旗幟的人物」,但她的末日值卻相當低,認爲AI會導致世界末日的機率僅爲15%。

末日值可助判斷他人的態度

真命天子要抓好!最專情的生肖男TOP3 第1名認定後就不離開了

嚴格來說,末日值是一個相當主觀的存在,它並沒有一套可量化的衡量標準,甚至連業界約定俗成的標準都沒有。

中職/冬盟開學日 2種進場造型抽擊掌、跳舞、踩草皮

但魯斯在報導中指出,末日值存在的意義並不在於有多準確,畢竟人們詢問他人的末日值時,並沒有事先設定好「末日」的定義。

独》北京冬帕运会闭幕后 乌克兰队员何去何从?

「如果一半的人類因爲AI崛起而死去,這可以算是『末日』嗎?那萬一大家都沒有因爲AI而死掉,只是都集體失業了、過得很不快樂,這是否爲末日的一種?AI具體會如何征服全世界?」魯斯寫道。

與其說末日值有任何實際學術價值,它其實更像人們心中的一把尺,可幫助一個人判斷周圍的人對AI的看法及態度。魯斯形容末日值爲某種「社交標誌」,讓參與對話的人可以快速找到在AI議題上志同道合的人。

魯斯在報導中寫道,OpenAI日前人事風波鬧得滿城風雨,董事會當時宣佈將由直播平臺Twitch創辦人席爾(Emmett Shear)接替奧特曼(Sam Altman)出任OpenAI執行長,不久後就有員工分享一支影片,指席爾在錄製一場播客節目時提及自己的末日值高達50,讓員工紛紛擔憂這位「空降」到公司的執行長會出於對AI技術的不信任,而要求團隊放慢研發新產品的步伐。

妖鎳不再…2023金屬交易黯淡無光 鎳最慘恐跌逾40%

由此可見,一個人的末日值多多少少會直接影響他欲樹立的個人形象,最終可決定他可以融入到哪些圈子當中。

影》飞港航班「冒烟爆巨响」紧急降落 客舱狂抖惊魂影片流出

(本文出自2023.12.28《遠見》網站,未經同意禁止轉載。)