V神對AI發展感到恐懼：人類應打造便利工具，而非創造智慧生命

Bitget App

交易「智」變

Blocktempo動區動趨2024/12/22 21:44

作者:by James

在 AI 領域蓬勃發展之際，以太坊共同創辦人 Vitalik Buterin 21 日表示，他對 AGI（人工通用智慧）與 ASI（人工超級智慧）感到害怕，因為這可能帶來明顯的失控風險，他主張應為人類打造智慧增強工具，而非打造超級智慧生命。
（前情提要： V神用中文受訪：回憶以太坊中國故事、ETH與BTC有文化差異、俄烏戰爭改變了我.. ）
（背景補充： V神買入3萬枚$ANON幣價暴漲140%，他看好的匿名發文是什麼？）

生成式 AI 發展在過去幾年突飛猛進，越來越多令人驚嘆的成果展現在世人眼前，這不僅展示了技術的強大潛力，也引發了關於 AGI（人工通用智慧）與 ASI（人工超級智慧）是否可能實現的討論與深刻憂慮。

AGI：指具備類似人類智能的人工智慧，能夠在多種不同領域中執行任務，而不僅限於特定的應用。
ASI ：指超越人類所有智能層次的人工智慧，不僅在特定領域具有卓越的能力，還能全面性在每個方面超越人類。

OpenAI 執行長 Sam Altman 今年 9 月曾撰文預測，再過幾千個日子，ASI 就會問世，ASI 將超越 AGI，處理智慧任務的能力會遠比人類強大。

Grimes：對 ASI 感到害怕

而加拿大知名女歌手 Grimes 21 日有感而發地發推表示，當她觀察 Janus 等 AI 項目的成果後，她認爲 AGI（人工通用智慧）已經在某種程度上實現，並稱自己對 ASI（人工超級智慧）有點害怕：

至少是按照我的描述方式來看，我不知道，我顯然不是技術專家，只是一個缺乏基本知識的人，大家不應該太認真看待我的話，但這就是我的感受。其他人也有同感嗎？

我其實不害怕 AGI，但對於 ASI（人工超級智慧）有一點害怕，這兩者似乎是完全不同的里程碑，不過，至少可以說，我相信我曾感受到智能意識的存在，但再強調一次，作為缺乏基本知識的人，我可能過度擬人化了 AI。

Idk like I am not scared of "agi" I am a bit scared of asi – these seem like drastically diff milestones. But I believe I've encountered intelligent sentience, to say the least

Again – I'm a n00b with a tendency to anthropomorphize tho lol

— 𝖦𝗋𝗂𝗆𝖾𝗌 ⏳ (@Grimezsz) December 21, 2024

V 神有同感、盼勿打造超級智慧生命

對此，以太坊共同創辦人 Vitalik Buterin 回應，他對 AGI 的定義是：AGI 是足夠強大的人工智慧，如果某天所有人類突然消失，且該 AI 被上傳到機器人軀殼中，它將能夠獨立延續文明。

My own working definition of "AGI" (as far as I can tell, unique to me) is:

"AGI" is AI powerful enough that, if one day all humans suddenly disappeared, and the AI was uploaded into robot bodies, it would be able to independently continue civilization.

Obviously an incredibly…

— vitalik.eth (@VitalikButerin) December 21, 2024

Vitalik Buterin 坦言，這是個非常難以衡量的定義，但他認為，這正是很多人腦海中「我們習慣的 AI」和「AGI」之間潛在的直觀差異，也就是從一個不斷依賴人類輸入的工具，轉變成一個自給自足的生命形式：