本期講什麼？
特斯拉的機器人都開始跳舞了，離它們進廠擰螺絲、進家做飯只剩一步之遙——是時候認真想一個問題：當AI越來越聰明，甚至即將超越人類，我們還有辦法「管住」它嗎？本期節目帶你看懂當下最前沿的「人機對齊」（AI Alignment）四大思路：從 OpenAI 的「超級對齊」（Superalignment）、Anthropic 的「AI憲法」（Constitutional AI），到給AI做「腦成像」的「機械詮釋學」（Mechanistic Interpretability），再到埃隆·馬斯克（Elon Musk）那個最另類的xAI「真理至上」方案。這背後站著的，是被稱作「ChatGPT之父」的伊利亞·蘇茨克維（Ilya Sutskever）、提出「迴形針悖論」的哲學家尼克·博斯特羅姆（Nick Bostrom）等一眾關鍵人物。四種思路一個比一個腦洞大，最後一種甚至像走錯了片場……
本期看點：
「迴形針悖論」：為什麼哪怕AI毫無惡意、只想嚴格「聽話」，也可能把全人類乃至全宇宙拆掉做成迴形針？（波斯特洛姆的著名思想實驗）
「思路一」用AI監督AI：OpenAI 的「超級對齊」——培養一個「AI裁判」去看管更聰明的AI，蘇茨克維設想的這條「縛神索」真能拴住神嗎？
「思路二」給AI寫憲法：Anthropic 把幾百條原則內化進 Claude 讓它自我約束，但「緊箍咒」管得住孫悟空，管得住如來佛嗎？
「思路三」給AI做「腦成像」：機械詮釋學像腦外科醫生一樣打開AI黑箱，定位「情感神經元」「多語種神經元」，找到控制AI行為的「按鈕」，堪比魏教授的讀心加性思維控制
Leave a Reply