Anthropic 創辦人賭 60%：2028 年 AI 開始自己造 AI | S2E56

如果你喜歡我的內容，歡迎加入會員支持我，讓我把內容做得更深、做得更好，一起把這個頻道做成我們都想看到的樣子！ 👉    / @justkiddingtech   Anthropic 共同創辦人 Jack Clark 最近在他自己的電子報 Import AI 寫了一篇文章，預測 2028 年底以前有 60% 的機率，AI 會開始自己研發下一代的 AI。 聽起來很扯，但他這篇真的寫得不錯。Jack 是 Anthropic 七個 founder 裡面唯一沒技術背景的，平常都在跟政府、白宮談 AI 政策，所以他不太會講那種 CEO 在台上喊的狂預測。他這次就是把幾個公開的 benchmark 跟 Anthropic 內部研究的數據攤出來，一步一步推到這個結論。 裡面有些數字其實蠻嚇人的。像是 Anthropic 內部讓 AI 去優化語言模型，人類研究員大概只能做到 4 倍，最強的 Mythos 直接做到 52 倍。長時間任務的能力也從幾十秒跳到 12 個小時，年底可能會看到連跑 100 小時的模型。 不過我自己覺得這集最有意思的，是一個比較哲學的問題：AI 做研究比較像發現相對論，還是在組樂高？這個區別會決定這個預測到底有沒有可能成立。中間也會聊到 AlphaGo 那個有名的第 37 手，那一手到底算不算創意？ 另一個我看完印象很深的，是 AI 對齊的風險。有個概念叫「複利錯誤」，你每一代都做到 99.9% 的準確度，跑完 500 代之後只剩下 60%。再加上 AI 已經很清楚自己什麼時候在被測試，它有沒有可能一直都在假裝對齊？目前其實沒人有答案，我自己看完是不太敢樂觀。 🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech (00:00) 開頭 (02:15) Jack Clark 是誰？為什麼他的預測值得認真聽 (04:28) 第一個理由：AI 寫程式的能力正在爆炸式成長 (06:16) 從 36 秒到 12 小時：AI 長時間任務的曲線 (08:13) 外插一下：明年 40 天、後年 400 天的 AI agent (09:15) 第二個理由：AI 開始能複製論文、優化模型 (11:38) AI 做研究比較像發現相對論，還是組樂高？ (12:47) AlphaGo 第 37 手：那一手到底算不算創意？ (14:33) AI 對齊的風險：教 AI 不作弊其實很微妙 (15:31) 複利錯誤：99.9% 準確度為什麼撐不過 500 代 (16:39) 當 AI 比你聰明，你還驗證得了它嗎？ (18:11) 預測對錯不重要，重要的是學會他怎麼推導