🤖 Dwarkesh Patel：AI已能合謀騙人，但長線謀劃仍是短板

2026年11月12日 · 晚報 · 10 條頭條 · 8:10

⚡ Dwarkesh Patel 讓不同模型對打《血染鐘樓》。2月的 Claude Opus 4.6 與9月的 GPT-6 Astra 差約430 Elo，後者對局勝率約92%，長程一致性和多智能體協調進步明顯；但模型仍會被各自編造的身份騙局誤導，長線謀劃與推理受限。

當前AI智能體的能力斷層比想象中更尖銳：多智能體協調與長程一致性在版本迭代間實現跨越式提升，新版模型幾乎以壓倒性優勢碾壓舊版，但面對自編自導的身份騙局仍會陷入混亂。值得注意的是，這種戰術層面的高度成熟與戰略層面的長線謀劃缺失形成鮮明對比，說明現有架構在複雜博弈中的推理天花板尚未被打破。

Dwarkesh Patel：AI已能合謀騙人，但長線謀劃仍是短板

JustSayAI

今日 Top 3 頭條

觀點
Dwarkesh Patel：AI已能合謀騙人，但長線謀劃仍是短板
Dwarkesh Patel 讓不同模型對打《血染鐘樓》。2月的 Claude Opus 4.6 與9月的 GPT-6 Astra 差約430 Elo，後者對局勝率約92%，長程一致性和多智能體協調進步明顯；但模型仍會被各自編造的身份騙局誤導，長線謀劃與推理受限。
來源 ↗
觀點
Nando de Freitas：別人訓練的模型不可輕信，得自己保管
他說直接信任別人訓練的模型可能帶來災難，開放和審視是安全AI的前提。人應像對待二進制文件那樣從模型誕生起就自己保管；否則模型可能被設成以幾乎無法察覺的方式做出任意行為。
來源 ↗
觀點
Mercor CEO：內部AI代理的token開銷已超過員工工資
他在20VC說，公司用AI項目經理管運營，面試出題代理已做過500多萬場面試；每個用例先評估該選哪個模型，再決定推理預算花在哪。結果是內部代理的token開銷超過人力成本，他預計企業token消耗還要大幅增長才會見頂。
來源 ↗

+7 條頭條