← 早晚報

🚀 IBM開源兩款小型模型抗隱藏指令,Cmpnd發佈dspy-wsp優化器

· 早報 · 8 條頭條 · 7:48

⚡ IBM發佈兩款小型開源模型,專攻文檔中隱藏的間接提示注入;斯坦福以16個token壓縮長文、Cmpnd把權重空間編程引入DSPy,顯示開源模型正從記憶、優化到安全防護補強。

大模型技術棧正湧現一批繞過傳統訓練、直接干預模型行為的新工具。兩者放一起看,權重空間編程與凍結模型的外掛記憶模塊分別從內部編輯和外部擴展兩個維度重塑模型能力;而結構化標註對惡意指令的隔離,則標誌著工程界開始用系統性的輸入控制來彌補純模型安全的不足。

IBM開源兩款小型模型抗隱藏指令,Cmpnd發佈dspy-wsp優化器

今日 Top 3 頭條

  1. AI行業新聞

    🤖 IBM開源兩款小模型,提示注入攻擊成功率降至0.1%

    IBM在Hugging Face開源37億與88億參數的Granite LLMON預覽模型,以標籤分隔指令與文檔內容,標準攻擊基準下攻擊成功率從96%-100%降至最高0.1%。對開發者意味著可在企業內部機器本地部署商用級提示注入防護,但…

    來源 ↗
  2. AI行業新聞

    🤖 Cmpnd 發佈 dspy-wsp:LLM 權重空間編程,最高提升 20 個百分點

    Cmpnd 發佈 dspy-wsp 原型優化器,將權重空間編程接入 DSPy,在 0.6B–9B 模型上最高提升 20 個百分點。對開發者意味著可免梯度直接修補小模型權重,但單次運行 78–167 分鐘,仍屬實驗階段。

    來源 ↗
  3. AI行業新聞

    🤖 斯坦福開源Memorilla:16個token壓整庫,長文本提速27倍

    斯坦福在GitHub開源1.94億參數Memorilla,16個token壓整庫文檔,FactKG準確率84.33%、省108倍token。對開發者意味著凍結LLM無需重訓,單卡H100處理512文檔提速27倍。

    來源 ↗

+5 條頭條

  • 🛡️ AI驅動新型勒索軟件激增,低門檻攻擊者也能造成嚴重破壞
  • 🤖 FAA稱無網絡攻擊證據,賽斯納完成3200英里無觸碰控制飛行
  • 🤖 聊天機器人遇瓶頸,DeepMind押注世界模型模擬學習
  • 🤖 SenseNova 在 Hugging Face 放出 Loop-9B 預覽版
  • 🤖 Home Assistant 新盒子:一鍵把舊家電接入智能家居
解鎖完整 8 條頭條 + 深度分析 →免費試用 7 天 · 隨時取消
查看所有歷史早晚報 →