🚀 IBM开源两款小型模型抗隐藏指令,Cmpnd发布dspy-wsp优化器
⚡ IBM发布两款小型开源模型,专攻文档中隐藏的间接提示注入;斯坦福以16个token压缩长文、Cmpnd把权重空间编程引入DSPy,显示开源模型正从记忆、优化到安全防护补强。
大模型技术栈正涌现一批绕过传统训练、直接干预模型行为的新工具。两者放一起看,权重空间编程与冻结模型的外挂记忆模块分别从内部编辑和外部扩展两个维度重塑模型能力;而结构化标注对恶意指令的隔离,则标志着工程界开始用系统性的输入控制来弥补纯模型安全的不足。
IBM开源两款小型模型抗隐藏指令,Cmpnd发布dspy-wsp优化器
JustSayAI
今日 Top 3 头条
- AI行业新闻
🤖 IBM开源两款小模型,提示注入攻击成功率降至0.1%
IBM在Hugging Face开源37亿与88亿参数的Granite LLMON预览模型,以标签分隔指令与文档内容,标准攻击基准下攻击成功率从96%-100%降至最高0.1%。对开发者意味着可在企业内部机器本地部署商用级提示注入防护,但…
来源 ↗ - AI行业新闻
🤖 Cmpnd 发布 dspy-wsp:LLM 权重空间编程,最高提升 20 个百分点
Cmpnd 发布 dspy-wsp 原型优化器,将权重空间编程接入 DSPy,在 0.6B–9B 模型上最高提升 20 个百分点。对开发者意味着可免梯度直接修补小模型权重,但单次运行 78–167 分钟,仍属实验阶段。
来源 ↗ - AI行业新闻
🤖 斯坦福开源Memorilla:16个token压整库,长文本提速27倍
斯坦福在GitHub开源1.94亿参数Memorilla,16个token压整库文档,FactKG准确率84.33%、省108倍token。对开发者意味着冻结LLM无需重训,单卡H100处理512文档提速27倍。
来源 ↗
+5 条头条
- 🛡️ AI驱动新型勒索软件激增,低门槛攻击者也能造成严重破坏
- 🤖 FAA称无网络攻击证据,赛斯纳完成3200英里无触碰控制飞行
- 🤖 聊天机器人遇瓶颈,DeepMind押注世界模型模拟学习
- 🤖 SenseNova 在 Hugging Face 放出 Loop-9B 预览版
- 🤖 Home Assistant 新盒子:一键把旧家电接入智能家居
