推理效率競賽:Liquid AI與DeepSeek重塑大模型輕量化
大模型競賽的核心指標正從參數規模轉向推理效率,端側部署與生成速度成為頭部玩家的新戰場。Liquid AI以230M輕量模型打通主流端側推理框架,DeepSeek則在生成速度上實現突破,兩者看似路徑不同,實則共同印證同一趨勢。當行業不再盲目追逐參數量,推理優化與輕量化落地正在重新定義大模型的商業價值。
今日 Top 3 頭條
- 其他
🤖 Liquid AI 發佈 LFM2.5-230M 模型,支持多框架端側推理
Liquid AI 發佈 LFM2.5-230M 模型,支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX 等多框架,可在設備端高速運行。對開發者而言,這意味著能夠靈活選用框架,高效實現工具使用與數據提取任務。
來源 ↗ - 其他
🤖 DeepSeek DSpark框架將AI生成速度提升80%
DeepSeek推出DSpark推測解碼框架,將AI生成速度大幅提升80%。對開發者而言,這標誌著AI競爭焦點從模型參數量轉向推理效率,意味著模型部署成本有望降低、應用響應速度顯著加快,推動AI規模化落地。
來源 ↗ - 其他
🤖 特朗普政府批准Anthropic Mythos 5模型供100多家美國企業使用
特朗普政府批准Anthropic的Mythos 5模型,供超過100家美國公司和機構使用。對企業AI應用普及意味著重大推進,加速AI在政府與商業場景的落地。
來源 ↗
+3 條頭條
- 🤖 Perplexity 推出法律AI:Computer for Counsel,賦能法律工作流
- 🤖 中國調整AI法規,全球民調顯示技術主導權正從美國轉移
- 🤖 A24 辯護與 Google DeepMind 的 7500 萬美元 AI 合作
