什麼是Liquid AI？
Liquid AI 提供針對裝置原生環境設計的基础模型，旨在滿足實體世界對延遲、隱私及硬體限制的需求。這些模型適用於手機、筆電、汽車等邊緣運算場景，並透過 API 或本地部署方式供開發者與企業使用。
Liquid AI的特色是什麼？
- 裝置原生推理模型專為資料中心以外的處理器設計，支援在手機、筆電、車載系統及太空等設備上執行。
- 多運行時環境相容性支援 llama.cpp、MLX、ONNX、Ollama、SGLang、vLLM 等多種推論框架。
- 低記憶體佔用LFM3 代理可在約 1GB 記憶體中平行執行 300,000 個代理；LFM2.5-24B-A2B 在 MacBook 上達到 184 tok/s。
- 決策模型 d1-ultra提供低於 50 ms 的決策速度，並在 Artificial Analysis 和 Vals 評測中排名第一。
- 視覺語言模型LFM2.5-VL-3B 具備螢幕辨識能力，且在 Mac 上的視覺模型處理速度提升達 3 倍。
- 硬體協同設計與 AMD、Qualcomm、Arm、NVIDIA 等晶片夥伴合作，從第一性原理優化模型以匹配特定硬體。
Liquid AI的使用案例有哪些？
- 車載私密 AIMercedes-Benz 利用該技術擴展車內私密 AI 應用，確保數據不離開裝置。
- 行動裝置代理在資源受限的手機或筆記型電腦上執行高吞吐量的本地 AI 代理，無需雲端連線。
- 即時決策自動化針對需要極低延遲（<50 ms）的商業決策或自動化流程進行模型部署。
