什么是Liquid AI?
Liquid AI 提供专为设备端设计的液态基础模型(LFMs),旨在满足低延迟、隐私保护和硬件约束需求。其模型可在手机、笔记本电脑及汽车等边缘设备上本地运行,数据无需离开设备。开发者可通过 API 或多种运行时环境接入这些高效能模型。
Liquid AI的核心功能有哪些?
- 设备原生推理模型针对数据中心外的处理器设计,支持在本地硬件上运行以优化延迟与隐私。
- 多模态支持LFM3 系列涵盖文本、视觉和音频等多种模态,适用于专用智能场景。
- 决策模型能力d1-ultra 等模型专注于自动化决策,官方宣称能在 50 毫秒内做出响应。
- 广泛兼容性支持 llama.cpp、MLX、ONNX、Ollama、SGLang 和 vLLM 等多种运行时环境。
- 高性能量化提供 Q4_0 等量化版本,通过量化感知蒸馏技术加速边缘部署。
- 视觉语言处理LFM2.5-VL-3B 等模型具备屏幕识别能力,并在 Mac 上实现更快的视觉处理速度。
Liquid AI的使用案例有哪些?
- 车载私有AI为梅赛德斯-奔驰等品牌提供车内语音、语言理解和推理能力,确保数据不出车。
- 边缘代理开发在 MacBook 等设备上运行高吞吐量代理,如 LFM2.5-24B-A2B 每秒生成 184 个 token。
- 实时智能交互利用 RIPL 框架在毫秒级关键场景中部署实时智能应用。









