Что такое Liquid AI?
Liquid AI — компания, создающая эффективные фундаментальные модели для устройств с ограниченными ресурсами. Продукты ориентированы на разработчиков и предприятия, которым критичны низкая задержка, приватность данных и работа без облачной инфраструктуры. Доступ к моделям предоставляется через API или путем локального развертывания на совместимом оборудовании.
Какие особенности у Liquid AI?
- Локальное выполнение агентовМодель LFM3 способна параллельно запускать до 300 000 агентов, занимая около 1 ГБ памяти на устройстве.
- Модели принятия решенийСемейство d1 (включая d1-ultra) оптимизировано для автоматизации решений с временем отклика менее 50 мс.
- Зрение и мультимодальностьМодели типа LFM2.5-VL-3B анализируют экраны устройства, а LFM3 поддерживает работу со всеми модальностями.
- Высокая скорость генерацииМодель LFM2.5-24B-A2B обеспечивает пропускную способность 184 токена в секунду на MacBook.
- Поддержка аппаратных платформИнтеграция с чипами AMD, Qualcomm, Arm и NVIDIA, а также совместимость с средами выполнения llama.cpp, MLX, ONNX, Ollama, SGLang и vLLM.
- Приватность данныхАрхитектура устройств нативных моделей гарантирует, что пользовательские данные не покидают устройство.
Какие случаи использования Liquid AI?
- Автомобильная промышленностьMercedes-Benz использует модели Liquid AI для создания приватного искусственного интеллекта внутри автомобиля.
- Разработка приложений для MacПартнерство с MacPaw позволяет внедрять ИИ прямо на устройства пользователей Apple.
- Робототехника и оборонаПрименение моделей в физическом мире, включая космос, промышленную робототехнику и оборонные системы, где важна автономность.
