端侧大模型迎突破!Liquid AI 开源混合专家模型 LFM2.5

端侧大模型迎突破!Liquid AI 开源混合专家模型 LFM2.5

人工智能

人工智能初创企业 liquid ai 今日正式推出并开源全新端侧大模型lfm2.5-8b-a1b。该模型面向消费级终端设备,专为高效工具调用与高精度复杂指令执行而优化,在维持极低算力开销的前提下,显著增强本地设备的推理能力与响应表现。

在模型架构层面,LFM2.5-8B-A1B 采用稀疏混合专家(MoE)结构,总参数规模达 8.3B。凭借其稀疏激活机制,模型在生成每个 Token 时仅需调动约 1.5B 参数,从而实现在智能手机、轻薄笔记本等资源受限的边缘设备上稳定、流畅运行。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

上下文容量跃升与深度推理强化

相较上一代版本,LFM2.5 将原生上下文长度由 32K 扩展至 128K 词元,预训练语料规模亦从 12T 增至 38T。作为专注推理任务的纯推理模型,它在输出最终结论前会显式构建完整的思维链路;同时,其高度压缩的多语言词表可更紧凑、更精准地表征包括中文、阿拉伯文在内的九种主流语言。

针对长程推理中常见的逻辑循环与事实幻觉问题,研发团队在训练流程中嵌入双阶段强化学习(RL)策略:第一阶段通过偏好建模显著缓解多步推理中的“无限循环”现象;第二阶段则引入定制化防幻觉奖励函数,使模型在遭遇知识边界外的问题时具备主动拒答能力。

文心大模型

百度飞桨-文心大模型 ERNIE 3.0 文本理解与创作

下载

端侧效能卓越且全栈生态无缝适配

性能方面,LFM2.5 实现全面突破——在逻辑推理与抗幻觉评测中大幅领先前代产品,指令理解与执行能力甚至可比肩参数量更大的竞品模型。在工具交互场景下,模型默认以简洁高效的 Python 函数形式输出调用指令,并支持通过系统提示词一键切换为标准 JSON 格式,兼顾灵活性与兼容性。

该模型上线当日即获得主流推理框架的原生支持,涵盖 llama.cpp、MLX、vLLM 及 SGLang 等核心生态。硬件实测数据显示:在搭载 M5 Max 芯片的设备上,其解码吞吐量高达每秒 253 字节;而在典型安卓旗舰手机端亦可稳定维持约每秒 30 字节的推理速度,真正实现隐私安全与运行效率的双重保障。

本文地址:https://www.sztg.com.cn/article/687901.html

如非特殊说明,本站内容均来自于网友自主分享,如有任何问题均请联系我们进行处理!

猜您喜欢