Ministral 3B/8B
简介：Ministral 3B 和 8B 是由 Mistral AI 开发的两款轻量级 AI 模型，专为设备端和边缘计算设计。它们具备强大的知识处理能力和高效的上下文管理能力，支持长达 128k 的上下文长度，并通过独特的交错滑动窗口注意力机制提升了推理速度。这些模型适用于设备端翻译、本地数据分析、智能助手及自主机器人等领域，同时支持无损量化和私有部署。
官网地址
Ministral 3B 和 8B 是由 Mistral AI 推出的两款专注于设备端计算和边缘应用场景的小型 AI 模型。这两款模型在知识、推理、功能调用以及效率等方面重新定义了十亿参数以下的模型标准。Ministral 3B 和 8B 支持长达 128k 的上下文长度，而 Minstreal 8B 特别采用了交错滑动窗口注意力机制，以提升推理速度和效率。这些模型适用于设备端翻译、离线智能助手、本地数据分析及自主机器人等多种场景，并可与其他大型模型协同工作，作为多步骤工作流程中的高效中介。
发表评论 取消回复