语言模型
StableCode
StableCode，一个用于代码生成的大语言模型。StableCode 基于 GPT-NeoX 构建，该模型通过指令模型和具体应用示例进行改进，用于解决复杂的编程任务。
DuoAttention
DuoAttention是由MIT韩松团队提出的新型框架，通过区分“检索头”和“流式头”两种注意力机制，显著提升了大型语言模型在处理长上下文时的推理效率。该框架有效减少了内存占用，加速了解码和预填充过程，并保持了模型的准确性。它适用于多轮对话、长文档处理、学术研究以及内容推荐等多个领域。
FACTS Grounding
FACTS Grounding是一款由谷歌DeepMind研发的基准测试工具，专门用于评估大型语言模型在生成事实准确文本方面的能力。它通过设置包含多个领域的复杂任务，要求模型基于长文档生成响应，并采用两阶段评估流程验证事实准确性及避免“幻觉”。FACTS Grounding不仅支持信息检索与问答，还能应用于内容摘要生成、文档改写以及客户服务等领域，为模型提供全面而可靠的性能评估。
Large Action Models
Large Action Models（LAMs）是微软开发的一种智能系统框架，专注于执行真实世界任务。它通过整合数据收集、模型训练、环境交互和评估等阶段，将语言理解转化为具体行动，提升了AI在自动化和增强人类能力方面的影响力。LAMs具备动态规划、自主执行和专业化训练等特点，广泛应用于办公自动化、智能家居管理、客户服务、电子商务等领域。
---
