推理
Fish Speech
Fish Speech是一款开源的文本到语音（TTS）工具，支持中文、英文和日文。它通过大约15万小时的多语种数据训练，实现了接近人类水平的语音合成效果。该工具的特点包括低显存需求（仅需4GB）、快速推理速度、高自定义性和灵活性。Fish Speech支持多种语音生成模型，如VITS2、Bert-VITS2等，适用于智能助手、自动客服、语言学习等多个领域。
Fireworks f1
Fireworks f1 是一款专为复杂推理任务设计的复合型 AI 模型，通过整合多个开源模型提升性能与可靠性。支持开发者通过提示词快速构建复杂 AI 应用，已在编码、对话及数学领域展现卓越能力。同时提供标准版和轻量版供用户选择，并在 AI Playground 提供免费体验。
商汤商量SenseChat
商汤商量SenseChat是由商汤科技推出的语言大模型，提供对话和文档理解服务，能够处理百科问答、图片理解、数学解答、代码编写等多种任务。
KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具，用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型，利用MoE架构和异构计算策略实现高效推理，预处理速度达286 tokens/s，推理速度达14 tokens/s。项目提供灵活的模板框架，兼容多种模型，并通过量化和优化技术减少存储需求，适合个人、企业及研究场景使用。
