量化

豆包向量化API

Doubao-embedding是字节跳动推出的语义向量化API,支持中英文文本处理及长文本向量化,提供多种维度的向量输出和丰富的SDK支持,适用于搜索引擎、推荐系统、知识图谱构建和自然语言处理等多种应用场景。

概念股搜索器

概念股搜索器是一款利用向量搜索技术和自然语言处理的金融工具,能够将用户的自然语言描述与A股上市公司信息进行语义匹配,快速定位相关概念股。它支持关键词、意象及长句搜索,同时具备结果参考、用户反馈等功能。该工具适用于投资研究、热点追踪、策略开发以及教育学习等多个场景。

Bamba

Bamba-9B是一种基于Mamba2架构的解码型语言模型,专注于提升大型语言模型的推理效率,尤其擅长处理长文本。它通过恒定的KV-cache设计解决了内存带宽瓶颈问题,并在多个开源平台上得到支持。Bamba-9B不仅具有高效的吞吐量和低延迟的特点,还支持模型量化及长上下文长度扩展,适用于多种应用场景,包括机器翻译、智能客服、内容推荐、自动摘要和社会媒体监控等。

Ministral 3B/8B

Ministral 3B 和 8B 是由 Mistral AI 开发的两款轻量级 AI 模型,专为设备端和边缘计算设计。它们具备强大的知识处理能力和高效的上下文管理能力,支持长达 128k 的上下文长度,并通过独特的交错滑动窗口注意力机制提升了推理速度。这些模型适用于设备端翻译、本地数据分析、智能助手及自主机器人等领域,同时支持无损量化和私有部署。

掘金量化

一个专业的量化投资平台,提供全面的金融数据、策略研究、交易工具和风险控制等功能,掘金量化旨在为量化投资者提供一站式服务。

NVILA

NVILA是一款由NVIDIA开发的视觉语言模型,通过“扩展-压缩”策略优化处理高分辨率图像和长视频,兼具效率与准确性。它在图像和视频基准测试中表现优异,支持时间定位、机器人导航和医疗成像等应用场景,并通过参数高效微调和量化技术提升模型性能。未来将在GitHub和HuggingFace平台上开源。

KTransformers

KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。

SVDQuant

SVDQuant是一种由MIT研究团队开发的后训练量化技术,专注于通过4位量化减少扩散模型的内存占用和推理延迟。它利用低秩分支技术吸收量化异常值,支持DiT和UNet架构,并能无缝集成LoRAs。SVDQuant适用于移动设备、个人电脑、云计算平台及低功耗设备,可大幅提升图像生成和处理效率。

TradingAgents

TradingAgents是由加州大学洛杉矶分校与麻省理工学院联合开发的多代理LLM金融交易框架,整合多种专业角色的AI代理,通过辩论与对话进行交易决策。该系统支持多类型市场数据分析,具备风险控制、动态调整与高可解释性,适用于量化交易、资产管理、个人投资等多个场景,显著提升交易效率与透明度。

MaxKB

MaxKB是一款开源AI知识库问答系统,支持文档上传、在线文档爬取、文本自动拆分和向量化。它兼容多种大语言模型,包括本地私有和公共模型,提供灵活的工作流引擎和多格式文档支持。MaxKB采用先进的技术如大型预训练语言模型、自动化文档处理、检索增强生成(RAG)技术和向量数据库技术,适用于企业内部知识库、客户服务、教育与培训等多个领域。