KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具，用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型，利用MoE架构和异构计算策略实现高效推理，预处理速度达286 tokens/s，推理速度达14 tokens/s。项目提供灵活的模板框架，兼容多种模型，并通过量化和优化技术减少存储需求，适合个人、企业及研究场景使用。
工具
MagicColor
MagicColor是一款由香港科技大学开发的多实例线稿图着色工具，基于自监督训练和实例引导模块，实现高效、精准的色彩分配。支持参考图像驱动，具备实例级控制与边缘增强功能，适用于动画、数字艺术、游戏开发等领域。采用扩散模型与双UNet架构，提升着色质量和效率，适合创意设计与教育应用。
Amazon Bedrock
Amazon Bedrock是一款由AWS推出的完全托管型AI服务平台，集成了多家顶级AI公司的基础模型，支持企业通过单一API访问高性能模型。它提供了从基础模型接入、微调到代理构建的一系列功能，包括检索增强生成（RAG）、自动推理检查及多Agent协作等特性。此外，其模型蒸馏技术能够有效提升效率并降低运行成本，广泛适用于文本生成、虚拟助手、图像生成等多种应用场景。
Vision Search Assistant
Vision Search Assistant (VSA) 是一种结合视觉语言模型与网络代理的框架，旨在提升模型对未知视觉内容的理解能力。它通过网络检索，使 VLMs 能够处理和回答有关未见图像的问题。VSA 在开放集和封闭集问答测试中表现出色，支持图像描述生成、网络知识搜索、协作生成等功能，可应用于图像识别、新闻分析、教育、电商和旅游等多个领域。
Fitten Code
Fitten Code是一个由GPT驱动的代码生成和补全工具。它支持80多种编程语言，包括Python、Javascript、Typescript、Java等，旨在提高编码效率和减少手动编写时间，让编码更轻松。Fit...
