开源
KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。
Dialogue.moe
一个用于动漫台词对白搜索的在线搜索引擎,Dialogue收录了大量的动画和漫画的经典台词,可以通过搜索引擎来查找自己喜欢的作品,也可以通过浏览分类来查找相应的作品。
GitDiagram
GitDiagram是一款开源工具,能够将GitHub仓库自动转换为交互式系统架构图。它基于AI技术分析代码库,生成包含组件关系的图表,并支持点击跳转到源文件。该工具支持私有仓库访问、自定义图表样式,并可导出为PNG图片或Mermaid.js代码。适用于新项目上手、团队协作、文档编写等多种场景,提升代码理解和沟通效率。
LlamaCoder
LlamaCoder 是一个基于 Llama 3.1 405B 模型的开源 AI 工具,能够快速生成全栈应用程序。它集成了 Sandpack、Next.js、Tailwind 和 Helicone 等组件,支持代码沙盒、应用路由、样式设计和可观测性分析。LlamaCoder 可根据用户请求生成组件,适用于构建多种类型的应用程序,并支持数据分析和 PDF 分析。
Fireworks f1
Fireworks f1 是一款专为复杂推理任务设计的复合型 AI 模型,通过整合多个开源模型提升性能与可靠性。支持开发者通过提示词快速构建复杂 AI 应用,已在编码、对话及数学领域展现卓越能力。同时提供标准版和轻量版供用户选择,并在 AI Playground 提供免费体验。
