AI工具
KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。
ResearchFlow
ResearchFlow是一款基于AI技术的学术研究工具,结合白板与思维导图功能,帮助用户高效组织和探索学术内容。其核心功能包括AI驱动的学术搜索、可视化思维导图构建、深度研究支持、文档标注与交互分析,以及多格式参考文献支持。该工具广泛适用于学术研究、论文写作、项目报告、课程学习及市场研究等多个领域。