优化
KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。
Searcholic
AI驱动的电子书和文档搜索引擎,,让用户能够轻松搜索、发现和访问各种来源的各种电子书和文档,包括学术论文、研究文章、技术文档、小说等。
adwrite.ai
adwrite.ai是一款基于AI技术的广告文案生成工具,能够根据用户输入的关键词快速生成多语言定制化广告文案。它支持一键导入Google Ads账户,并提供多种语言支持,帮助用户优化广告表现,提高点击率(CTR)和投资回报率(ROI)。此外,adwrite.ai还支持广告文案的A/B测试,适用于搜索引擎营销、Google Ads管理和多语言广告创作等多种应用场景。
OmniThink.AI
OmniThink.AI是一款面向零售和消费品行业的AI平台,整合预测性与生成性AI技术,助力企业加速产品设计、营销及供应链管理。平台支持自然语言解释、全球数据模型、多系统集成,并提供可持续性评估与个性化推荐功能,提升运营效率与市场响应速度。
