AI
吉林大学人工智能学院
为了抢抓人工智能发展机遇、对标国家战略需求、推动产业转型升级和地方经济发展转型,吉林大学人工智能学院于2018年5月26日成立。人工智能学院的成立旨在贯彻落实《新一代人工智能...
ChatBotKit
ChatBotKit是一个领先的对话式AI平台,专为简化高级对话系统的开发而设计。它允许用户通过简单的界面快速创建和部署聊天机器人,支持多渠道集成,并强调数据隐私保护。主要功能包括强大的自然语言处理、灵活的数据集管理和定制化机器人配置,适用于客户服务、销售支持、教育培训等多个领域。
KTransformers
KTransformers是一款由清华大学KVCache.AI团队与趋境科技联合开发的开源工具,用于提升大语言模型的推理性能并降低硬件门槛。它支持在24GB显卡上运行671B参数模型,利用MoE架构和异构计算策略实现高效推理,预处理速度达286 tokens/s,推理速度达14 tokens/s。项目提供灵活的模板框架,兼容多种模型,并通过量化和优化技术减少存储需求,适合个人、企业及研究场景使用。
