GPU

1. 首页
2. GPU

RightNow AI

RightNow AI 是一款专注于 CUDA 代码优化的 AI 工具，能够自动分析并提升 GPU 性能。它支持多种 NVIDIA GPU 架构，提供无服务器的性能分析服务，并允许用户通过自然语言指令生成高性能代码。适用于模型训练、科学计算、金融建模等多个领域，显著降低 GPU 编程门槛，提升计算效率。

AI项目与工具 2025年06月11日 46 点赞 0 评论 766 浏览

HAI

HAI，腾讯云高性能应用服务，即开即用。以应用为中心，助力中小企业及开发者快速部署LLM、AI作画、数据科学等高性能应用。

Ai学习资源 2025年06月05日 72 点赞 0 评论 767 浏览

Mooncake

Mooncake是一个以KVCache为中心的分布式大模型推理架构，由Kimi联合清华大学等机构开源。它通过分离预填充和解码阶段，有效利用GPU集群的其他资源，显著提升推理吞吐量，降低算力消耗，同时保持低延迟。Mooncake支持长上下文处理、负载均衡及过载管理，适用于多种应用场景，包括自然语言处理、语音识别、搜索引擎优化等，推动大模型技术的高效应用。

AI项目与工具 2025年06月12日 57 点赞 0 评论 774 浏览

NobodyWho

NobodyWho是一款专为Godot游戏引擎设计的AI插件，支持本地运行大型语言模型（LLM），提供高效、安全的互动叙事功能。其核心特性包括本地化处理、GPU加速、多上下文支持、流式输出、采样器调节、语义嵌入、工具调用及记忆功能。适用于互动小说、动态对话系统及多线叙事等场景，帮助开发者构建更真实、灵活的游戏内容。

AI项目与工具 2025年06月12日 88 点赞 0 评论 777 浏览

RunDiffusion

RunDiffusion 是一个能在云服务器中运行功能强大的Stable Diffusion的网站。让您无需在计算机上编码或安装任何东西就可以创建令人惊叹的 AI 生成的图片艺术。

Ai绘画生成 2025年06月05日 41 点赞 0 评论 787 浏览

VideoProc Converter AI

一款全面的视频处理软件，允许用户增强、转换、编辑、压缩、下载和录制视频和图像。

视频剪辑 2025年06月05日 19 点赞 0 评论 819 浏览

Gemma 3

Gemma 3 是谷歌推出的开源人工智能模型，支持多语言、多模态处理，具备文本、图像及短视频分析能力。提供多种模型尺寸，适配不同硬件环境，优化了单 GPU/TPU 性能，推理速度提升显著。内置图像安全分类器，增强内容安全性。支持多种开发工具和部署方式，适用于人脸识别、物体检测、智能助手、文本分析等场景。

AI项目与工具 2025年06月12日 20 点赞 0 评论 834 浏览

Zamba2

Zamba2-7B是一款由Zyphra公司开发的小型语言模型，具有高效的推理速度和低内存占用的特点。它在图像描述任务中表现出色，适用于边缘设备和消费级GPU。Zamba2-7B通过创新的混合架构和技术优化，提供了卓越的语言理解和生成能力，同时支持多种应用场景，如移动应用开发、智能家居设备、在线客服系统、内容创作以及教育工具等。

AI项目与工具 2025年06月12日 46 点赞 0 评论 845 浏览

EPLB

EPLB是DeepSeek推出的专家并行负载均衡工具，用于优化大规模模型训练中的资源分配。它通过冗余专家策略和分层/全局负载均衡机制，提升GPU利用率和训练效率。支持多层MoE模型，减少通信开销，适应不同场景需求。

AI项目与工具 2025年06月12日 10 点赞 0 评论 863 浏览

FlashMLA

FlashMLA 是 DeepSeek 开发的开源 MLA 解码内核，针对 NVIDIA Hopper 架构 GPU 优化，提升可变长度序列处理效率。支持 BF16 精度、页式 KV 缓存及分块调度，内存带宽达 3000 GB/s，算力达 580 TFLOPS。适用于大语言模型推理和 NLP 任务，具备高性能与低延迟特性，支持快速部署与性能验证。

AI项目与工具 2025年06月12日 12 点赞 0 评论 864 浏览