中国GPU指南:2万元预算 | AI生成和翻译
问题: 在中国,预算 2 万元人民币,主要用于本地 LLM 训练/推理,最佳 GPU 选项是什么?
答案:
鉴于你的工作负载(LLM 训练/推理、智能体开发,非游戏),显存容量和每 GB 性价比比原始算力更重要。以下是当前(2026 年 7 月中国市场)实际适合 2 万元预算的选项:
最佳选择:2 块 RTX 3090 24GB(二手)——约 11-14k 元
- 闲鱼上个人自用的 RTX 3090 近期价格约 7,000 元/块,较一个月前的 5,000 元有所上涨——因此根据时机,一对匹配卡预算约 10-14k 元。
- 两块卡共 48GB 显存,GDDR6X,384 位宽,每卡带宽 936GB/s——足以加载 4 位量化的 70B 模型,或顺畅运行 13B-34B 的 QLoRA。
- 成熟的 CUDA/驱动生态,无需修改固件风险,经过训练验证(闲鱼上半数本地 LLM 用户实际上就在用这套配置)。
- 对于边缘 AI,24GB+ 显存和价格比原始算力更关键,3090 在这方面比同价位的新卡更合适。
- 缺点:多数消费级非 Ti 版 3090 不支持 NVLink 桥接(部分有——购买前需确认),因此多卡只能通过 PCIe 进行张量/流水线并行(推理没问题,某些训练场景下较慢)。
替代方案:单块 RTX 4090D 48GB(显存改装版)——约 19-20k 元
- 这些作为“DeepSeek 版 48GB”改装 4090D 涡轮卡出售,价格约 2,599-2,759 美元,即约 18.7-19.8k 元——正好在你的预算上限。
- 单卡单 PCIe 插槽,48GB 显存——适合推理密集型场景,且希望避免双卡系统复杂性的用户。
- 实际风险:这些是手工改装(将 Hynix/Samsung 显存芯片重新植球到 4090D PCB 上),无官方 NVIDIA 支持,部分批次在持续负载下存在显存不稳定问题。建议从提供退货窗口的卖家处购买,并立即进行压力测试(
nvidia-smi -q -d MEMORY+ 长时间torch训练循环以捕获 ECC 错误)。
跳过:RTX 5090D V2——GDDR7 缺货导致市场价已飙升至约 32,000-34,000 元,超过预算 1.5 倍,而且如果你受显存限制,其额外算力无法充分利用。
我的建议:如果你需要进行任何训练(微调、像你之前 GPT-2 工作那样的小规模预训练),选 2 块 3090——PCIe 多卡方案在你的技术栈中已经很成熟。如果你主要做服务/推理,且希望避免多卡编排开销,选单块 4090D 48GB。
参考:
- 显卡日报: 二手RTX 3090价格暴涨 - 知乎
- A卡没人买!五年前的N卡又火了:二手RTX 3090成性价比之王 - 快科技
- RTX 4090D 48GB modded listings - Alibaba
- RTX 5090 D V2 price surge to 34,000 CNY - XIKII UPLINK
