DeepSeek-R1-Zero通过大规模强化学习（RL）进行训练，没有经过监督微调，展示了卓越的推理能力。尽管功能强大，但它在处理重复性和可读性等问题时表现较差。DeepSeek-R1通过在强化学习之前加入冷启动数据，解决了这些挑战，在数学、代码和推理任务中表现得更好。
DeepSeek-R1-Zero和DeepSeek-R1都展示了前沿的能力，但需要大量硬件支持。量化和分布式GPU配置使它们能够处理庞大的参数量。
VRAM Requirements for DeepSeek-R1
全量模型
| Model | Parameters (B) | VRAM Requirement (GB) | Recommended GPU |
|---|---|---|---|
| DeepSeek-R1-Zero | 671B | ~1,543 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x16) |
| DeepSeek-R1 | 671B | ~1,543 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x16) |
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | ~3.9 GB | NVIDIA RTX 3060 12GB or higher |
| DeepSeek-R1-Distill-Qwen-7B | 7B | ~18 GB | NVIDIA RTX 4090 24GB or higher |
| DeepSeek-R1-Distill-Llama-8B | 8B | ~21 GB | NVIDIA RTX 4090 24GB or higher |
| DeepSeek-R1-Distill-Qwen-14B | 14B | ~36 GB | Multi-GPU setup (e.g., NVIDIA RTX 4090 x2) |
| DeepSeek-R1-Distill-Qwen-32B | 32B | ~82 GB | Multi-GPU setup (e.g., NVIDIA RTX 4090 x4) |
| DeepSeek-R1-Distill-Llama-70B | 70B | ~181 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x3) |
量化模型
VRAM requirements for the 4-bit quantization of DeepSeek-R1 models
| Model | Parameters (B) | VRAM Requirement (GB) (4-bit) | Recommended GPU |
|---|---|---|---|
| DeepSeek-R1-Zero | 671B | ~436 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x6) |
| DeepSeek-R1 | 671B | ~436 GB | Multi-GPU setup (e.g., NVIDIA A100 80GB x6) |
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | ~1 GB | NVIDIA RTX 3050 8GB or higher |
| DeepSeek-R1-Distill-Qwen-7B | 7B | ~4.5 GB | NVIDIA RTX 3060 12GB or higher |
| DeepSeek-R1-Distill-Llama-8B | 8B | ~5 GB | NVIDIA RTX 3060 12GB or higher |
| DeepSeek-R1-Distill-Qwen-14B | 14B | ~9 GB | NVIDIA RTX 4080 16GB or higher |
| DeepSeek-R1-Distill-Qwen-32B | 32B | ~21GB | NVIDIA RTX 4090 24GB or higher |
| DeepSeek-R1-Distill-Llama-70B | 70B | ~46 GB | Multi-GPU setup (e.g. NVIDIA RTX 4090 24GB x2) |
VRAM 使用说明：
- 大模型需要分布式GPU设置：DeepSeek-R1-Zero和DeepSeek-R1需要大量VRAM，因此必须使用分布式GPU配置（例如，NVIDIA A100或H100的多GPU配置）以确保高效运行。
- 低规格GPU：这些模型仍然可以在低于上述推荐规格的GPU上运行，只要GPU的VRAM满足或超过要求。然而，这种配置可能不是最优的，通常需要一些调优，如调整批量大小和处理设置。
蒸馏模型(Distilled Models)
对于没有高端GPU的开发者和研究人员，DeepSeek-R1-Distill模型提供了一个优秀的替代方案。这些蒸馏版的DeepSeek-R1旨在保留显著的推理和问题解决能力，同时减少参数大小和计算需求。
蒸馏模型的优势
- 降低硬件要求：蒸馏模型如DeepSeek-R1-Distill-Qwen-1.5B的VRAM需求从3.5 GB起，可以在更易获得的GPU上运行。
- 高效且强大：尽管尺寸更小，蒸馏模型依然保持强大的推理能力，通常在性能上优于其他架构中类似大小的模型。
- 成本效益高：蒸馏模型使得在低端硬件上进行实验和部署成为可能，节省了在昂贵的多GPU配置上的开销。
推荐建议
对于高端GPU：
- 如果有分布式多GPU配置并且有足够的VRAM（例如，NVIDIA A100 80GB x16），可以运行完整的DeepSeek-R1模型，以获得最先进的性能。
对于混合工作负载：
- 考虑使用蒸馏模型进行初步实验和小规模应用，将完整的DeepSeek-R1模型保留用于生产任务或当高精度至关重要时使用。
对于资源有限：
- 使用如14B或32B（4-bit）的蒸馏模型。这些模型优化了单GPU配置，并且在资源需求大大降低的情况下仍能提供不错的性能。
对于资源非常有限：
- 如果7B模型能满足任务需求，可以考虑使用它们。它们运行速度较快，但回答通常较为不准确或错误。然而，这也取决于使用场景，因为它们可能在特定的分类任务中表现良好。