CHỌN GPU CHO MODEL AI
Model AI phổ biến cần bao nhiêu VRAM và GPU nào chạy vừa trên 1 card — tính sẵn theo ngữ cảnh 4.096 token, xử lý 1 request cùng lúc.
| Model | FP16 | INT8 | INT4 |
|---|---|---|---|
| Qwen2.5-7B-Instruct 7.61B tham số | 17.3 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết | 8.6 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết | 4.3 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
| Qwen2.5-14B-Instruct 14.7B tham số | 33.8 GB NVIDIA L40S Thuê theo giờ: 43.100đ/giờ (NVIDIA-A100-40GB) Tính chi tiết | 16.9 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết | 8.4 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
| Qwen2.5-32B-Instruct 32.5B tham số | 73.8 GB NVIDIA H100 SXM Thuê theo giờ: liên hệ báo giá (NVIDIA-A100-80GB) Tính chi tiết | 36.9 GB NVIDIA L40S Thuê theo giờ: 43.100đ/giờ (NVIDIA-A100-40GB) Tính chi tiết | 18.5 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết |
| Qwen2.5-72B-Instruct 72.7B tham số | 164.0 GB NVIDIA B200 Tính chi tiết | 82.0 GB NVIDIA H200 SXM Tính chi tiết | 41.0 GB NVIDIA L40S Thuê theo giờ: liên hệ báo giá (NVIDIA-A100-80GB) Tính chi tiết |
| Mistral-7B-Instruct-v0.3 7.25B tham số | 16.8 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết | 8.4 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết | 4.2 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
| DeepSeek-R1-Distill-Qwen-7B 7.61B tham số | 17.3 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết | 8.6 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết | 4.3 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
| DeepSeek-R1-Distill-Qwen-32B 32.5B tham số | 73.8 GB NVIDIA H100 SXM Thuê theo giờ: liên hệ báo giá (NVIDIA-A100-80GB) Tính chi tiết | 36.9 GB NVIDIA L40S Thuê theo giờ: 43.100đ/giờ (NVIDIA-A100-40GB) Tính chi tiết | 18.5 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết |
| Phi-3-mini-4k-instruct 3.82B tham số | 10.3 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết | 5.2 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết | 2.6 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
| Llama 3.1 8B Instruct 8.03B tham số | 18.5 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết | 9.3 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết | 4.6 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
| Llama 3.1 70B Instruct 70.55B tham số | 159.2 GB NVIDIA B200 Tính chi tiết | 79.6 GB NVIDIA H100 SXM Thuê theo giờ: liên hệ báo giá (NVIDIA-A100-80GB) Tính chi tiết | 39.8 GB NVIDIA L40S Thuê theo giờ: 43.100đ/giờ (NVIDIA-A100-40GB) Tính chi tiết |
| Gemma 2 9B IT 9.24B tham số | 22.2 GB NVIDIA RTX 4090VNSO đang cho thuê Thuê theo giờ: 18.500đ/giờ (NVIDIA-RTX-3090) Tính chi tiết | 11.1 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết | 5.6 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
| Gemma 2 27B IT 27.23B tham số | 62.6 GB NVIDIA H100 SXM Thuê theo giờ: liên hệ báo giá (NVIDIA-A100-80GB) Tính chi tiết | 31.3 GB NVIDIA Tesla V100 32GBVNSO đang cho thuê Thuê theo giờ: 43.100đ/giờ (NVIDIA-A100-40GB) Tính chi tiết | 15.6 GB NVIDIA Tesla P100 16GBVNSO đang cho thuê Thuê theo giờ: 14.300đ/giờ (NVIDIA-RTX-A4000) Tính chi tiết |
Giá thuê theo giờ lấy từ bảng giá công khai gpu.vnso.vn (bản lưu ngày 15/9/2026) — gói nhỏ nhất đủ VRAM cho cấu hình tương ứng. Xem tất cả gói thuê.
"Chạy vừa trên 1 card" nghĩa là tổng VRAM (trọng số + KV cache + dự phòng overhead 20%) không vượt quá dung lượng VRAM của GPU đó. Model không có card nào đủ 1 mình thì ghi số card cần ghép qua NVLink/tensor- parallel.