VPS GPU RTX PRO 4000 24GB tại Việt Nam: 2 cấu hình, từ 7.500.000đ/tháng

VPS GPU RTX PRO 4000 24GB là gói gì

VPS GPU RTX PRO 4000 24GB là gói lớn nhất trong dòng VPS AI GPU đặt tại Việt Nam của Cloud Cheap: một máy chủ ảo có GPU RTX PRO 4000 thế hệ Blackwell với 24GB bộ nhớ, đi cùng CPU Xeon Platinum 8269CY 2.5Ghz, từ 24 core và 48 GB RAM trở lên, ổ SSD 300 GB. Mô tả gói hướng tới ba nhóm việc: triển khai AI/ML thực tế, render và Stable Diffusion. Giá khởi điểm là 7.500.000đ/tháng.

Điểm khiến gói này khác các VPS thông thường không nằm ở số core, mà ở con số 24GB. Với phần lớn công việc AI, thứ quyết định mô hình có chạy được hay không là bộ nhớ GPU, còn CPU và RAM quyết định dữ liệu được đưa vào GPU nhanh tới đâu. Vì vậy trang này đi theo đúng thứ tự đó: xem bảng giá, ước lượng 24GB chứa được gì, rồi mới chọn giữa hai cấu hình CPU và RAM.

Bảng giá 2 cấu hình theo chu kỳ 1, 3 và 6 tháng

Cả hai cấu hình gốc dùng cùng GPU RTX PRO 4000 24GB, cùng CPU Xeon Platinum 8269CY và cùng 300 GB ổ SSD. Thứ bạn trả thêm khi lên cấu hình thứ hai là gấp đôi số core (48 thay vì 24) và thêm 16 GB RAM (64 GB thay vì 48 GB). Giá dưới đây là giá của cấu hình gốc, chưa gồm phần tài nguyên tăng thêm.

Khoảng tài nguyên chọn thêm ở bước đặt hàng

Sau khi chọn cấu hình gốc, bạn có thể tăng CPU theo bước 1 core, RAM theo bước 1 GB và ổ cứng theo bước 10 GB trong khoảng dưới đây. Phần tăng thêm được tính vào tổng tiền hiển thị ở trang đặt hàng trước khi thanh toán.

Hai khoảng CPU không chồng lên nhau: cấu hình 24 core dừng ở 40 core, cấu hình 48 core bắt đầu từ 48 core. Nghĩa là nếu bạn cần từ 41 core trở lên, chỉ cấu hình 48 core · 64 GB RAM đáp ứng được. Với RAM thì khác: cấu hình 24 core nâng được lên 64 GB, đúng bằng mức khởi điểm của cấu hình kia. Nếu bạn cần 64 GB RAM nhưng không cần quá 40 core, hãy so tổng tiền của hai phương án ngay trên trang đặt hàng trước khi chọn.

24GB VRAM chứa được gì: ước lượng trước khi đặt

Trước khi trả 7.500.000đ/tháng cho một GPU, hãy tính xem mô hình của bạn có vừa 24GB hay không. Công thức nhanh cho phần trọng số mô hình là: số tham số × số byte mỗi tham số. Ở FP16 hoặc BF16 mỗi tham số chiếm 2 byte, ở 8-bit chiếm 1 byte, ở 4-bit chiếm khoảng nửa byte. Bảng dưới đây chỉ là phép nhân đó cho các cỡ mô hình phổ biến, chưa gồm bộ nhớ cho KV cache, activation và phần CUDA tự giữ.

Inference: đừng quên KV cache

Khi phục vụ một mô hình ngôn ngữ, ngoài trọng số còn có KV cache, phần bộ nhớ lớn dần theo độ dài context và số request chạy song song. Một mô hình 8 tỷ tham số ở FP16 có thể nạp vừa 24GB, nhưng nếu bạn mở context dài cho nhiều người dùng cùng lúc, phần còn lại sẽ cạn nhanh. Cách xử lý thường gặp là dùng bản lượng tử hóa 8-bit hoặc 4-bit, giới hạn độ dài context tối đa và số request đồng thời trong phần mềm phục vụ mô hình.

Fine-tune: LoRA và QLoRA thay vì huấn luyện toàn bộ

Huấn luyện toàn bộ tham số cần chứa thêm gradient và trạng thái của optimizer, nên ngay cả mô hình 7 tỷ tham số cũng vượt xa 24GB. Trong giới hạn một GPU 24GB, cách phổ biến là fine-tune bằng LoRA hoặc QLoRA: giữ nguyên trọng số gốc, chỉ huấn luyện một phần nhỏ tham số bổ sung. Bạn có thể đọc thêm cách lên kế hoạch ở trang triển khai training và inference AI trên VPS GPU.

Tạo ảnh và render: đo bằng workflow thật

Với Stable Diffusion, ComfyUI hay render 3D, bộ nhớ GPU phụ thuộc vào độ phân giải, số mô hình phụ như ControlNet, LoRA, upscaler nạp cùng lúc và kích thước batch. Cùng công thức ở trên, một mô hình tạo ảnh 12 tỷ tham số ở FP16 riêng phần trọng số đã cần khoảng 24GB, nên cần bản FP8 hoặc bản lượng tử hóa. Cách chắc chắn nhất là chạy workflow thật của bạn và xem cột bộ nhớ trong nvidia-smi. Hướng dẫn chạy Stable Diffusion với ComfyUI và Forge trên VPS GPU đi sâu hơn vào cách sắp xếp workflow tạo ảnh.

Chọn 24 core · 48 GB hay 48 core · 64 GB

GPU giống nhau ở cả hai cấu hình, nên câu hỏi thật sự là: công việc của bạn có bắt GPU phải chờ CPU và RAM hay không. Bảng dưới đây là điểm xuất phát cho các việc hay gặp trên một VPS GPU 24GB; hãy bắt đầu ở mức vừa đủ, theo dõi vài ngày rồi mới tăng.

Ba dấu hiệu cho biết nên tăng gì

• GPU thường xuyên rảnh trong khi CPU chạy hết công suất: dữ liệu không kịp đến GPU. Tăng core, tăng số worker nạp dữ liệu, hoặc chuyển lên cấu hình 48 core.
• Máy bắt đầu dùng swap, tiến trình bị dừng vì thiếu bộ nhớ: tăng RAM. Checkpoint mô hình, bộ dữ liệu đệm và nhiều dịch vụ chạy song song đều nằm trong RAM hệ thống trước khi tới GPU.
• Bộ nhớ GPU đã đầy dù CPU và RAM còn dư: tăng CPU, RAM sẽ không giúp gì. Hãy giảm batch, giảm độ phân giải hoặc context, hoặc dùng bản lượng tử hóa của mô hình.

Ổ cứng là phần hay bị đánh giá thấp. 300 GB nghe nhiều, nhưng vài mô hình ngôn ngữ, bộ cache thư viện, ảnh Docker và vài bản mô hình đã gộp sau fine-tune có thể lấp đầy ổ trong vài tuần. Nếu bạn định giữ nhiều phiên bản mô hình, hãy nâng ổ lên 400 – 500 GB ngay từ lúc đặt hàng.

Chọn hệ điều hành: Ubuntu, CentOS 7 hay Windows

Khác với một số gói GPU chỉ có Windows, RTX PRO 4000 có cả Linux lẫn Windows. Danh sách dưới đây giữ nguyên tên hệ điều hành như ở trang đặt hàng; danh sách này có thể được cập nhật, nên hãy xem lại ở bước chọn hệ điều hành khi đặt.

Quy tắc nhanh: dự án AI mới thì chọn Ubuntu 22.04, vì gần như mọi hướng dẫn cài driver NVIDIA, CUDA, PyTorch và Docker đều viết cho Ubuntu. Phần mềm render hay đồ họa chỉ có bản Windows thì chọn Windows Server 2019. Hai trang VPS Linux quản trị qua SSH và VPS Windows dùng qua Remote Desktop giải thích kỹ hơn cách làm việc với từng hệ điều hành nếu bạn mới chuyển sang máy chủ từ xa.

VPS RTX PRO 4000 hợp với ai, không hợp với ai

Đặt VPS GPU RTX PRO 4000 trên app.cloud-cheap.com

1. Mở trang đặt hàng. Bấm một nút đặt hàng trên trang này để vào đúng gói RTX PRO 4000 24GB trên app.cloud-cheap.com, rồi đăng nhập hoặc tạo tài khoản khách hàng.
2. Chọn cấu hình gốc. 24 core · 48 GB RAM · 300 GB hoặc 48 core · 64 GB RAM · 300 GB, theo bảng gợi ý ở trên.
3. Chỉnh tài nguyên. Tăng CPU, RAM, ổ cứng trong khoảng của cấu hình đã chọn; tổng tiền thay đổi ngay trên trang.
4. Chọn vị trí và hệ điều hành. Vị trí là Việt Nam; hệ điều hành chọn trong danh sách Ubuntu, CentOS 7 hoặc Windows.
5. Chọn chu kỳ và thanh toán. Chọn 1 tháng, 3 tháng hoặc 6 tháng, kiểm tra lại tổng tiền rồi thanh toán.
6. Nhận thông tin truy cập. Khi đơn được kích hoạt, bạn có địa chỉ IP, tài khoản quản trị và mật khẩu của VPS. Lưu chúng vào trình quản lý mật khẩu.

Checklist giờ đầu tiên sau khi nhận máy

Một giờ kiểm tra kỹ ở đầu chu kỳ giúp bạn phát hiện sớm việc chọn sai hệ điều hành, thiếu driver hay thiếu ổ cứng, trước khi đưa dữ liệu thật lên. Thứ tự dưới đây viết cho Ubuntu; phần Windows ở cuối danh sách.

1. Đăng nhập SSH và đổi mật khẩu. Thay root bằng tài khoản được cấp nếu khác, sau đó đổi mật khẩu và thêm SSH key của bạn.

   ssh root@IP_VPS
   passwd

2. Cập nhật hệ thống.

   sudo apt update && sudo apt -y upgrade

3. Kiểm tra GPU. Lệnh dưới phải hiện tên RTX PRO 4000 và tổng bộ nhớ khoảng 24GB. Nếu máy báo chưa có lệnh nvidia-smi, xem driver được đề xuất và cài bản có hậu tố -open.

   nvidia-smi
   ubuntu-drivers devices

4. Xác nhận framework nhận GPU. Sau khi cài PyTorch bản dựng cho CUDA 12.8 trở lên, chạy:

   python3 -c "import torch; print(torch.cuda.is_available(), torch.cuda.get_device_name(0))"

5. Kiểm tra ổ cứng và RAM. So dung lượng ổ và RAM với cấu hình bạn đã đặt.

   df -h
   free -h
   nproc

6. Bật tường lửa, không mở cổng giao diện ra Internet. Chỉ cho phép SSH, để Jupyter, ComfyUI hay API mô hình lắng nghe ở 127.0.0.1 và truy cập qua đường hầm SSH từ máy của bạn.

   sudo ufw allow OpenSSH
   sudo ufw enable
   ssh -L 8188:127.0.0.1:8188 root@IP_VPS

7. Chạy thử một tác vụ mẫu. Nạp mô hình hoặc workflow thật của bạn, mở thêm một cửa sổ chạy watch -n 2 nvidia-smi để xem bộ nhớ GPU và mức sử dụng. Ghi lại con số để quyết định có cần đổi cấu hình hay không.
8. Trên Windows: kết nối bằng mstsc /v:IP_VPS, đổi mật khẩu Administrator, chạy nvidia-smi trong PowerShell để xem tên và bộ nhớ GPU (trên Windows 10 và Windows Server 2019 có thể xem thêm ở Task Manager, tab Performance, mục GPU; Windows Server 2016 và 2012 R2 không có mục này), rồi giới hạn Remote Desktop chỉ cho IP của bạn trong Windows Firewall.
9. Sao lưu và nhắc gia hạn. Đặt lịch sao lưu mã nguồn, checkpoint và dữ liệu ra ngoài VPS, ghi ngày hết chu kỳ vào lịch để công việc không bị gián đoạn.

So sánh RTX PRO 4000 với VPS GPU Gold và VPS NVMe Intel gold / platinum

Ba gói dưới đây đều đặt tại Việt Nam nhưng phục vụ ba mức nhu cầu khác nhau. Bảng chỉ dùng thông tin theo mô tả hiện tại của từng gói.

Cách đọc bảng: VPS GPU Gold có 7 cấu hình Xeon Gold là bước khởi đầu rẻ hơn cho phần mềm đồ họa trên Windows, nhưng chỉ có Windows và thông số gói chỉ ghi GPU: 1, chưa công bố tên GPU hay dung lượng VRAM; nếu cần con số này, hãy hỏi thông số GPU của gói Gold qua trang liên hệ trước khi đặt. Giá của RTX PRO 4000 cao hơn nhiều, đổi lại mô tả gói ghi rõ GPU RTX PRO 4000 Blackwell 24GB, có Ubuntu cho stack AI và có CPU, RAM lớn hơn hẳn. VPS NVMe Intel gold / platinum với 6 cấu hình từ 45.500đ/tháng tới 715.000đ/tháng không có GPU, nhưng là nơi hợp lý để đặt website, API phụ trợ hay cơ sở dữ liệu đi kèm dự án AI, giúp bạn không phải dùng máy GPU đắt tiền cho việc CPU làm được.

Nếu còn phân vân công việc của mình có thật sự cần GPU, bài so sánh VPS NVMe và VPS GPU tách rõ việc nào cần GPU, việc nào CPU là đủ. Muốn xem toàn bộ dòng máy chủ trong nước, có trang VPS NVMe đặt tại Việt Nam; cần máy ở nước ngoài thì xem VPS đa quốc gia theo vị trí, hoặc bắt đầu từ trang tổng quan các dòng VPS Cloud Cheap.

Sai lầm hay gặp khi thuê VPS GPU 24GB và cách tránh

Chọn theo tên GPU thay vì theo bộ nhớ cần dùng

Tên GPU mới không đảm bảo mô hình của bạn chạy được. Hãy làm phép tính ở phần ước lượng 24GB, cộng thêm phần cho KV cache hoặc batch, rồi mới quyết định. Nếu con số vượt 24GB, dùng bản lượng tử hóa hoặc mô hình nhỏ hơn trước khi nghĩ đến việc tăng CPU, RAM.

Mang môi trường cũ sang GPU Blackwell

File cài đặt hay ảnh Docker dựng cho CUDA cũ có thể không nhận RTX PRO 4000. Nếu nvidia-smi thấy GPU nhưng PyTorch báo không có CUDA, nguyên nhân thường là bản framework quá cũ. Cài lại bản dựng cho CUDA mới thay vì sửa từng thư viện.

Mở cổng giao diện web ra Internet

Jupyter, ComfyUI hay API mô hình không có mật khẩu là mục tiêu dễ bị dò quét. Để chúng lắng nghe ở 127.0.0.1, truy cập qua đường hầm SSH, hoặc đặt sau một reverse proxy có xác thực nếu bắt buộc phải mở cho đồng nghiệp.

Để cache và checkpoint làm đầy ổ

Thư viện tải mô hình thường giữ cache trong thư mục người dùng, còn mỗi checkpoint đầy đủ hay bản mô hình đã gộp adapter là thêm một bản sao lớn của trọng số. Hãy trỏ thư mục cache về một chỗ cố định, chỉ giữ vài checkpoint gần nhất và dọn ảnh Docker cũ định kỳ.

Không sao lưu ra ngoài máy

Dữ liệu huấn luyện, LoRA đã fine-tune và workflow tạo ảnh là tài sản của bạn. Sao lưu định kỳ sang nơi khác, đừng để chúng chỉ nằm trên một VPS.

Câu hỏi thường gặp về VPS GPU RTX PRO 4000