VPS GPU là máy chủ ảo có gắn thêm bộ xử lý đồ hoạ, dùng cho những việc tính toán mà CPU làm quá chậm: huấn luyện và chạy mô hình AI, dựng hình, xử lý video, mô phỏng.
Bài này đưa quý Khách hàng từ lúc đặt máy tới lúc xác nhận GPU đã sẵn sàng.
1. Trước khi đặt: ba câu hỏi nên trả lời
| Câu hỏi | Vì sao quan trọng |
|---|---|
| Việc của tôi cần bao nhiêu bộ nhớ GPU | Đây là giới hạn cứng. Mô hình không vừa bộ nhớ GPU thì không chạy được, dù CPU và RAM có dư |
| Tôi chạy liên tục hay chạy từng đợt | Chạy từng đợt thì thuê theo giờ rẻ hơn; chạy liên tục thì thuê theo tháng |
| Dữ liệu của tôi nặng bao nhiêu | Ảnh hưởng dung lượng ổ đĩa, và nên cân nhắc để dữ liệu ở kho tách biệt |
Nếu chưa chắc, hãy hỏi đội ngũ kinh doanh trước khi đặt. Đổi sang cấu hình khác sau khi đã cài đặt xong môi trường là một việc tốn thời gian.
2. Đặt máy
Đặt trong Portal Cloudzone như với máy chủ ảo thường, chọn dòng sản phẩm có GPU. Chọn hệ điều hành ngay ở bước đặt.
Gợi ý chọn hệ điều hành:
- Ubuntu: phù hợp với phần lớn công việc AI và tính toán. Hệ sinh thái công cụ đầy đủ nhất.
- Windows Server: chọn khi phần mềm quý Khách hàng dùng chỉ chạy trên Windows.
Thanh toán xong, hệ thống khởi tạo máy và trả thông tin đăng nhập trong Portal.
3. Kết nối vào máy
Máy Linux: kết nối bằng SSH với địa chỉ IP, tên đăng nhập và mật khẩu lấy trong Portal.
ssh root@<dia-chi-ip>Máy Windows: kết nối bằng Remote Desktop, nhập địa chỉ IP, tên đăng nhập và mật khẩu.
Việc đầu tiên sau khi vào được: đổi mật khẩu. Mật khẩu ban đầu đi qua Portal và thư, không nên giữ nguyên.
4. Kiểm tra GPU đã nhận chưa
Đây là bước nhiều người bỏ qua rồi mất thời gian gỡ rối về sau.
Trên Linux, kiểm máy có nhìn thấy phần cứng GPU không:
lspci | grep -i nvidiaCó dòng trả về nghĩa là phần cứng đã gắn vào máy. Tiếp theo kiểm trình điều khiển:
nvidia-smi- Ra một bảng kèm tên card, dung lượng bộ nhớ và nhiệt độ: trình điều khiển đã sẵn sàng, quý Khách hàng dùng được ngay.
- Báo không tìm thấy lệnh, hoặc báo không liên lạc được với trình điều khiển: chưa cài trình điều khiển. Xem bài Cài trình điều khiển và bộ công cụ để chạy việc trên GPU.
Trên Windows: mở Device Manager, mục Display adapters, xem card đã hiện chưa. Hoặc mở Command Prompt rồi gõ nvidia-smi.
5. Đọc hiểu bảng của nvidia-smi
Bảng này là công cụ theo dõi chính, nên quen với nó ngay từ đầu:
| Cột | Nghĩa |
|---|---|
| Name | Tên card. Ghi lại, vì các hướng dẫn cài đặt thường hỏi tới nó |
| Memory-Usage | Bộ nhớ GPU đang dùng trên tổng. Đây là con số quan trọng nhất |
| GPU-Util | Phần trăm GPU đang làm việc |
| Temp | Nhiệt độ |
| Processes | Tiến trình nào đang chiếm GPU |
Trong lúc chạy việc, theo dõi liên tục bằng:
watch -n 2 nvidia-smi6. Chỗ để dữ liệu
Ổ đĩa của máy GPU nên dành cho hệ điều hành, thư viện và dữ liệu đang xử lý. Dữ liệu gốc và kết quả đã xong nên để ở kho tách biệt, vì ba lý do:
- Ổ đĩa máy ảo thường nhỏ hơn nhu cầu dữ liệu.
- Khi quý Khách hàng huỷ máy GPU lúc không dùng để tiết kiệm chi phí, dữ liệu vẫn còn.
- Dữ liệu nằm chỗ khác thì cài lại máy không phải lo mất.
Xem các bài trong chuyên mục Object Storage để biết cách nối kho tách biệt vào máy.
7. Thói quen nên có ngay từ ngày đầu
| Thói quen | Vì sao |
|---|---|
| Đổi mật khẩu sau lần đăng nhập đầu | Mật khẩu ban đầu đã đi qua nhiều chặng |
| Ghi lại tên card và phiên bản trình điều khiển | Mọi hướng dẫn cài thư viện đều hỏi tới chúng |
| Tắt máy khi không dùng, nếu thuê theo giờ | Máy GPU bật không mà không chạy gì vẫn tính tiền |
| Đẩy kết quả ra kho ngoài sau mỗi đợt chạy | Tránh mất việc đã làm xong |
8. Câu hỏi thường gặp
Tôi tắt máy thì có bị tính tiền không? Cách tính tuỳ theo gói quý Khách hàng đang dùng. Hãy hỏi đội ngũ kinh doanh để nắm đúng cách tính của gói mình, vì đây là điểm khác nhau giữa các loại dịch vụ.
Máy có GPU rồi thì có cần cài gì thêm không? Có. Phần cứng là một chuyện, phần mềm điều khiển và thư viện tính toán là chuyện khác. Xem bài tiếp theo trong chuyên mục này.
Tôi có dùng chung một GPU với khách khác không? Thông tin về cách bố trí tài nguyên của từng gói, quý Khách hàng vui lòng hỏi đội ngũ kinh doanh trước khi đặt, vì nó khác nhau giữa dòng máy ảo có GPU và dòng máy chủ vật lý có GPU.
Nâng cấu hình máy GPU được không? Hãy liên hệ đội ngũ kỹ thuật trước khi nâng, vì đổi phần cứng GPU thường kéo theo việc cài lại trình điều khiển và kiểm lại môi trường.
