Mình làm AI lâu năm rồi nên khuyên thật thím đập cật lực vào những món này:
- gpu, nvidia, nhiều VRAM
- ssd, cứ TB làm đơn vị
- nguồn, tùy có bao nhiêu gpu và phần còn lại
Những thứ còn lại tái sử dụng hết.
GPU thì không phải giải thích nhiều. AMD thì chờ TVM được cộng đồng hỗ trợ nhiều hơn rồi hẵng xem xét chuyển để tiết kiệm chi phí.
Thím dùng SD, đổi checkpoint với lora là thường xuyên vì VRAM có hạn, không lưu và load từ SSD thì chờ ngáp ruồi mỗi lần load/unload. Với model SD load vào VRAM chứ không load vào system RAM.
Lên CPU mà phải kéo theo main với RAM thì nói thẳng là chẳng có lợi ích gì đáng cho use case thím cần. Tốn tiền nâng cấp, tốn thời gian chọn đồ, tốn thời gian setup lại, trade đồ cũ.. đổi lại là bớt cảm giác FOMO, tiết kiệm chục giây bật app, dùng brush cỡ 600px mượt hơn xíu.. rồi khi cài đủ app, dùng đủ lâu, file, file tạm nhiều lên thì cảm giác máy chậm chậm như bây giờ lại về do thằng OS và các thằng khác chạy index, quét virus, cập nhật chạy ngầm. Thay vào đó chú ý hơn về bảo trì phần mềm - dọn temp, cache, exclude các thư mục cần thiết khỏi indexing/scan - và phần cứng (tra lại keo, dán thêm tản, phủi bụi), dành ngân sách cho đám trên thì đáng hơn.