thảo luận Thảo luận về Computer Vision

Xử lý ảnh thì có nên đẩy lên cloud k bác nhỉ ? Thấy dùng VM với mấy service AI thốn quá
Chưa hiểu ý câu hỏi. Muốn xử lý trên cloud thì bạn vẫn phải tự dựng VM/service trên hạ tầng của cloud provider, hoặc dùng service xử lý ảnh của họ luôn mà?
 
Chưa hiểu ý câu hỏi. Muốn xử lý trên cloud thì bạn vẫn phải tự dựng VM/service trên hạ tầng của cloud provider, hoặc dùng service xử lý ảnh của họ luôn mà?
Tức là sẽ k xử lý stream mà đẩy ảnh lên cloud dùng VM và các service để xử lý
 
Tức là sẽ k xử lý stream mà đẩy ảnh lên cloud dùng VM và các service để xử lý
Bạn cần phân biệt ra xử lý stream với xử lý on-edge/on-cloud. On-cloud thì bạn còn có thêm một layer stream dữ liệu qua network.

Rule of thumb: xử lý on-edge nếu yêu cầu realtime response (vd. 10fps trở lên) và tác vụ xử lý không quá sức với phần cứng của thiết bị edge
 
Bạn cần phân biệt ra xử lý stream với xử lý on-edge/on-cloud. On-cloud thì bạn còn có thêm một layer stream dữ liệu qua network.

Rule of thumb: xử lý on-edge nếu yêu cầu realtime response (vd. 10fps trở lên) và tác vụ xử lý không quá sức với phần cứng của thiết bị edge
Tiện đây có bác nào đang xử lý streaming trên server thì có opensource nào để đọc luồng stream mà tiêu tốn ít tài nguyên hơn OpenCV không nhỉ?
 
bạn cân nhắc kĩ lưỡng chưa, xử lý streaming thì xử lý tại edge device (jetson) sẽ tối ưu hơn là kéo luồng về server để xử lý tập trung
kéo luồng về đỡ tốn tiền hơn xử lý tại biên. Jetson quá đắt cho việc xử lý biên. Nên tìm mấy con có NPU tích hợp sẵn trong chip để xử lý biên.

via theNEXTvoz for iPhone
 
Giờ e đang muốn chuyển hướng sang deploy lên cloud(mlops) .thì nên bắt đầu như nào nhỉ
Ml ops k phải là deploy lên cloud. Chỉ là một số ops chuyên biệt cho Ml thôi còn op vẫn ml ops bình thường

Bắt đầu cloud ntn thì nên cài mô phỏng cloud trên sever dùng trước + các ops cơ bản:
  • Storage : tập trung, phân tán
  • API
  • Docker/k8s
  • CI/CD
  • Vài sản phẩm của Apache phục vụ message queue, streaming data và một vài tác vụ khác như kafka, flink, airflow v..v



via theNEXTvoz for iPhone
 
Ml ops k phải là deploy lên cloud. Chỉ là một số ops chuyên biệt cho Ml thôi còn op vẫn ml ops bình thường

Bắt đầu cloud ntn thì nên cài mô phỏng cloud trên sever dùng trước + các ops cơ bản:
  • Storage : tập trung, phân tán
  • Docker/k8s
  • CI/CD
  • Vài sản phẩm của Apache phục vụ message queue, streaming data và một vài tác vụ khác như kafka, flink, airflow v..v



via theNEXTvoz for iPhone
Đag ngồi học cloud +k8s +cicd r thím. Mỗi tội cty chưa có dự án nào mlop để thực chiến
 
Back
Top