CI/CD cho model serving

Giới thiệu
Ở bài học trước, chúng ta đã cùng nhau xây dựng Jenkins pipeline để tự động hóa quá trình release data pipeline
. Trong bài học này chúng ta sẽ sửa Jenkinsfile để phục vụ cho model serving
.
Jenkins pipeline
CI/CD pipeline cho model serving sẽ được thay đổi thành như sau:
Tip
Ở đây chúng ta sẽ dùng 1 image cho cả online serving API
và offline batch serving pipeline
để hạn chế sự khác nhau giữa code và môi trường chạy.
- Test code, phần này bạn sẽ bổ sung
unit test
,integration test
, .v.v. dựa vào bài học vềkiểm thử hệ thống
- Định nghĩa 2 bước chạy song song là
serving pipeline
vàonline serving API
.
Sau khi bạn thay đổi code ở folder model_serving/
và push code lên Github, bạn sẽ thấy Console Output
tương ứng với commit này hiển thị tương tự như sau:
Tổng kết
Ở bài học này, chúng ta đã cải tiến Jenkinsfile của data pipeline
để tự động hóa model serving
bằng cách sử dụng từ khóa parallel
. Bạn có thể đọc thêm Jenkins document tại đây và tiếp tục tuỳ biến CI/CD pipeline, ví dụ: biến bước deploy
trong CI/CD sang manual, thay vì tự động chạy cả pipeline một lúc.