Εξέλιξη Κομματιού
Προετοιμασία μοντέλων μηχανικής μάθησης για ανάπτυξη
- Πακετάρισμα μοντέλων με Docker
- Εξαγωγή μοντέλων από TensorFlow και PyTorch
- Ζητήματα εκδόσεων (versioning) και αποθήκευσης
Εξυπηρέτηση μοντέλων στο Kubernetes
- Επισκόπηση διακομιστών εξαγωγής συμπερασμάτων
- Ανάπτυξη TensorFlow Serving και TorchServe
- Ρύθμιση τελικών σημείων μοντέλων
Τεχνικές βελτιστοποίησης εξαγωγής συμπερασμάτων
- Στρατηγικές ομαδοποίησης αιτημάτων (batching)
- Διαχείριση ταυτόχρονων αιτημάτων
- Συντονισμός καθυστέρησης και απόδοσης
Αυτόματη κλιμάκωση φόρτων εργασίας ML
- Οριζόντια αυτόματη κλιμάκωση Pod (HPA)
- Κάθετη αυτόματη κλιμάκωση Pod (VPA)
- Αυτόματη κλιμάκωση με βάση συμβάντα στο Kubernetes (KEDA)
Παροχή GPU και διαχείριση πόρων
- Ρύθμιση κόμβων GPU
- Επισκόπηση του plugin συσκευής NVIDIA
- Αιτήματα και όρια πόρων για φόρτους εργασίας ML
Στρατηγικές διάθεσης και κυκλοφορίας μοντέλων
- Αναπτύξεις μπλε/πράσινου (blue/green)
- Μοτίβα σταδιακής διάθεσης (canary)
- Δοκιμές A/B για αξιολόγηση μοντέλων
Παρακολούθηση και παρατηρησιμότητα για ML στην παραγωγή
- Μετρικές για φόρτους εργασίας εξαγωγής συμπερασμάτων
- Πρακτικές καταγραφής και ιχνηλάτησης
- Πίνακες ελέγχου και ειδοποιήσεις
Ζητήματα ασφάλειας και αξιοπιστίας
- Ασφάλιση τελικών σημείων μοντέλων
- Πολιτικές δικτύου και έλεγχος πρόσβασης
- Εξασφάλιση υψηλής διαθεσιμότητας
Σύνοψη και επόμενα βήματα
Απαιτήσεις
- Κατανόηση ροών εργασίας εφαρμογών σε μορφή containers
- Εμπειρία με μοντέλα μηχανικής μάθησης βασισμένα σε Python
- Εξοικείωση με τις βασικές αρχές του Kubernetes
Ακροατήριο
- Μηχανικοί ML
- Μηχανικοί DevOps
- Ομάδες μηχανικής πλατφόρμας
Σχόλια (4)
βασική κατάνοηση των container/kubernetes και πώς δεημιουργούν συνεργασία ειδικά της πλατέρας openshift
Eric Scholze - NOW IT GmbH
Κομμάτι - Introduction to Containers, Kubernetes & OpenShift
Μηχανική Μετάφραση
Σχετικά με τα μικρουπηρεσίες και πώς να διατηρήσετε το Kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Κομμάτι - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Μηχανική Μετάφραση
Πώς ο εκπαιδευτής παρέχει γνώση με τόσο αποτελεσματικό τρόπο
Vu Thoai Le - Reply Polska sp. z o. o.
Κομμάτι - Certified Kubernetes Administrator (CKA) - exam preparation
Μηχανική Μετάφραση
Η γνώση και οι ανακομφές με τον Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Κομμάτι - Docker and Kubernetes
Μηχανική Μετάφραση