Ευχαριστούμε που στάλθηκε η αποσαφήνισή σας! Ένα μέλος της ομάδου μας θα επικοινωνήσει μαζί σας σύντομα.
Ευχαριστούμε για την εκδήλωση κράτησης! Ένας από τους συνεργάτες μας θα επικοινωνήσει μαζί σας σύντομα.
Διάρκεια 14 Ώρες
Εξέλιξη Κομματιού
Προετοιμασία μοντέλων Machine Learning για εγκατάσταση
- Συσκευασμός μοντέλων με Docker
- Εξαγωγή μοντέλων από TensorFlow και PyTorch
- Θεωρίες versioning και αποθήκευσης
Εξυπηρέτηση μοντέλων σε Kubernetes
- Επισκόπηση inference servers
- Εγκατάσταση TensorFlow Serving και TorchServe
- Δημιουργία μοντέλων endpoints
Τεχνικές βελτιστοποίησης inference
- Στρατηγικές batch processing
- Χειρισμός παράλληλων αιτημάτων
- Ρύθμιση latency και throughput
Αυτόματη κλιμάκωση φορτίων εργασίας ML
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Προμήνεια GPU και διαχείριση πόρων
- Διαμόρφωση κόμβων GPU
- Επισκόπηση του NVIDIA device plugin
- Αιτήματα και όρια πόρων για φορτία εργασίας ML
Στρατηγικές κυκλοφορίας και εκτός προμήνειας μοντέλων
- Blue/green deployments
- Canary rollout patterns
- Δοκιμές A/B για αξιολόγηση μοντέλων
Παρακολούθηση και παρατηρησιμότητα για ML σε παραγωγή
- Μετρικά για φορτία εργασίας inference
- Πρακτικές logging και tracing
- Πίνακες ελέγχου (dashboards) και ειδοποιήσεις
Θεωρίες ασφαλείας και αξιοπιστίας
- Ασφάλεια μοντέλων endpoints
- Διαδικασίες δικτύου και έλεγχος πρόσβασης
- Εξασφάλιση υψηλής διαθεσιμότητας
Σύνοψη και επόμενα βήματα
Απαιτήσεις
- Κατανόηση των ροών εργασίας εφαρμογών container
- Εμπειρία με μοντέλα machine learning βασισμένα σε Python
- Οικειότητα με τις βασικές αρχές του Kubernetes
Κοινό-Στόχος
- Μηχανικοί ML
- Μηχανικοί DevOps
- Εκπαιδευτές μηχανικής πλατφόρμης
Σχόλια (1)
Μου αρέσει το μέρος του Kubernetes στην εκπαίδευση, καθώς είχα ορισμένες αποστολές με pods και portas K8s και ήταν ωραίο να αποκτώ τώρα καλύτερη κατανόηση. Ευχαριστώ!
Laura Miron - Betfair
Κομμάτι - Docker and Kubernetes
Μηχανική Μετάφραση