Εξέλιξη Κομματιού
Προετοιμασία μοντέλων Machine Learning για εγκατάσταση
- Συσκευασμός μοντέλων με Docker
- Εξαγωγή μοντέλων από TensorFlow και PyTorch
- Θεωρίες versioning και αποθήκευσης
Εξυπηρέτηση μοντέλων σε Kubernetes
- Επισκόπηση inference servers
- Εγκατάσταση TensorFlow Serving και TorchServe
- Δημιουργία μοντέλων endpoints
Τεχνικές βελτιστοποίησης inference
- Στρατηγικές batch processing
- Χειρισμός παράλληλων αιτημάτων
- Ρύθμιση latency και throughput
Αυτόματη κλιμάκωση φορτίων εργασίας ML
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Προμήνεια GPU και διαχείριση πόρων
- Διαμόρφωση κόμβων GPU
- Επισκόπηση του NVIDIA device plugin
- Αιτήματα και όρια πόρων για φορτία εργασίας ML
Στρατηγικές κυκλοφορίας και εκτός προμήνειας μοντέλων
- Blue/green deployments
- Canary rollout patterns
- Δοκιμές A/B για αξιολόγηση μοντέλων
Παρακολούθηση και παρατηρησιμότητα για ML σε παραγωγή
- Μετρικά για φορτία εργασίας inference
- Πρακτικές logging και tracing
- Πίνακες ελέγχου (dashboards) και ειδοποιήσεις
Θεωρίες ασφαλείας και αξιοπιστίας
- Ασφάλεια μοντέλων endpoints
- Διαδικασίες δικτύου και έλεγχος πρόσβασης
- Εξασφάλιση υψηλής διαθεσιμότητας
Σύνοψη και επόμενα βήματα
Απαιτήσεις
- Κατανόηση των ροών εργασίας εφαρμογών container
- Εμπειρία με μοντέλα machine learning βασισμένα σε Python
- Οικειότητα με τις βασικές αρχές του Kubernetes
Κοινό-Στόχος
- Μηχανικοί ML
- Μηχανικοί DevOps
- Εκπαιδευτές μηχανικής πλατφόρμης
Σχόλια (4)
βασική κατάνοηση των container/kubernetes και πώς δεημιουργούν συνεργασία ειδικά της πλατέρας openshift
Eric Scholze - NOW IT GmbH
Κομμάτι - Introduction to Containers, Kubernetes & OpenShift
Μηχανική Μετάφραση
Σχετικά με τα μικρουπηρεσίες και πώς να διατηρήσετε το Kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Κομμάτι - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Μηχανική Μετάφραση
Πώς ο εκπαιδευτής παρέχει γνώση με τόσο αποτελεσματικό τρόπο
Vu Thoai Le - Reply Polska sp. z o. o.
Κομμάτι - Certified Kubernetes Administrator (CKA) - exam preparation
Μηχανική Μετάφραση
Η γνώση και οι ανακομφές με τον Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Κομμάτι - Docker and Kubernetes
Μηχανική Μετάφραση