Εξέλιξη Κομματιού
Ετοιμασία των Μοντέλων Μηχανικής Μάθησης για Εφαρμογή
- Πακετοποίηση των μοντέλων με Docker
- Εξαγωγή μοντέλων από TensorFlow και PyTorch
- Σκέψεις για εκδόσεις και αποθήκευση
Εξυπηρέτηση Μοντέλων σε Kubernetes
- Γενική εικόνα των διαμεσολαβητών προβλέψεων
- Εφαρμογή TensorFlow Serving και TorchServe
- Θέσπιση των πόρων των μοντελών
Τεχνικές βελτίωσης προβλέψεων
- Στρατηγικές συμπερίληψης
- Διαχείριση των παραλλήλων αιτημάτων
- Ρύθμιση χρονικών και διαθεσιμότητας
Αυτόματη αλλαγή κλίμακας των φορτίων ML (Μηχανικής Μάθησης)
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Εξοπλισμός και διαχείριση πόρων GPU
- Ρύθμιση των κόμβων GPU
- Γενική εικόνα για το plugin συσκευών NVIDIA
- Αιτήματα και όρια πόρων για φορτία ML (Μηχανικής Μάθησης)
Στρατηγικές Εφαρμογής και Εκδόσεων των Μοντέλων
- Blue/green deployments
- Canary rollout patterns
- A/B testing για εκτίμηση των μοντέλων
Παρακολούθηση και παρατηρητικότητα της ML (Μηχανικής Μάθησης) σε εφαρμογή
- Δείκτες για φορτία προβλέψεων
- Πρακτικές καταγραφής και αποσυράγματος
- Ηλεκτρονικές πίνακες και σημαντικές ειδοποιήσεις
Συνθήκες ασφάλειας και πιστότητας
- Διασφάλιση των πόρων μοντέλων
- Πολιτικές δικτύου και ελέγχου πρόσβασης
- Εξασφάλιση υψηλής διαθεσιμότητας
Περίληψη και επόμενα βήματα
Απαιτήσεις
- Κατανόηση των εργασιών γεφυροπλοϊκών εφαρμογών
- Εμπειρία με ML (Μηχανικής Μάθησης) μοντέλα βασισμένα στο Python
- Γνώση των αρχών Kubernetes
Ακροατήριο
- Μηχανικοί ML (Μηχανικής Μάθησης)
- Μηχανικοί DevOps
- Ομάδες πλατφόρμας μηχανικών
Σχόλια (5)
Αλληλεπίδραση, όχι ανάγνωση διαφανειών όλη μέρα
Emilien Bavay - IRIS SA
Κομμάτι - Kubernetes Advanced
Μηχανική Μετάφραση
ήταν αποδεκτικός και κατάλαβε ότι πίσω μας
Albertina - REGNOLOGY ROMANIA S.R.L.
Κομμάτι - Deploying Kubernetes Applications with Helm
Μηχανική Μετάφραση
Η κατάρτιση ήταν πιο πρακτική
Siphokazi Biyana - Vodacom SA
Κομμάτι - Kubernetes on AWS
Μηχανική Μετάφραση
Μάθηση για το Kubernetes.
Felix Bautista - SGS GULF LIMITED ROHQ
Κομμάτι - Kubernetes on Azure (AKS)
Μηχανική Μετάφραση
Παρείχε καλή βάση γνώσεων για το Docker και το Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Κομμάτι - Docker (introducing Kubernetes)
Μηχανική Μετάφραση