Επικοινωνήστε μαζί μας
 Διάρκεια 14 Ώρες

Εξέλιξη Κομματιού

Προετοιμασία μοντέλων Machine Learning για εγκατάσταση

  • Συσκευασμός μοντέλων με Docker
  • Εξαγωγή μοντέλων από TensorFlow και PyTorch
  • Θεωρίες versioning και αποθήκευσης

Εξυπηρέτηση μοντέλων σε Kubernetes

  • Επισκόπηση inference servers
  • Εγκατάσταση TensorFlow Serving και TorchServe
  • Δημιουργία μοντέλων endpoints

Τεχνικές βελτιστοποίησης inference

  • Στρατηγικές batch processing
  • Χειρισμός παράλληλων αιτημάτων
  • Ρύθμιση latency και throughput

Αυτόματη κλιμάκωση φορτίων εργασίας ML

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

Προμήνεια GPU και διαχείριση πόρων

  • Διαμόρφωση κόμβων GPU
  • Επισκόπηση του NVIDIA device plugin
  • Αιτήματα και όρια πόρων για φορτία εργασίας ML

Στρατηγικές κυκλοφορίας και εκτός προμήνειας μοντέλων

  • Blue/green deployments
  • Canary rollout patterns
  • Δοκιμές A/B για αξιολόγηση μοντέλων

Παρακολούθηση και παρατηρησιμότητα για ML σε παραγωγή

  • Μετρικά για φορτία εργασίας inference
  • Πρακτικές logging και tracing
  • Πίνακες ελέγχου (dashboards) και ειδοποιήσεις

Θεωρίες ασφαλείας και αξιοπιστίας

  • Ασφάλεια μοντέλων endpoints
  • Διαδικασίες δικτύου και έλεγχος πρόσβασης
  • Εξασφάλιση υψηλής διαθεσιμότητας

Σύνοψη και επόμενα βήματα

Απαιτήσεις

  • Κατανόηση των ροών εργασίας εφαρμογών container
  • Εμπειρία με μοντέλα machine learning βασισμένα σε Python
  • Οικειότητα με τις βασικές αρχές του Kubernetes

Κοινό-Στόχος

  • Μηχανικοί ML
  • Μηχανικοί DevOps
  • Εκπαιδευτές μηχανικής πλατφόρμης

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Σχόλια (4)

Εφεξής Μαθήματα

Σχετικές Κατηγορίες