Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Προετοιμασία Μηχανικών Μοντέλων για Υλοποίηση

  • Συσκευασία μοντέλων με Docker
  • Εξαγωγή μοντέλων από TensorFlow και PyTorch
  • Προβληματισμοί για versioning και αποθήκευση

Υλοποίηση Μοντέλων σε Kubernetes

  • Ανασκόπηση πλαισίων υλοποίησης
  • Υλοποίηση TensorFlow Serving και TorchServe
  • Ρύθμιση σημείων μοντέλων

Τεχνικές Βελτιστοποίησης Υλοποίησης

  • Στρατηγικές batch
  • Επεξεργασία συγχρονισμένων αιτήσεων
  • Διαχείριση καθυστέρησης και throughput

Autoscaling ML Εργασιών

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

Διαχείριση GPU και πόρων

  • Ρύθμιση GPU κόμβων
  • Ανασκόπηση NVIDIA device plugin
  • Αιτήματα και όρια πόρων για ML εργασίες

Στρατηγικές Υλοποίησης και Release

  • Υλοποίηση Blue/green
  • Μοντέλα Canary
  • Έλεγχος A/B για αξιολόγηση μοντέλων

Παρακολούθηση και Παρατήρηση για ML σε Παραγωγή

  • Μετρήσεις για εφαρμογές υλοποίησης
  • Μέθοδοι logging και tracing
  • Dashboard και ειδοποιήσεις

Θεωρητικοί και Εμπειρίας Ασφάλειας

  • Ασφάλιση σημείων μοντέλων
  • Διαδικτυακές πολιτικές και έλεγχος πρόσβασης
  • Διασφάλιση υψηλής διαθεσιμότητας

Συνοπτικά και Επόμενα Βήματα

Απαιτήσεις

  • Κατανόηση διαδικασιών εφαρμογών σε containers
  • Εμπειρία με ML μοντέλα Python
  • Γνώσεις βασικών εννοιών Kubernetes

Κοινό Στόχος

  • Μηχανικοί ML
  • Μηχανικοί DevOps
  • Ομάδες Platform Engineering
 14 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Σχόλια (3)

Εφεξής Μαθήματα

Σχετικές Κατηγορίες