Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Προετοιμασία μοντέλων μηχανικής μάθησης για ανάπτυξη

  • Πακετάρισμα μοντέλων με Docker
  • Εξαγωγή μοντέλων από TensorFlow και PyTorch
  • Ζητήματα εκδόσεων (versioning) και αποθήκευσης

Εξυπηρέτηση μοντέλων στο Kubernetes

  • Επισκόπηση διακομιστών εξαγωγής συμπερασμάτων
  • Ανάπτυξη TensorFlow Serving και TorchServe
  • Ρύθμιση τελικών σημείων μοντέλων

Τεχνικές βελτιστοποίησης εξαγωγής συμπερασμάτων

  • Στρατηγικές ομαδοποίησης αιτημάτων (batching)
  • Διαχείριση ταυτόχρονων αιτημάτων
  • Συντονισμός καθυστέρησης και απόδοσης

Αυτόματη κλιμάκωση φόρτων εργασίας ML

  • Οριζόντια αυτόματη κλιμάκωση Pod (HPA)
  • Κάθετη αυτόματη κλιμάκωση Pod (VPA)
  • Αυτόματη κλιμάκωση με βάση συμβάντα στο Kubernetes (KEDA)

Παροχή GPU και διαχείριση πόρων

  • Ρύθμιση κόμβων GPU
  • Επισκόπηση του plugin συσκευής NVIDIA
  • Αιτήματα και όρια πόρων για φόρτους εργασίας ML

Στρατηγικές διάθεσης και κυκλοφορίας μοντέλων

  • Αναπτύξεις μπλε/πράσινου (blue/green)
  • Μοτίβα σταδιακής διάθεσης (canary)
  • Δοκιμές A/B για αξιολόγηση μοντέλων

Παρακολούθηση και παρατηρησιμότητα για ML στην παραγωγή

  • Μετρικές για φόρτους εργασίας εξαγωγής συμπερασμάτων
  • Πρακτικές καταγραφής και ιχνηλάτησης
  • Πίνακες ελέγχου και ειδοποιήσεις

Ζητήματα ασφάλειας και αξιοπιστίας

  • Ασφάλιση τελικών σημείων μοντέλων
  • Πολιτικές δικτύου και έλεγχος πρόσβασης
  • Εξασφάλιση υψηλής διαθεσιμότητας

Σύνοψη και επόμενα βήματα

Απαιτήσεις

  • Κατανόηση ροών εργασίας εφαρμογών σε μορφή containers
  • Εμπειρία με μοντέλα μηχανικής μάθησης βασισμένα σε Python
  • Εξοικείωση με τις βασικές αρχές του Kubernetes

Ακροατήριο

  • Μηχανικοί ML
  • Μηχανικοί DevOps
  • Ομάδες μηχανικής πλατφόρμας
 14 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Σχόλια (3)

Εφεξής Μαθήματα

Σχετικές Κατηγορίες