Εξέλιξη Κομματιού

Εισαγωγή στο AI Inference με Docker

  • Σύνοψη των εργασιών AI inference
  • Οφέλη κατευθυνόμενων (containerized) inference
  • Σενάρια διαθέσεως και περιορισμοί

Δημιουργία AI Inference Containers

  • Επιλογή βασικών εικόνων και πλατφόρμων
  • Πακέτοβοση προ-εκπαιδευμένων μοντέλων
  • Σύνθεση inference κώδικα για εκτέλεση σε containers

Ασφάλιση Containerized AI Services

  • Ελαχιστοποίηση της επιφάνειας επίθεσης στους containers
  • Διαχείριση μυστικών και αναμφίβολων αρχείων
  • Ασφαλής διαδίκτυο και στρатегίες εκκαθάρισης API

Μεθόδοι Μεταφορικής Διαθέσεως

  • Βελτιστοποίηση εικόνων για μεταφορικότητα
  • Εξασφάλιση προβλέψιμων runtime περιβάλλοντων
  • Διαχείριση εξαρτήσεων μεταξύ πλατφόρμων

Τοπική Διάθεση και Κατάδοση

  • Εκτέλεση υπηρεσιών τοπικά με Docker
  • Αποσφαλμάτωση inference containers
  • Δοκιμή απόδοσης και αξιοπιστίας

Διάθεση σε Servers και Cloud VMs

  • Αντιμετώπιση containers για απομακρυσμένα περιβάλλοντα
  • Διαθέσεις ασφαλούς πρόσβασης σε δέρβενες
  • Διάθεση inference APIs σε cloud VMs

Χρήση Docker Compose για Multi-Service AI Systems

  • Διοίκηση inference με υποστηρικτικά συστατικά
  • Διαχείριση περιβαλλοντικών μεταβλητών και ρυθμίσεων
  • Κλίμακα μικρουπηρεσιών με Compose

Εποπτεία και Συντήρηση AI Inference Services

  • Μέθοδοι καταγραφής και παρατήρησης (observability)
  • Ανίχνευση αποτυχιών στα inference pipelines
  • Ενημέρωση και versioning μοντέλων σε production

Σύνοψη και Επόμενα Βήματα

Απαιτήσεις

  • Συνειδητοποίηση βασικών εννοιών μηχανικής μάθησης
  • Εμπειρία στο Python ή την ανάπτυξη backend
  • Γνώση βασικών εννοιών καταδέσμευσης (containers)

Ακροατήριο

  • Αναπτυξείς
  • Backend μηχανικοί
  • Ομάδες που διαθέτουν AI υπηρεσίες
 14 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Σχόλια (5)

Εφεξής Μαθήματα

Σχετικές Κατηγορίες