Εξέλιξη Κομματιού
Εισαγωγή στο AI Inference με Docker
- Σύνοψη των εργασιών AI inference
- Οφέλη κατευθυνόμενων (containerized) inference
- Σενάρια διαθέσεως και περιορισμοί
Δημιουργία AI Inference Containers
- Επιλογή βασικών εικόνων και πλατφόρμων
- Πακέτοβοση προ-εκπαιδευμένων μοντέλων
- Σύνθεση inference κώδικα για εκτέλεση σε containers
Ασφάλιση Containerized AI Services
- Ελαχιστοποίηση της επιφάνειας επίθεσης στους containers
- Διαχείριση μυστικών και αναμφίβολων αρχείων
- Ασφαλής διαδίκτυο και στρатегίες εκκαθάρισης API
Μεθόδοι Μεταφορικής Διαθέσεως
- Βελτιστοποίηση εικόνων για μεταφορικότητα
- Εξασφάλιση προβλέψιμων runtime περιβάλλοντων
- Διαχείριση εξαρτήσεων μεταξύ πλατφόρμων
Τοπική Διάθεση και Κατάδοση
- Εκτέλεση υπηρεσιών τοπικά με Docker
- Αποσφαλμάτωση inference containers
- Δοκιμή απόδοσης και αξιοπιστίας
Διάθεση σε Servers και Cloud VMs
- Αντιμετώπιση containers για απομακρυσμένα περιβάλλοντα
- Διαθέσεις ασφαλούς πρόσβασης σε δέρβενες
- Διάθεση inference APIs σε cloud VMs
Χρήση Docker Compose για Multi-Service AI Systems
- Διοίκηση inference με υποστηρικτικά συστατικά
- Διαχείριση περιβαλλοντικών μεταβλητών και ρυθμίσεων
- Κλίμακα μικρουπηρεσιών με Compose
Εποπτεία και Συντήρηση AI Inference Services
- Μέθοδοι καταγραφής και παρατήρησης (observability)
- Ανίχνευση αποτυχιών στα inference pipelines
- Ενημέρωση και versioning μοντέλων σε production
Σύνοψη και Επόμενα Βήματα
Απαιτήσεις
- Συνειδητοποίηση βασικών εννοιών μηχανικής μάθησης
- Εμπειρία στο Python ή την ανάπτυξη backend
- Γνώση βασικών εννοιών καταδέσμευσης (containers)
Ακροατήριο
- Αναπτυξείς
- Backend μηχανικοί
- Ομάδες που διαθέτουν AI υπηρεσίες
Σχόλια (5)
Ο ΟC είναι νέος για μας και μάθαμε πολλά, και τα εργαστήρια ήταν υπέροχα.
sharkey dollie
Κομμάτι - OpenShift 4 for Administrators
Μηχανική Μετάφραση
Εξαιρετικά ενημερωτικό και συντομό. Εφαρμοσμένη πρακτική
Gil Matias - FINEOS
Κομμάτι - Introduction to Docker
Μηχανική Μετάφραση
Εργαστήρια και τεχνικές συζητήσεις.
Dinesh Panchal - AXA XL
Κομμάτι - Advanced Docker
Μηχανική Μετάφραση
Παρείχε καλή βάση γνώσεων για το Docker και το Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Κομμάτι - Docker (introducing Kubernetes)
Μηχανική Μετάφραση
Απολάθηκα κυρίως από τη γνώση του εκπαιδευτή.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Κομμάτι - Docker, Kubernetes and OpenShift for Developers
Μηχανική Μετάφραση