Εξέλιξη Κομματιού
Εισαγωγή στη Containerization με Επιτάχυνση GPU
- Κατανόηση της χρήσης GPU στις ροές εργασιών εμβάθυνσης
- Πώς το Docker υποστηρίζει φορτία εργασίας βασισμένα σε GPU
- Βασικές σκέψεις για την απόδοση
Εγκατάσταση και Διαμόρφωση του NVIDIA Container Toolkit
- Ρύθμιση οδηγών και συμβατότητας CUDA
- Επαλήθευση της πρόσβασης GPU εντός των δοχείων
- Διαμόρφωση του περιβάλλοντος runtime
Δημιουργία Δοχείων Docker με Δυνατότητα GPU
- Χρήση βασικών εικόνων CUDA
- Δημιουργία συσκευασίας (packaging) frameworks ΤΝ σε δοχεία έτοιμα για GPU
- Διαχείριση εξαρτήσεων για εκπαίδευση και inference
Εκτέλεση Φορτίων Εργασίας ΤΝ με Επιτάχυνση GPU
- Εκτέλεση εργασιών εκπαίδευσης χρησιμοποιώντας GPU
- Διαχείριση φορτίων εργασίας πολλαπλών GPU
- Παρακολούθηση της αξιοποίησης GPU
Βελτιστοποίηση Απόδοσης και Διανομής Πόρων
- Περιορισμός και αποκοπισμός πόρων GPU
- Βελτιστοποίηση μνήμης, μεγέθους παρτίδας και τοποθέτησης συσκευής
- Ρύθμιση απόδοσης και διάγνωση
Inference σε Δοχεία και Παροχή Υπηρεσιών Μοντέλων
- Δημιουργία δοχείων έτοιμων για inference
- Παροχή υψηλών φορτίων εργασίας σε GPU
- Ενσωμάτωση εκτελεστών μοντέλων και API
Κλιμάκωση Φορτίων Εργασίας GPU με Docker
- Στρατηγικές για διανεμημένη εκπαίδευση GPU
- Κλιμάκωση μικρουπηρεσιών inference
- Συντονισμός συστημάτων ΤΝ πολλαπλών δοχείων
Ασφάλεια και Αξιοπιστία για Δοχεία με Δυνατότητα GPU
- Εξασφάλιση ασφαλείας πρόσβασης GPU σε περιβάλλοντα κοινής χρήσης
- Σκληροποίηση (hardening) των εικόνων των δοχείων
- Διαχείριση ενημερώσεων, εκδόσεων και συμβατότητας
Σύνοψη και Επόμενα Βήματα
Απαιτήσεις
- Κατανόηση των βασικών αρχών της εμβάθυνσης
- Εμπειρία με Python και συνηθισμένα frameworks ΤΝ
- Οικειότητα με βασικές έννοιες της容器зации (containerization)
Σύνολος Κοινού
- Μηχανικοί εμβάθυνσης
- Ομάδες έρευνας και ανάπτυξης
- Εκπαιδευτές μοντέλων ΤΝ
Σχόλια (3)
Πώς ο εκπαιδευτής παρέχει γνώση με τόσο αποτελεσματικό τρόπο
Vu Thoai Le - Reply Polska sp. z o. o.
Κομμάτι - Certified Kubernetes Administrator (CKA) - exam preparation
Μηχανική Μετάφραση
ο εκπαιδευτής είχε πολύ γνώσεις και υπομονή να μας μοιραστεί
Bogdan Olaru
Κομμάτι - Introduction to Docker
Μηχανική Μετάφραση
Η γνώση και οι ανακομφές με τον Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Κομμάτι - Docker and Kubernetes
Μηχανική Μετάφραση