Ευχαριστούμε που στάλθηκε η αποσαφήνισή σας! Ένα μέλος της ομάδου μας θα επικοινωνήσει μαζί σας σύντομα.
Ευχαριστούμε για την εκδήλωση κράτησης! Ένας από τους συνεργάτες μας θα επικοινωνήσει μαζί σας σύντομα.
Εξέλιξη Κομματιού
Έννοιες Απόδοσης και Μετρικές
- Καθυστέρηση, απόδοση, κατανάλωση ενέργειας, αξιοποίηση πόρων
- Σημεία συμφόρησης σε επίπεδο συστήματος έναντι μοντέλου
- Καταγραφή επιδόσεων για συμπερασμό έναντι εκπαίδευσης
Καταγραφή Επιδόσεων σε Huawei Ascend
- Χρήση CANN Profiler και MindInsight
- Διαγνωστικά πυρήνα και τελεστή
- Μοτίβα μεταφόρτωσης και χαρτογράφηση μνήμης
Καταγραφή Επιδόσεων σε Biren GPU
- Δυνατότητες παρακολούθησης απόδοσης Biren SDK
- Σύντηξη πυρήνων, ευθυγράμμιση μνήμης και ουρές εκτέλεσης
- Καταγραφή επιδόσεων με επίγνωση ισχύος και θερμοκρασίας
Καταγραφή Επιδόσεων σε Cambricon MLU
- Εργαλεία απόδοσης BANGPy και Neuware
- Ορατότητα σε επίπεδο πυρήνα και ερμηνεία καταγραφών
- Ενσωμάτωση καταγραφέα MLU με πλαίσια ανάπτυξης
Βελτιστοποίηση Γράφων και Επιπέδου Μοντέλου
- Στρατηγικές κλαδέματος γράφων και κβαντισμού
- Σύντηξη τελεστών και αναδιάρθρωση υπολογιστικού γράφου
- Τυποποίηση μεγέθους εισόδου και ρύθμιση παρτίδας
Βελτιστοποίηση Μνήμης και Πυρήνα
- Βελτιστοποίηση διάταξης μνήμης και επαναχρησιμοποίησης
- Αποδοτική διαχείριση buffer σε διαφορετικά chipset
- Τεχνικές ρύθμισης σε επίπεδο πυρήνα ανά πλατφόρμα
Βέλτιστες Πρακτικές μεταξύ Πλατφορμών
- Φορητότητα απόδοσης: στρατηγικές αφαίρεσης
- Δημιουργία κοινών αγωγών ρύθμισης για περιβάλλοντα πολλαπλών τσιπ
- Παράδειγμα: ρύθμιση μοντέλου ανίχνευσης αντικειμένων σε Ascend, Biren και MLU
Σύνοψη και Επόμενα Βήματα
Απαιτήσεις
- Εμπειρία σε αγωγούς εκπαίδευσης ή ανάπτυξης μοντέλων τεχνητής νοημοσύνης
- Κατανόηση αρχών υπολογισμού GPU/MLU και βελτιστοποίησης μοντέλων
- Βασική εξοικείωση με εργαλεία καταγραφής επιδόσεων και μετρικές
Κοινό
- Μηχανικοί επιδόσεων
- Ομάδες υποδομών μηχανικής μάθησης
- Αρχιτέκτονες συστημάτων τεχνητής νοημοσύνης
21 Ώρες
