Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Έννοιες και Μετρικές Απόδοσης

  • Καθυστέρηση, ρυθμός διεκπεραίωσης, κατανάλωση ισχύος, αξιοποίηση πόρων
  • Σημεία συμφόρησης σε επίπεδο συστήματος έναντι μοντέλου
  • Ανάλυση για εξαγωγή συμπερασμάτων έναντι εκπαίδευσης

Ανάλυση σε Huawei Ascend

  • Χρήση του CANN Profiler και του MindInsight
  • Διαγνωστική πυρήνων και τελεστών
  • Πρότυπα εκφόρτωσης και χαρτογράφηση μνήμης

Ανάλυση σε Biren GPU

  • Χαρακτηριστικά παρακολούθησης απόδοσης του Biren SDK
  • Συνένωση πυρήνων, ευθυγράμμιση μνήμης και ουρές εκτέλεσης
  • Ανάλυση ευαίσθητη στην ισχύ και τη θερμοκρασία

Ανάλυση σε Cambricon MLU

  • Εργαλεία απόδοσης BANGPy και Neuware
  • Ορατότητα σε επίπεδο πυρήνα και ερμηνεία καταγραφών
  • Ενσωμάτωση του MLU profiler με πλαίσια ανάπτυξης

Βελτιστοποίηση σε Επίπεδο Γράφου και Μοντέλου

  • Στρατηγικές αποκοπής γράφων και κβαντισμού
  • Συνένωση τελεστών και αναδιάρθρωση υπολογιστικών γράφων
  • Τυποποίηση μεγέθους εισόδου και ρύθμιση παρτίδων

Βελτιστοποίηση Μνήμης και Πυρήνων

  • Βελτιστοποίηση διάταξης μνήμης και επαναχρησιμοποίησης
  • Αποτελεσματική διαχείριση ενταμιευτών σε διάφορα τσιπ
  • Τεχνικές ρύθμισης σε επίπεδο πυρήνα ανά πλατφόρμα

Βέλτιστες Πρακτικές Δια-Πλατφορμικής Λειτουργίας

  • Φορητότητα απόδοσης: στρατηγικές αφαίρεσης
  • Δημιουργία κοινών διοχετεύσεων ρύθμισης για περιβάλλοντα πολλών τσιπ
  • Παράδειγμα: ρύθμιση ενός μοντέλου ανίχνευσης αντικειμένων σε Ascend, Biren και MLU

Σύνοψη και Επόμενα Βήματα

Απαιτήσεις

  • Εμπειρία στην εργασία με ροές εκπαίδευσης ή ανάπτυξης μοντέλων ΤΝ
  • Κατανόηση των αρχών υπολογισμού GPU/MLU και βελτιστοποίησης μοντέλων
  • Βασική εξοικείωση με εργαλεία και μετρικές ανάλυσης απόδοσης

Ακροατήριο

  • Μηχανικοί απόδοσης
  • Ομάδες υποδομών μηχανικής μάθησης
  • Αρχιτέκτονες συστημάτων ΤΝ
 21 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Εφεξής Μαθήματα

Σχετικές Κατηγορίες