Course Outline

Προτύπα και Μετρικές Περιβάλλοντος Εκτελεσίμων

  • Ανασχόληση, διανυσμένη παραγωγότητα, κατανάλωση ενέργειας, χρήση πόρων
  • Μποτνίκς σύστηματος αντίστοιχα με τα επίπεδα του μοντέλου
  • Προφιλλισμός για δεξιότητα αντίστοιχα με τη εκπαίδευση

Προφιλλισμός στο Huawei Ascend

  • Χρήση CANN Profiler και MindInsight
  • Διαγνώστες πυρήνων και λειτουργιών
  • Προτύπων μετάδοσης και διαχείρισης υπολογιστικής μνήμης

Προφιλλισμός στο Biren GPU

  • Χαρακτηριστικά παρακολούθησης επιδόσεων του Biren SDK
  • Συγχώνεση πυρήνων, συμβίβαση μνήμης και ουρές εκτέλεσης
  • Προφιλλισμός υπό το φως ενέργειας και θερμοκρασίας

Προφιλλισμός στο Cambricon MLU

  • Eργαλεία περιβάλλοντος επιδόσεων BANGPy και Neuware
  • Ορατότητα επιπέδου πυρήνων και ερμηνεία λογαριασμών
  • Σύνδεση MLU profiler με πλατφόρμες κατάθεσης

Οικοδόμηση και Περιβάλλοντος Μοντέλου τεκμηρίωσης

  • Στρατηγικές κατακορυφώσης γραφήματος και ποσοτικοποίησης
  • Σύγχουση λειτουργιών και αναδιάρθρωση υπολογιστικών γραφημάτων
  • Κανονικοποίηση μεγέθους εισόδου και περιβάλλοντος αποσύνδεσης

Οικοδόμηση και Πυρήνων Αξιοποίησης

  • Αξιοποίηση μεγέθους και ανακύκλωσης υπολογιστικής μνήμης
  • Η ευέλικτη διαχείριση πιάσματος μεταξύ συστημάτων υπολογιστών
  • Τεχνικές αποσύνδεσης επιπέδου πυρήνων ανά πλατφόρμα

Πρακτικές Πρώτης Σειράς Διάσημων Πλατφορμών

  • Επιδοτικότητα περιβάλλοντος: στρατηγικές αποσύνδεσης
  • Κατασκευή κοινών πυλωνίων τεύχησης για περιβάλλοντος πολλαπλών συστημάτων υπολογιστών
  • Παράδειγμα: τεύχηση μοντέλου διάκρισης αντικειμένων σε Ascend, Biren και MLU

Συμπέρασμα και Επόμενα Μέτρα

Requirements

  • Εμπειρία εργασίας με πιπέλες δημιουργίας ή εγκατάστασης AI models
  • Κατανόηση των GPU/MLU compute principles και της αποδοτικότερης διαμόρφωσης του model
  • Βασική εξέλιξη με εργαλεία και μετρήσεις παρακολούθησης απόδοσης

Ακροατής

  • Performance engineers
  • Ειδικές ομάδες infrastructure για μηχανική μάθηση
  • AI system architects
 21 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories