Course Outline

Εισαγωγή στην Δημιουργία Προσαρμοσμένων Τεχνητών Νοημοσύνης Τελεστών

  • Γιατί να δημιουργήσουμε προσαρμοσμένα τελεστά; Περιπτώσεις χρήσης και περιορισμοί
  • CANN δομή runtime και σημεία ενότητας τελεστών
  • Περιγραφή του TBE, TIK και TVM στο Huawei AI οικοσύστημα

Χρήση του TIK για χαμηλό επίπεδο τελέστη Programming

  • Συνειδητοποίηση του προγραμματισμού TIK και υποστηριζόμενων APIs
  • Διαχείριση μνήμης και στρατηγική τρυπάνου στο TIK
  • Δημιουργία, εγκατάσταση και εγγραφή προσαρμοσμένου τελεστή με CANN

Ελέγχος και Διορθωτικός Στόχος για Προσαρμοσμένα Τελέστη

  • Τεστ-πίνακα και ενοποίηση τεστ-πίνακα που υπάρχουν στο γράφημα
  • Αποψήφιση προβλημάτων επιπέδου τύπου kernel
  • Δυσκανόνισμα διεξοδίου τελέστη και συμπεριφορά buffer

Ελεγχόμενη αποσύνθεση και βελτίωση με TVM

  • Περιγραφή του TVM ως συνδυαστικός για τενσορικά τελέστη
  • Σύνθεση προγράμματος για προσαρμοσμένο τελέστη στο TVM
  • Επεξεργασία, benchmarking και αναδημιουργία κώδικα για Ascend με TVM

Ενοποίηση με Πλατφόρμες και Μοντέλα

  • Εγγραφή προσαρμοσμένων τελέστων για MindSpore και ONNX
  • Έλεγχος ακρίβειας μοντέλου και συμπεριφορά fallback
  • Υποστήριξη γραφημάτων πολλαπλών τελέστων με μίγμα ακρίβειας

Συμπεριφωνήματα και Ειδικοποιημένες Βελτιώσεις

  • Περίπτωση μελετητή: υψηλή απόδοση συνδυασμού για μικρές εισαγωγικές φάσες
  • Περίπτωση μελετητή: βελτίωση τελέστη attention που κοιμάται στη μνήμη
  • Καλύτερες πρακτικές για εγκατάσταση προσαρμοσμένων τελέστων σε διάφορα συστήματα

Σύνοψη και Επόμενα Βήματα

Requirements

  • Ικανότητα γνώσεων στους εσωτερικούς μηχανισμούς των AI προγραμμάτων και την λεπτομερή υπολογιστική επίπεδο
  • Εμπειρία με τους αναπτυξιακούς περιβάλων Python και Linux
  • Γνώση νευρωνικών διερμηνευτών ή υπολογιστικών τεχνητής νοημοσύνης

Περιβάλλον

  • Πρόγραμματα μεταφραστών που εργάζονται σε AI εργαλεία
  • Επικεντρωμένοι αναπτυξιώτες συστημάτων για χαμηλό επίπεδο AI βελτιστοποίηση
  • Αναπτύκτες που κατασκευάζουν δικές τους λειτουργίες ή στοχεύουν σε νέες AI εργαλειώματα
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories