Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Course Outline
Εισαγωγή στην Δημιουργία Προσαρμοσμένων Τεχνητών Νοημοσύνης Τελεστών
- Γιατί να δημιουργήσουμε προσαρμοσμένα τελεστά; Περιπτώσεις χρήσης και περιορισμοί
- CANN δομή runtime και σημεία ενότητας τελεστών
- Περιγραφή του TBE, TIK και TVM στο Huawei AI οικοσύστημα
Χρήση του TIK για χαμηλό επίπεδο τελέστη Programming
- Συνειδητοποίηση του προγραμματισμού TIK και υποστηριζόμενων APIs
- Διαχείριση μνήμης και στρατηγική τρυπάνου στο TIK
- Δημιουργία, εγκατάσταση και εγγραφή προσαρμοσμένου τελεστή με CANN
Ελέγχος και Διορθωτικός Στόχος για Προσαρμοσμένα Τελέστη
- Τεστ-πίνακα και ενοποίηση τεστ-πίνακα που υπάρχουν στο γράφημα
- Αποψήφιση προβλημάτων επιπέδου τύπου kernel
- Δυσκανόνισμα διεξοδίου τελέστη και συμπεριφορά buffer
Ελεγχόμενη αποσύνθεση και βελτίωση με TVM
- Περιγραφή του TVM ως συνδυαστικός για τενσορικά τελέστη
- Σύνθεση προγράμματος για προσαρμοσμένο τελέστη στο TVM
- Επεξεργασία, benchmarking και αναδημιουργία κώδικα για Ascend με TVM
Ενοποίηση με Πλατφόρμες και Μοντέλα
- Εγγραφή προσαρμοσμένων τελέστων για MindSpore και ONNX
- Έλεγχος ακρίβειας μοντέλου και συμπεριφορά fallback
- Υποστήριξη γραφημάτων πολλαπλών τελέστων με μίγμα ακρίβειας
Συμπεριφωνήματα και Ειδικοποιημένες Βελτιώσεις
- Περίπτωση μελετητή: υψηλή απόδοση συνδυασμού για μικρές εισαγωγικές φάσες
- Περίπτωση μελετητή: βελτίωση τελέστη attention που κοιμάται στη μνήμη
- Καλύτερες πρακτικές για εγκατάσταση προσαρμοσμένων τελέστων σε διάφορα συστήματα
Σύνοψη και Επόμενα Βήματα
Requirements
- Ικανότητα γνώσεων στους εσωτερικούς μηχανισμούς των AI προγραμμάτων και την λεπτομερή υπολογιστική επίπεδο
- Εμπειρία με τους αναπτυξιακούς περιβάλων Python και Linux
- Γνώση νευρωνικών διερμηνευτών ή υπολογιστικών τεχνητής νοημοσύνης
Περιβάλλον
- Πρόγραμματα μεταφραστών που εργάζονται σε AI εργαλεία
- Επικεντρωμένοι αναπτυξιώτες συστημάτων για χαμηλό επίπεδο AI βελτιστοποίηση
- Αναπτύκτες που κατασκευάζουν δικές τους λειτουργίες ή στοχεύουν σε νέες AI εργαλειώματα
14 Hours