Ευχαριστούμε που στάλθηκε η αποσαφήνισή σας! Ένα μέλος της ομάδου μας θα επικοινωνήσει μαζί σας σύντομα.
Ευχαριστούμε για την εκδήλωση κράτησης! Ένας από τους συνεργάτες μας θα επικοινωνήσει μαζί σας σύντομα.
Εξέλιξη Κομματιού
Εισαγωγή στην Ανάπτυξη Προσαρμοσμένων Τελεστών
- Γιατί να δημιουργήσετε προσαρμοσμένους τελεστές; Περιπτώσεις χρήσης και περιορισμοί
- Δομή του χρόνου εκτέλεσης CANN και σημεία ενσωμάτωσης τελεστών
- Επισκόπηση των TBE, TIK και TVM στο οικοσύστημα AI της Huawei
Χρήση του TIK για Προγραμματισμό Τελεστών Χαμηλού Επιπέδου
- Κατανόηση του μοντέλου προγραμματισμού TIK και των υποστηριζόμενων API
- Διαχείριση μνήμης και στρατηγική κατάτμησης (tiling) στο TIK
- Δημιουργία, μεταγλώττιση και καταχώριση ενός προσαρμοσμένου τελεστή στο CANN
Δοκιμή και Επικύρωση Προσαρμοσμένων Τελεστών
- Δοκιμές μονάδας και δοκιμές ενσωμάτωσης των τελεστών στο γράφο
- Εντοπισμός σφαλμάτων σε προβλήματα απόδοσης σε επίπεδο πυρήνα
- Οπτικοποίηση εκτέλεσης τελεστών και συμπεριφοράς ενδιάμεσων δεδομένων (buffer)
Χρονοπρογραμματισμός και Βελτιστοποίηση βάσει TVM
- Επισκόπηση του TVM ως μεταγλωττιστή για πράξεις πινάκων (tensor ops)
- Συγγραφή ενός χρονοπρογράμματος (schedule) για έναν προσαρμοσμένο τελεστή στο TVM
- Ρύθμιση, αξιολόγηση επιδόσεων και παραγωγή κώδικα με το TVM για Ascend
Ενσωμάτωση με Πλαίσια και Μοντέλα
- Καταχώριση προσαρμοσμένων τελεστών για MindSpore και ONNX
- Επαλήθευση της ακεραιότητας του μοντέλου και της συμπεριφοράς υποβάθμισης (fallback)
- Υποστήριξη γράφων πολλαπλών τελεστών με μικτή ακρίβεια
Μελέτες Περιπτώσεων και Εξειδικευμένες Βελτιστοποιήσεις
- Μελέτη περίπτωσης: συνέλιξη υψηλής αποδοτικότητας για μικρά σχήματα εισόδου
- Μελέτη περίπτωσης: βελτιστοποίηση τελεστή προσοχής με επίγνωση μνήμης
- Βέλτιστες πρακτικές για την ανάπτυξη προσαρμοσμένων τελεστών σε διάφορες συσκευές
Σύνοψη και Επόμενα Βήματα
Απαιτήσεις
- Ισχυρή γνώση των εσωτερικών μηχανισμών των μοντέλων AI και των υπολογισμών σε επίπεδο τελεστών
- Εμπειρία σε Python και περιβάλλοντα ανάπτυξης Linux
- Εξοικείωση με μεταγλωττιστές νευρωνικών δικτύων ή βελτιστοποιητές σε επίπεδο γράφου
Κοινό
- Μηχανικοί μεταγλωττιστών που εργάζονται σε αλυσίδες εργαλείων AI
- Προγραμματιστές συστημάτων που επικεντρώνονται στη βελτιστοποίηση AI χαμηλού επιπέδου
- Προγραμματιστές που δημιουργούν προσαρμοσμένους τελεστές ή στοχεύουν νέες εργασίες AI
14 Ώρες