Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Εισαγωγή στην Ανάπτυξη Προσαρμοσμένων Τελεστών

  • Γιατί να δημιουργήσετε προσαρμοσμένους τελεστές; Περιπτώσεις χρήσης και περιορισμοί
  • Δομή του χρόνου εκτέλεσης CANN και σημεία ενσωμάτωσης τελεστών
  • Επισκόπηση των TBE, TIK και TVM στο οικοσύστημα AI της Huawei

Χρήση του TIK για Προγραμματισμό Τελεστών Χαμηλού Επιπέδου

  • Κατανόηση του μοντέλου προγραμματισμού TIK και των υποστηριζόμενων API
  • Διαχείριση μνήμης και στρατηγική κατάτμησης (tiling) στο TIK
  • Δημιουργία, μεταγλώττιση και καταχώριση ενός προσαρμοσμένου τελεστή στο CANN

Δοκιμή και Επικύρωση Προσαρμοσμένων Τελεστών

  • Δοκιμές μονάδας και δοκιμές ενσωμάτωσης των τελεστών στο γράφο
  • Εντοπισμός σφαλμάτων σε προβλήματα απόδοσης σε επίπεδο πυρήνα
  • Οπτικοποίηση εκτέλεσης τελεστών και συμπεριφοράς ενδιάμεσων δεδομένων (buffer)

Χρονοπρογραμματισμός και Βελτιστοποίηση βάσει TVM

  • Επισκόπηση του TVM ως μεταγλωττιστή για πράξεις πινάκων (tensor ops)
  • Συγγραφή ενός χρονοπρογράμματος (schedule) για έναν προσαρμοσμένο τελεστή στο TVM
  • Ρύθμιση, αξιολόγηση επιδόσεων και παραγωγή κώδικα με το TVM για Ascend

Ενσωμάτωση με Πλαίσια και Μοντέλα

  • Καταχώριση προσαρμοσμένων τελεστών για MindSpore και ONNX
  • Επαλήθευση της ακεραιότητας του μοντέλου και της συμπεριφοράς υποβάθμισης (fallback)
  • Υποστήριξη γράφων πολλαπλών τελεστών με μικτή ακρίβεια

Μελέτες Περιπτώσεων και Εξειδικευμένες Βελτιστοποιήσεις

  • Μελέτη περίπτωσης: συνέλιξη υψηλής αποδοτικότητας για μικρά σχήματα εισόδου
  • Μελέτη περίπτωσης: βελτιστοποίηση τελεστή προσοχής με επίγνωση μνήμης
  • Βέλτιστες πρακτικές για την ανάπτυξη προσαρμοσμένων τελεστών σε διάφορες συσκευές

Σύνοψη και Επόμενα Βήματα

Απαιτήσεις

  • Ισχυρή γνώση των εσωτερικών μηχανισμών των μοντέλων AI και των υπολογισμών σε επίπεδο τελεστών
  • Εμπειρία σε Python και περιβάλλοντα ανάπτυξης Linux
  • Εξοικείωση με μεταγλωττιστές νευρωνικών δικτύων ή βελτιστοποιητές σε επίπεδο γράφου

Κοινό

  • Μηχανικοί μεταγλωττιστών που εργάζονται σε αλυσίδες εργαλείων AI
  • Προγραμματιστές συστημάτων που επικεντρώνονται στη βελτιστοποίηση AI χαμηλού επιπέδου
  • Προγραμματιστές που δημιουργούν προσαρμοσμένους τελεστές ή στοχεύουν νέες εργασίες AI
 14 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Εφεξής Μαθήματα

Σχετικές Κατηγορίες