CANN SDK (Compute Architecture for Neural Networks) είναι η AI υποστήριξη υπολογιστών της Huawei που επιτρέπει στους αναπτυκτές να γίνουν βελτισμοποιήσεις και να εκτοξεύσουν τη δύναμη των εγκατεστημένων neuronικών δικτύων στους προεπεξεργασμένους αυτοματισμού AI της Ascend.
Αυτή η εκπαιδευτική είναι για εξωτικό επίπεδο αναπτυκτές AI και μηχανικοί συστημάτων που θέλουν να βελτιώσουν τη δύναμη επιστροφής χρησιμοποιώντας τη προηγμένη πληροφορία αξιοποίηση CANN, συμπεριλαμβανόμενη του Graph Engine, TIK και τη δημιουργία εγχώριων λειτουργιών.
Στο τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα μπορούν να:
- Συνιέσουν CANN's runtime αρχιτεκτονική και performance lifecycle.
- Χρησιμοποιούν προφανώς δουλείες εργαλεία και Graph Engine για ανάλυση και βελτισμό της performance.
- Δημιουργούν και βελτιώνουν εγχώριες λειτουργίες χρησιμοποιώντας TIK και TVM.
- Λύνουν memory bottlenecks και βελτιώνουν το throughput του μοντέλου.
Σχήμα Κατασκευής
- Επαγγελματικό διάλογο και συζήτηση.
- Πρακτικές πρωτοβουλίες με πραγματικό χρόνο profiling και operator tuning.
- Βελτιώσεις άσκηση χρησιμοποιώντας edge-case παράδειγμα deployment.
Προσαρμογή της εκπαίδευσης Προαιρετικά
- Για να αιτηθεί μια προσαρμοσμένη εκπαίδευση για αυτό το κουρσέ, καλέστε μας για συζήτηση.
Ακριβές βελτιώσεις πίνακα διανύσματος με CANN SDK
- Τη φυσική κατάληψη των αρχιτεκτονιών με σωστό είδους παιδικά έγκεφα και workflows training
- Εμπειρία στο deployment model χρησιμοποιώντας CANN, TensorFlow, ή PyTorch
- Συναίσθημα με Linux CLI, shell scripting, και Python πρόγραμμα
Ζητήματα Πολιτών
- Ai επίπεδο μηχανικού
- Inference βελτισμός προνομιουχοί
- Αναπτυκτές των edge Ai ή και συστημάτων ρεαλ-τайμ
Παράγγειλμα CANN βελτιώσεις Ικανότητες
- Το πώς επιχειρήσει performance inference στο CANN
- Beta και embedded Ai συστημάτων optimization στόχοι
- Συνιέσουν Ai το κύριο πρότυπα αλλαγής και memory allocation
Χρησιμοποίηση Graph Engine για ανάλυση
- Εισαγωγή στο Graph Engine και execution pipeline
- Σχεδιασμός operator graphs και runtime metrics
- Μεταρρύθμιση calculation graphs για βελτίωση της ποιότητας
Εργαλεία μετρήσεων performance και δημιουργίας εκθέσεων
- Χρησιμοποίηση CANN Profiling Tool (profiler) για analysis workload
- Ανάλυση execution χρόνο kernel και bottlenecks
- Memory access profiling και στρατηγικές tiling
Custom operator development με TIK
- Τίποτα πάνω από το TIK και model programming λειτουργία
- Implementing custom operator χρησιμοποιώντας TIK DSL
- Εξέταση και benchmarking performance operator
Advanced operator βελτίωση με TVM
- TVM εισαγωγή για το CANN ομάδας
- Auto-tuning στρατηγικές για calculation graphs
- Όταν και πώς να switch μεταξύ TVM και TIK
Συστήματος βελτίωση τεχνικές
- Διαχείριση layout memory και buffer placement
- Τεχνικές για περιορισμό consumption on-chip memory
- Άξιες τα ορισμένα πράγματα με asynchronous execution και επαναλήψη
Πρακτικές εφαρμογές και περιπτώσεις
- Περίπτωση: tuning performance για smart city camera pipeline
- Περίπτωση: βελτίωση inference αυτόνομου vehicle stack
- Εγχειρίδιο προς iterative profiling και συνεχής βελτίωση
Σύνοψη και επόμενα βήματα
Read more...