Course Outline
Μέρος 1 – Deep Learning και Έννοιες DNN
Εισαγωγή AI, Machine Learning & Deep Learning
Ιστορία, βασικές έννοιες και συνήθεις εφαρμογές της τεχνητής νοημοσύνης μακριά από τις φαντασιώσεις που φέρει αυτός ο τομέας
Συλλογική νοημοσύνη: συγκέντρωση γνώσης που μοιράζονται πολλοί εικονικοί πράκτορες
Γενετικοί αλγόριθμοι: για την εξέλιξη ενός πληθυσμού εικονικών πρακτόρων με επιλογή
Συνήθης Μηχανή Εκμάθησης: Ορισμός.
Τύποι εργασιών: μάθηση με επίβλεψη, μάθηση χωρίς επίβλεψη, ενισχυτική μάθηση
Τύποι ενεργειών: ταξινόμηση, παλινδρόμηση, ομαδοποίηση, εκτίμηση πυκνότητας, μείωση διαστάσεων
Παραδείγματα αλγορίθμων Machine Learning: Γραμμική παλινδρόμηση, Naive Bayes, Random Tree
Μηχανική μάθηση VS Deep Learning: προβλήματα στα οποία το Machine Learning παραμένει σήμερα η τελευταία λέξη της τεχνολογίας (Random Forests & XGBoosts)
Βασικές έννοιες ενός νευρωνικού δικτύου (Εφαρμογή: πολυστρωματικό perceptron)
Υπενθύμιση μαθηματικών βάσεων.
Ορισμός δικτύου νευρώνων: κλασική αρχιτεκτονική, ενεργοποίηση και
Στάθμιση προηγούμενων ενεργοποιήσεων, βάθος δικτύου
Ορισμός της εκμάθησης ενός δικτύου νευρώνων: συναρτήσεις κόστους, αντίστροφη διάδοση, στοχαστική κλίση κάθοδος, μέγιστη πιθανότητα.
Μοντελοποίηση νευρωνικού δικτύου: μοντελοποίηση δεδομένων εισόδου και εξόδου σύμφωνα με τον τύπο του προβλήματος (παλίνδρομο, ταξινόμηση ...). Κατάρα της διάστασης.
Διάκριση μεταξύ δεδομένων πολλαπλών δυνατοτήτων και σήματος. Επιλογή συνάρτησης κόστους σύμφωνα με τα δεδομένα.
Προσέγγιση μιας συνάρτησης από ένα δίκτυο νευρώνων: παρουσίαση και παραδείγματα
Προσέγγιση κατανομής από δίκτυο νευρώνων: παρουσίαση και παραδείγματα
Επαύξηση δεδομένων: πώς να εξισορροπήσετε ένα σύνολο δεδομένων
Γενίκευση των αποτελεσμάτων ενός δικτύου νευρώνων.
Αρχικοποίηση και τακτοποίηση ενός νευρωνικού δικτύου: Κανονισμός L1 / L2, Κανονοποίηση παρτίδας
Αλγόριθμοι βελτιστοποίησης και σύγκλισης
Τυπικά εργαλεία ML / DL
Προγραμματίζεται μια απλή παρουσίαση με πλεονεκτήματα, μειονεκτήματα, θέση στο οικοσύστημα και χρήση.
Εργαλεία διαχείρισης δεδομένων: Apache Spark, Apache Hadoop Εργαλεία
Machine Learning: Numpy, Scipy, Sci-kit
Πλαίσια υψηλού επιπέδου DL: PyTorch, Keras, Lasagne
Πλαίσια χαμηλού επιπέδου DL: Theano, Torch, Caffe, Tensorflow
Convolutional Neural Networks (CNN).
Παρουσίαση των CNN: θεμελιώδεις αρχές και εφαρμογές
Βασική λειτουργία ενός CNN: συνελικτικό επίπεδο, χρήση πυρήνα,
Επένδυση και βηματισμός, δημιουργία χαρτών χαρακτηριστικών, στρώσεις συγκέντρωσης. Επεκτάσεις 1D, 2D και 3D.
Παρουσίαση των διαφορετικών αρχιτεκτονικών του CNN που έφεραν την τελευταία λέξη της τεχνολογίας στην ταξινόμηση
Εικόνες: LeNet, VGG Networks, Network in Network, Inception, Resnet. Παρουσίαση των Καινοτομιών που επιφέρει η κάθε αρχιτεκτονική και οι πιο παγκόσμιες εφαρμογές της (Convolution 1x1 ή υπολειπόμενες συνδέσεις)
Χρήση μοντέλου προσοχής.
Εφαρμογή σε μια κοινή περίπτωση ταξινόμησης (κείμενο ή εικόνα)
CNN για παραγωγή: υπερ-ανάλυση, τμηματοποίηση pixel-to-pixel. Παρουσίαση του
Κύριες στρατηγικές για την αύξηση των χαρτών χαρακτηριστικών για τη δημιουργία εικόνων.
Επαναλαμβανόμενο Neural Networks (RNN).
Παρουσίαση RNN: θεμελιώδεις αρχές και εφαρμογές.
Βασική λειτουργία του RNN: κρυφή ενεργοποίηση, πίσω διάδοση στο χρόνο, Unfolded έκδοση.
Εξελίξεις προς τις Gated Recurrent Units (GRUs) και LSTM (Long Short Term Memory).
Παρουσίαση των διαφορετικών καταστάσεων και των εξελίξεων που φέρνουν αυτές οι αρχιτεκτονικές
Προβλήματα σύγκλισης και εξαφάνισης κλίσης
Κλασικές αρχιτεκτονικές: Πρόβλεψη χρονικής σειράς, ταξινόμηση ...
RNN Encoder Αρχιτεκτονική τύπου αποκωδικοποιητή. Χρήση μοντέλου προσοχής.
Εφαρμογές NLP: κωδικοποίηση λέξεων / χαρακτήρων, μετάφραση.
Εφαρμογές βίντεο: πρόβλεψη της επόμενης παραγόμενης εικόνας μιας ακολουθίας βίντεο.
Μοντέλα γενιάς: Variational AutoEncoder (VAE) και Generative Adversarial Networks (GAN).
Παρουσίαση των μοντέλων γενιάς, σύνδεση με τα CNN
Αυτόματος κωδικοποιητής: μείωση διαστάσεων και περιορισμένη παραγωγή
Variational Auto-encoder: μοντέλο γενιάς και προσέγγιση της κατανομής ενός δεδομένου. Ορισμός και χρήση του λανθάνοντος χώρου. Τρικ επαναπαραμετροποίησης. Εφαρμογές και Όρια που τηρήθηκαν
Generative Adversarial Networks: Fundamentals.
Αρχιτεκτονική Διπλού Δικτύου (Γεννήτρια και Διακριτικός) με εναλλακτική εκμάθηση, διαθέσιμες λειτουργίες κόστους.
Σύγκλιση ενός GAN και δυσκολίες που συναντήθηκαν.
Βελτιωμένη σύγκλιση: Wasserstein GAN, Began. Απόσταση κινούμενης γης.
Εφαρμογές για τη δημιουργία εικόνων ή φωτογραφιών, δημιουργία κειμένου, υπερ-ανάλυση.
Βαθύ Reinforcement Learning.
Παρουσίαση ενισχυτικής μάθησης: έλεγχος παράγοντα σε καθορισμένο περιβάλλον
Από κράτος και πιθανές ενέργειες
Χρήση νευρωνικού δικτύου για την προσέγγιση της συνάρτησης κατάστασης
Deep Q Learning: εμπειρία επανάληψης και εφαρμογή στον έλεγχο ενός βιντεοπαιχνιδιού.
Βελτιστοποίηση της μαθησιακής πολιτικής. Εντός πολιτικής && εκτός πολιτικής. Ηθοποιός κριτικός αρχιτεκτονική. A3C.
Εφαρμογές: έλεγχος ενός μόνο βιντεοπαιχνιδιού ή ψηφιακού συστήματος.
Μέρος 2 – Θεανώ για το Deep Learning
Θεανώ Βασικά
Εισαγωγή
Εγκατάσταση και Διαμόρφωση
Λειτουργίες Theano
εισροές, εξόδους, ενημερώσεις, δεδομένα
Εκπαίδευση και Βελτιστοποίηση νευρωνικού δικτύου με χρήση της Θεανώ
Μοντελοποίηση νευρωνικών δικτύων
Logistic Regression
Κρυφά Επίπεδα
Εκπαίδευση δικτύου
Υπολογισμός και Ταξινόμηση
Βελτιστοποίηση
Απώλεια ημερολογίου
Δοκιμή του μοντέλου
Μέρος 3 – DNN με χρήση Tensorflow
TensorFlow Βασικά
Μεταβλητές Δημιουργία, Εκκίνηση, Αποθήκευση και Επαναφορά TensorFlow
Feeding, Reading and Preloading TensorFlow Δεδομένα
Πώς να χρησιμοποιήσετε την υποδομή TensorFlow για την εκπαίδευση μοντέλων σε κλίμακα
Οπτικοποίηση και αξιολόγηση μοντέλων με το TensorBoard
TensorFlow Μηχανική
Προετοιμάστε τα Δεδομένα
Λήψη
Εισροές και Placeholders
Δημιουργήστε το GraphS
Συμπέρασμα
Απώλεια
Εκπαίδευση
Εκπαιδεύστε το μοντέλο
Το γράφημα
Η Συνεδρία
Βρόχος τρένου
Αξιολογήστε το μοντέλο
Δημιουργήστε το Eval Graph
Eval Output
Το Perceptron
Λειτουργίες ενεργοποίησης
Ο αλγόριθμος εκμάθησης perceptron
Δυαδική ταξινόμηση με το perceptron
Ταξινόμηση εγγράφων με το perceptron
Περιορισμοί του perceptron
Από το Perceptron στις Μηχανές Υποστήριξης Διανυσμάτων
Οι πυρήνες και το κόλπο του πυρήνα
Μέγιστη ταξινόμηση περιθωρίου και διανύσματα υποστήριξης
Τεχνητό Neural Networks
Μη γραμμικά όρια απόφασης
Τεχνητά νευρωνικά δίκτυα ανάδρασης και ανάδρασης
Πολυστρωματικά perceptrons
Ελαχιστοποίηση της συνάρτησης κόστους
Διάδοση προς τα εμπρός
Πίσω διάδοση
Βελτίωση του τρόπου με τον οποίο μαθαίνουν τα νευρωνικά δίκτυα
Συνελικτικό Neural Networks
Goals
Αρχιτεκτονική Μοντέλων
Αρχές
Οργάνωση κώδικα
Εκκίνηση και εκπαίδευση του μοντέλου
Αξιολόγηση ενός μοντέλου
Βασικές εισαγωγές που πρέπει να δοθούν στις παρακάτω ενότητες (Σύντομη εισαγωγή θα παρέχεται με βάση τη διαθεσιμότητα χρόνου):
Tensorflow - Προηγμένη χρήση
Threading και ουρές
Διανεμήθηκε TensorFlow
Γράψιμο Documentation και κοινή χρήση του μοντέλου σας
Προσαρμογή προγραμμάτων ανάγνωσης δεδομένων
Χειρισμός TensorFlow Μοντέλων Αρχείων
TensorFlow Σερβίρισμα
Εισαγωγή
Βασικό σεμινάριο εξυπηρέτησης
Οδηγός προηγμένης εξυπηρέτησης
Οδηγός Serving Inception Model
Requirements
Υπόβαθρο στη φυσική, τα μαθηματικά και τον προγραμματισμό. Συμμετοχή σε δραστηριότητες επεξεργασίας εικόνας.
Οι εκπρόσωποι θα πρέπει να έχουν προηγούμενη κατανόηση των εννοιών της μηχανικής μάθησης και θα πρέπει να έχουν εργαστεί στον προγραμματισμό και τις βιβλιοθήκες Python.
Testimonials (5)
Ο Χάντερ είναι υπέροχος, πολύ συναρπαστικός, εξαιρετικά γνώστης και ευγενικός. Πολύ μπράβο.
Rick Johnson - Laramie County Community College
Course - Artificial Intelligence (AI) Overview
Machine Translated
The trainer explained the content well and was engaging throughout. He stopped to ask questions and let us come to our own solutions in some practical sessions. He also tailored the course well for our needs.
Robert Baker
Course - Deep Learning with TensorFlow 2.0
Tomasz really know the information well and the course was well paced.
Raju Krishnamurthy - Google
Course - TensorFlow Extended (TFX)
Organization, adhering to the proposed agenda, the trainer's vast knowledge in this subject
Ali Kattan - TWPI
Course - Natural Language Processing with TensorFlow
Very updated approach or CPI (tensor flow, era, learn) to do machine learning.