Εξέλιξη Κομματιού
Εισαγωγή στο Edge AI και τα Ενσωμένα Συστήματα
- Τι είναι το Edge AI; Περιπτώσεις χρήσης και περιορισμοί.
- Πλατφόρμες εκτύπωσης edge και λογισμικά συνόλια.
- Κατασκευαστικές προκλήσεις ασφάλειας σε ενσωμένα και διακεντρωμένα περιβάλλοντα.
Το πλάγιο απειλών για το Edge AI
- Φυσική πρόσβαση και κινδύνοι επέμβασης.
- Προσαρμοστικές περιπτώσεις απειλής και μεταχείριση των μοντέλων.
- Απώλεια δεδομένων και απειλές ανάγνωσης των μοντέλων.
Προστασία του Μοντέλου
- Ενδυνάμωση μοντέλων και στρατηγικές παρεξάρθρωσης.
- Χάραξη υδρόχαρμα και αποφυγή των μοντέλων.
- Αμυντική παρεξάρθρωση και εκκόπωση.
Κρυπτογράφηση Εκτύπωσης και Ασφαλής Εκτέλεση
- Εμπιστευόμενα περιβάλλοντα εκτύπωσης (TEEs) για AI.
- Ασφαλείς κλειδωμένα χώρια και πολυπλόκωμη εκτύπωση.
- Κρυπτογράφηση εκτύπωσης χρησιμοποιώντας αναδρομική κρυπτογράφηση ή SMPC.
Ανίχνευση Επέμβασης και Έλεγχοι επίπεδου Συσκευής
- Ασφαλής έναρξη και ελέγχοι ακεραιότητας firmware.
- Επιβεβαίωση αισθητήρων και ανίχνευση παρανορμών.
- Ακριβής επαλήθευση και επιβολή υγιείας συσκευής.
Ολοκλήρωμα από το Edge στην Σύνδεση με το Cloud
- Ασφαλής μετάδοση δεδομένων και επιχείρημα κλειδών.
- Κρυπτογράφηση πλήρους μεγέθους και πρόβλεψη κύκλου ζωής δεδομένων.
- Διαχείριση AI cloud με επιβολή ασφάλειας edge.
Καλύτερες πρακτικές και Στρατηγική μείωσης κινδύνων
- Μοντέλο απειλών για συστήματα edge AI.
- Αρχές σχεδίασης ασφάλειας για ενσωμένη τεχνητή νοημοσύνη.
- Απάντηση σε περιστάσεις και διαχείριση ενημέρωσης firmware.
Σύνοψη και Επόμενα Βήματα
Απαιτήσεις
- Κατανόηση των ενσωμένων συστημάτων ή περιβάλλοντα υποχώρες AI.
- Εμπειρία με τη Python και τους πλατφόρμες ML (για παράδειγμα, TensorFlow Lite, PyTorch Mobile).
- Βασική γνώση της κυβερνοασφάλειας ή των μοντέλων απειλών IoT.
Ακροατήριο
- Ενσωμένοι επιστήμονες του AI.
- Ειδικοί ασφάλειας IoT.
- Μηχανικοί που εγκαθιστούν μοντέλα ML σε υποχώρες ή περιορισμένα συστήματα.
Σχόλια (2)
Απολάμβανα πραγματικά τη μάθηση για τις επιθέσεις με AI και τα εργαλεία που υπάρχουν για να ξεκινήσω να ασχολούμαι και να χρησιμοποιώ ενεργά σε δοκιμές ασφαλείας. Κέρδισα πολλές γνώσεις που δεν είχα στην αρχή, και το μάθημα εκπλήρωσε τις προσδοκίες μου. Το αγαπημένο μου μέρος από την εκπαίδευση ήταν ο Comet Browser, και ξαφνιάστηκα από τις δυνατότητές του. Σίγουρα θα το διερευνήσω περισσότερο. Συνολικά ήταν ένα εξαιρετικό μάθημα και απολάμβανα τη μάθηση όλων των OWASP GenAI Top 10.
Patrick Collins - Optum
Κομμάτι - OWASP GenAI Security
Μηχανική Μετάφραση
Η επαγγελματική γνώση και ο τρόπος με τον οποίο την παρουσίασε απέναντι σε μας
Miroslav Nachev - PUBLIC COURSE
Κομμάτι - Cybersecurity in AI Systems
Μηχανική Μετάφραση
