Ευχαριστούμε που στάλθηκε η αποσαφήνισή σας! Ένα μέλος της ομάδου μας θα επικοινωνήσει μαζί σας σύντομα.
Ευχαριστούμε για την εκδήλωση κράτησης! Ένας από τους συνεργάτες μας θα επικοινωνήσει μαζί σας σύντομα.
Διάρκεια 21 Ώρες
Εξέλιξη Κομματιού
Ιδρύματα: Μοντέλα Απειλών για Agentic AI
- Τύποι απειλών agentic: κακοχρήστες, κλιμάκωση, διαρροή δεδομένων και κίνδυνοι αλυσίδας εφοδιασμού
- Προφίλ εχθρών και ικανότητες επιτιδών ειδικά σχεδιασμένα για αυτόνομους agents
- Χαρτογράφηση περιουσιακών στοιχείων, ορίων εμπιστοσύνης και κρίσιμων σημείων ελέγχου για agents
Διακυβέρνηση, Πολιτική και Διαχείριση Κινδύνου
- Πλαίσια διακυβέρνησης για συστήματα agentic (ρόλοι, ευθύνες, πύλες έγκρισης)
- Σχεδιασμός πολιτικής: αποδεχτή χρήση, κανόνες κλιμάκωσης, διαχείριση δεδομένων και ελεγκτικότητα
- Θεματικά συμμόρφωσης και συλλογή αποδεικτικών στοιχείων για ελέγχους
Μη Ανθρώπινη Ταυτότητα & Επαλήθευση για Agents
- Σχεδιασμός ταυτοτήτων για agents: λογαριασμοί υπηρεσιών, JWT και σύντομης διάρκειας πιστοποιητικά
- Μοτίβα πρόσβασης λιγότερο-εξουσιοδοτημένης και πιστοποίηση just-in-time
- Κύκλος ζωής ταυτότητας, περιστροφή, εξουσιοδότηση και στρατηγικές ανάκλησης
Ελέγχος Πρόσβασης, Μυστικά και Προστασία Δεδομένων
- Λεπτομερή μοντέλα ελέγχου πρόσβασης και μοτίβα βασισμένα σε ικανότητες για agents
- Διαχείριση μυστικών, κρυπτογράφηση κατά τη μεταφορά και αποθήκευση, και ελαχιστοποίηση δεδομένων
- Προστασία ευαίστων πηγών γνώσης και PII από μη εξουσιοδοτημένη πρόσβαση agents
Παρατηρησιμότητα, Ελεγκτικότητα και Αντιδράσεις σε Σεισμικά Περιστατικά
- Σχεδιασμός telemetrias για συμπεριφορά agents: ιχνηλάτηση προθέσεων, αρχεία εντολών και προέλευση
- Ενσωμάτωση SIEM, όρια προειδοποιήσεων και έτοιμη forensic
- Runbooks και playbooks για περιστατικά που αφορούν agents και περιορισμό
Red-Teaming Agentic Systems
- Σχεδιασμός ασκήσεων red-team: πεδίο, κανόνες συμμετοχής και ασφαλής αποτυχία
- Εχθρικές τεχνικές: έγχυση προτροπών, κακοχρήστες εργαλείων, χειραγώγηση αλυσίδας σκέψεων και κακοχρήστες API
- Διαδικασία ελεγχόμενων επιθέσεων και μέτρηση έκθεσης και επιπτώσεων
Σκλήρυνση και Μέτρα Μείωσης
- Μηχανικοί έλεγχοι: πνικτρώματα αποκρίσεων, gating ικανοτήτων και sandboxing
- Έλεγχοι πολιτικής και οργάνωσης: ροές έγκρισης, ανθρώπου στο βρόχο, και hooks διακυβέρνησης
- Αμυντικά μέτρα επιπέδου μοντέλου και προτροπής: έλεγχος είσοδου, κανονικοποίηση και φίλτρα εξόδου
Λειτουργικοποίηση Ασφαλών Εμπορικών Υποδομών Agents
- Μοτίβα εμπορικής υποδομής: staging, canary και προοδευτική εμπορική υποδομή για agents
- Έλεγχος αλλαγών, γραμμές παραγωγής δοκιμών και προ-εμπορικής υποδομής έλεγχοι ασφαλείας
- Παραδοσιακή διακυβέρνηση: playbooks ασφαλείας, νομικής, προϊόντος και ops
Capstone: Άσκηση Red-Team / Blue-Team
- Εκτέλεση προσομοιωμένης επιθέσης red-team σε περιβάλλον sandbox agent
- Αμυνα, ανίχνευση και διόρθωση ως blue team χρησιμοποιώντας ελέγχους και telemetrias
- Παρουσίαση ευρημάτων, σχεδίου διόρθωσης και ενημερώσεων πολιτικής
Συνοπτική και Επόμενα Βήματα
Απαιτήσεις
- Στερεά υπόβαθρο σε ασφάλεια μηχανικών, διαχείριση συστημάτων ή cloud operations
- Οικειότητα με έννοιες AI/ML και συμπεριφορά μεγάλων γλωσσικών μοντέλων (LLM)
- Εμπειρία σε διαχείριση ταυτοτήτων και πρόσβασης (IAM) και ασφαλή σχεδιασμό συστημάτων
Στόχος Κοινό
- Μηχανικοί ασφαλείας και red-teamers
- Μηχανικοί AI operations και πλατφόρμας
- Επίβουλοι συμμόρφωσης και διαχειριστές κινδύνου
- Αρχηγοί μηχανικών υπεύθυνοι για εμπορικές υποδομές agents
Σχόλια (1)
αποτίμηση και αναγνώριση των διαφορετικών παραγόντων κινδύνου εντός της Τεχνητής Νοημοσύνης
Gary Cook - Cybersecurity and Information Technology Risk Division
Κομμάτι - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Μηχανική Μετάφραση