Ευχαριστούμε που στάλθηκε η αποσαφήνισή σας! Ένα μέλος της ομάδου μας θα επικοινωνήσει μαζί σας σύντομα.
Ευχαριστούμε για την εκδήλωση κράτησης! Ένας από τους συνεργάτες μας θα επικοινωνήσει μαζί σας σύντομα.
Εξέλιξη Κομματιού
Θεμέλια: Μοντέλα Απειλών για Τεχνητή Νοημοσύνη με Πράκτορες
- Τύποι απειλών πρακτόρων: κατάχρηση, κλιμάκωση, διαρροή δεδομένων και κίνδυνοι εφοδιαστικής αλυσίδας
- Προφίλ αντιπάλων και δυνατότητες επιτιθέμενων ειδικά για αυτόνομους πράκτορες
- Χαρτογράφηση πόρων, ορίων εμπιστοσύνης και κρίσιμων σημείων ελέγχου για πράκτορες
Διακυβέρνηση, Πολιτική και Διαχείριση Κινδύνων
- Πλαίσια διακυβέρνησης για συστήματα πρακτόρων (ρόλοι, αρμοδιότητες, πύλες έγκρισης)
- Σχεδιασμός πολιτικής: αποδεκτή χρήση, κανόνες κλιμάκωσης, χειρισμός δεδομένων και δυνατότητα ελέγχου
- Θέματα συμμόρφωσης και συλλογή τεκμηρίων για ελέγχους
Μη Ανθρώπινη Ταυτότητα & Αυθεντικοποίηση για Πράκτορες
- Σχεδιασμός ταυτοτήτων για πράκτορες: λογαριασμοί υπηρεσίας, JWT και βραχύβια διαπιστευτήρια
- Πρότυπα πρόσβασης ελάχιστων προνομίων και παροχή διαπιστευτηρίων just-in-time
- Κύκλος ζωής ταυτότητας, εναλλαγή, ανάθεση και στρατηγικές ανάκλησης
Έλεγχοι Πρόσβασης, Μυστικά και Προστασία Δεδομένων
- Μοντέλα λεπτομερούς ελέγχου πρόσβασης και πρότυπα βασισμένα σε δυνατότητες για πράκτορες
- Διαχείριση μυστικών, κρυπτογράφηση κατά τη μεταφορά και σε ηρεμία, και ελαχιστοποίηση δεδομένων
- Προστασία ευαίσθητων πηγών γνώσης και προσωπικών δεδομένων από μη εξουσιοδοτημένη πρόσβαση πρακτόρων
Παρατηρησιμότητα, Έλεγχος και Αντιμετώπιση Περιστατικών
- Σχεδιασμός τηλεμετρίας για συμπεριφορά πρακτόρων: ανίχνευση πρόθεσης, αρχεία καταγραφής εντολών και προέλευση
- Ενσωμάτωση SIEM, κατώτατα όρια ειδοποιήσεων και ετοιμότητα για εγκληματολογική ανάλυση
- Runbooks και playbooks για περιστατικά που σχετίζονται με πράκτορες και περιορισμό
Red-Teaming Συστημάτων Πρακτόρων
- Σχεδιασμός ασκήσεων red-team: πεδίο εφαρμογής, κανόνες εμπλοκής και ασφαλής εναλλακτική λειτουργία
- Τεχνικές αντιπάλου: έγχυση προτροπής, κατάχρηση εργαλείων, χειραγώγηση αλυσίδας σκέψης και κατάχρηση API
- Διεξαγωγή ελεγχόμενων επιθέσεων και μέτρηση έκθεσης και επιπτώσεων
Ενίσχυση Ασφάλειας και Μετριασμοί
- Μηχανικοί έλεγχοι: περιορισμός απόκρισης, πύλες δυνατοτήτων και sandboxing
- Έλεγχοι πολιτικής και ενορχήστρωσης: ροές έγκρισης, human-in-the-loop και άγκιστρα διακυβέρνησης
- Άμυνες σε επίπεδο μοντέλου και προτροπής: επικύρωση εισόδου, κανονικοποίηση και φίλτρα εξόδου
Λειτουργικοποίηση Ασφαλών Αναπτύξεων Πρακτόρων
- Πρότυπα ανάπτυξης: staging, canary και προοδευτική διάθεση για πράκτορες
- Έλεγχος αλλαγών, δοκιμαστικοί αγωγοί και έλεγχοι ασφάλειας πριν από την ανάπτυξη
- Διαλειτουργική διακυβέρνηση: playbooks ασφάλειας, νομικών, προϊόντος και λειτουργιών
Τελική Εργασία: Άσκηση Red-Team / Blue-Team
- Εκτέλεση προσομοιωμένης επίθεσης red-team σε περιβάλλον πράκτορα με sandbox
- Άμυνα, ανίχνευση και αποκατάσταση ως blue team χρησιμοποιώντας ελέγχους και τηλεμετρία
- Παρουσίαση ευρημάτων, σχέδιο αποκατάστασης και ενημερώσεις πολιτικής
Σύνοψη και Επόμενα Βήματα
Απαιτήσεις
- Σταθερό υπόβαθρο στη μηχανική ασφάλειας, τη διαχείριση συστημάτων ή τις λειτουργίες cloud
- Εξοικείωση με έννοιες τεχνητής νοημοσύνης/μηχανικής μάθησης και συμπεριφορά μεγάλων γλωσσικών μοντέλων (LLM)
- Εμπειρία στη διαχείριση ταυτότητας και πρόσβασης (IAM) και στον ασφαλή σχεδιασμό συστημάτων
Κοινό
- Μηχανικοί ασφάλειας και μέλη red-team
- Μηχανικοί λειτουργιών τεχνητής νοημοσύνης και πλατφόρμας
- Υπεύθυνοι συμμόρφωσης και διαχειριστές κινδύνων
- Επικεφαλής μηχανικής υπεύθυνοι για αναπτύξεις πρακτόρων
21 Ώρες
Σχόλια (1)
αποτίμηση και αναγνώριση των διαφορετικών παραγόντων κινδύνου εντός της Τεχνητής Νοημοσύνης
Gary Cook - Cybersecurity and Information Technology Risk Division
Κομμάτι - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Μηχανική Μετάφραση
