Επικοινωνήστε μαζί μας

Εξέλιξη Κομματιού

Ημέρα 1
Ανατομία ενός Σύγχρονου Πράκτορα AI

Πέραν των chatbot, οι πράκτορες ως συστήματα αυτονομής σκέψης και δράσης

Παράδειγμα πρακτόρων: αντιδραστικοί, προδραστικοί, υβριδικοί και με στόχο την επίτευξη σκοπού

Βασικά συστατικά: αντίληψη, σχεδιασμός, μνήμη, χρήση εργαλείων, δράση

Συγκριτική ανάλυση σχεδιασμού με έναν πράκτορα έναντι πολλών

Πλατφόρμες Πρακτόρων και το Σύγχρονο Στοίβα

LangChain, LlamaIndex, AutoGen, CrewAI και τα πλεονεκτήματα/μειονεκτήματά τους

Σύγκριση με κλασικές πλατφόρμες όπως JADE και SPADE

Επιλογή πλατφόρμας βάσει των απαιτήσεων παραγωγής

Κλήση εργαλείων, κλήση συναρτήσεων και δομημένες έξοδοι

Χειροκίνητη εφαρμογή: δημιουργία ενός μοναδικού πράκτορα Python με κλήσεις εργαλείων

Αρχιτεκτονικές Πολυπρακτορικών Συστημάτων

Κεντρικοποιημένοι, αποκεντρωμένοι, υβριδικοί και διαδοχικοί σχεδιασμοί MAS

FIPA ACL, περάσματα μηνυμάτων και σύγχρονες ισοδύναμες λύσεις

Πατάδες συντονισμού: σχεδιασμός, διαπραγμάτευση, συγχρονισμός

Εκφυλισμένες συμπεριφορές και αυτοοργάνωση σε πληθυσμούς πρακτόρων

Λήψη Αποφάσεων και Μάθηση στους Πράκτορες

Θεωρία παιγνίων για συνεργατικές και ανταγωνιστικές αλληλεπιδράσεις πρακτόρων

Ενισχυτική μάθηση σε πολυπρακτορικά περιβάλλοντα

Μεταφορά μάθησης και κοινή γνώση μεταξύ πρακτόρων

Επίλυση συγκρούσεων και εμπιστοσύνη μεταξύ συντονιζόμενων πρακτόρων

Ημέρα 2
Πολυτροπικές Βάσεις για Πράκτορες

Πολυτροπική AI ως ενοποιημένη διαδικασία που καλύπτει κείμενο, εικόνα, ομιλία και βίντεο

Προηγμένα πολυτροπικά μοντέλα: GPT-4 Vision, Gemini, Claude, Whisper

Τεχνικές ενσωμάτωσης για τη σύνθεση μορφών μέσα στον βρόχο σκέψης ενός πράκτορα

Εμπορευματικές, κόστος και ακρίβεια ισορροπίες σε πολυτροπικά pipelines

Κατασκευή της Στρώσης Αντίληψης

Επεξεργασία εικόνας για πράκτορες: ταξινόμηση, υποτιτλισμός, ανίχνευση αντικειμένων

Αναγνώριση ομιλίας με Whisper ASR και streaming μετάφραση

Σύνθεση κειμένου σε ομιλία και φυσική ανθρώπινη αλληλεπίδραση

Σύνδεση των εξόδων αντίληψης με τη σκέψη και την επιλογή εργαλείων που βασίζεται σε LLM

Χειροκίνητη Εφαρμογή - Κατασκευή Ένας Πολυτροπικού Πράκτορα σε Python

Ορισμός του καθήκοντος του πράκτορα, του παράθυρου πλαισίου και του καταλόγου εργαλείων

Σύνδεση end-to-end των APIs GPT-4 Vision και Whisper

Εφαρμογή μνήμης, κατάστασης και διαχείρισης συνομιλίας

Προσθήκη κλήσεων εργαλείων που προκαλούν ασφαλείς πραγματικές παρενέργειες

Χειροκίνητη Εφαρμογή - Συντονισμός Ένα Πολυπρακτορικό Σύστημα

Σύνθεση εξειδικευμένων πρακτόρων με AutoGen ή CrewAI

Ορισμός ρόλων, ευθυνών και πρωτοκόλλων επικοινωνίας μεταξύ πρακτόρων

Διαχείριση πόρων και συντονισμός σε ένα προσομοιωμένο περιβάλλον

Καταγραφή της σκέψης των πρακτόρων, των κλήσεων εργαλείων και των αποφάσεων για έλεγχο και audit

Ημέρα 3
Επιφάνεια Απειλής για Παραγωγικούς Πράκτορες AI

Τι κάνει την πρακτορική AI μοναδικά ευάλωτη σε σχέση με το παραδοσιακό λογισμικό

Επιφάνεια επίθεσης: δεδομένα, μοντέλο, εντολή prompt, εργαλείο, έξοδος, διεπαφή

Μοντελοποίηση απειλών για συστήματα με αυτονομία χρήσης εργαλείων

Σύγκριση πρακτικών киберασφάλειας AI με την παραδοσιακή киберασφάλεια

Χειροκίνητη Εφαρμογή Εχθρικών Επιθέσεων

Εχθρικά παραδείγματα και μέθοδοι διαταραχής: FGSM, PGD, DeepFool

Σενάρια επιθέσεων λευκού κουτιού έναντι μαύρου κουτιού

Επιθέσεις αναστροφής μοντέλου και συμπερίληψης δεδομένων

Αρρώστωση δεδομένων και εισαγωγή backdoor κατά την εκπαίδευση

Εισαγωγή εντολής prompt, jailbreaking και κακή χρήση εργαλείων σε πράκτορες βάσει LLM

Αμυντικές Τεχνικές και Ενίσχυση Μοντέλου

Εχθρική εκπαίδευση και στρατηγικές αύξησης δεδομένων

Αμυντική συμπύκνωση και άλλες τεχνικές ανθεκτικότητας

Προεπεξεργασία εισόδου, μάσκα κλίσεων και κανονικοποίηση

Διαφορική ιδιωτικότητα, έγχυση θορύβου και όρια ιδιωτικότητας

Ομογενής εκπαίδευση και ασφαλής συσσώρευση για κατανεμημένη εκπαίδευση

Χειροκίνητη Εφαρμογή με το Adversarial Robustness Toolbox

Προσομοίωση επιθέσεων εναντίον του πολυτροπικού πράκτορα που κατασκευάστηκε την Ημέρα 2

Μέτρηση της ανθεκτικότητας υπό διαταραχή και ποσοτικοποίηση της υποβάθμισης

Εφαρμογή αμυνών επαναλαμβανόμενα και επαναξιολόγηση του ποσοστού επιτυχίας των επιθέσεων

Δοκιμή υπό ακραίες συνθήκες των διαδρομών κλήσης εργαλείων και των διανυσμάτων εισαγωγής εντολής

Ημέρα 4
Πλαίσια Διαχείρισης Κινδύνου για AI

NIST AI Risk Management Framework: govern, map, measure, manage

ISO/IEC 42001 και νεοεμφανιζόμενα ειδικά πρότυπα AI

Αντιστοίχιση κινδύνου AI με υπάρχοντα πλαίσια GRC εταιρικής κλίμακας

Απαιτήσεις ευθύνης, διαφάνειας και τεκμηρίωσης AI

Κανονιστική Συμμόρφωση για Πρακτορικά Συστήματα

EU AI Act: επίπεδα κινδύνου, απαγορευμένες χρήσεις και υποχρεώσεις για συστήματα υψηλού κινδύνου

Επιπτώσεις GDPR και CCPA για τις ροές δεδομένων των πρακτόρων

Αμερικανική Εκτελεστική Εντολή για Ασφαλή, Ασφαλή και Αξιόπιστη AI

Οδηγίες ειδικού κλάδου για τραπεζικούς, υγειονομικούς και δημόσιους τομείς

Κίνδυνος τρίτων και χρήση εργαλείων AI από προμηθευτές

Ηθική, Προκατάληψη και Εξηγήσιμη Λειτουργία

Ανίχνευση και mitigating προκατάληψης σε αντίληψη και σκέψη πρακτόρων

Εξηγήσιμη λειτουργία και διαφάνεια ως ιδιότητες κρίσιμες για την ασφάλεια

Δικαιοσύνη, δευτερογενής βλάβη και υπεύθυνη εγκατάσταση

Σχεδιασμός συμπεριφοράς πρακτόρων που είναι περιλαμβανόμενη και ελέγξιμη

Εγκατάσταση Παραγωγής, Παρακολούθηση και Απόκριση σε Περιστατικά

Ασφαλείς μοτίβα εγκατάστασης για συστήματα με έναν και πολλούς πράκτορες

Συνεχής παρακολούθηση για drift, ανωμαλίες και κακή χρήση

Καταγραφή, ίχνη ελέγχου και έτοιμότητα για δικαστική ανάλυση των ενεργειών των πρακτόρων

Σενάρια απόκρισης σε περιστατικά киберασφάλειας AI και ανάρρωση

Μελέτες περίπτωσης πραγματικών παραβιάσεων AI και διδάγματα

Τελική Εφαρμογή και Σύνοψη

Εξέταση του πολυτροπικού πολυπρακτορικού συστήματος που κατασκευάθηκε κατά τη διάρκεια του μαθήματος

Εξέταση end-to-end του pipeline: σχεδιασμός, κατασκευή, ασφάλιση, διακυβέρνηση, εγκατάσταση

Αυτοαξιολόγηση του συστήματος βάσει των λειτουργιών NIST AI RMF

Προοπτική για εξελισσόμενες τάσεις στην πρακτορική AI και την киберασφάλεια AI

Σύνοψη και Επόμενα Βήματα

Απαιτήσεις

Στοχευόμενο Κοινό

Μηχανικοί και αρχιτέκτονες AI που κατασκευάζουν πρακτορικά συστήματα για χρήση σε παραγωγή. Επαγγελματίες кіберασφάλειας, κινδύνου και συμμόρφωσης υπεύθυνοι για την εξασφάλιση της AI σε ρυθμιζόμενους κλάδους όπως ο τραπεζικός, ο υγειονομικός και οι συμβουλευτικές υπηρεσίες. Ανάπτυξη υψηλού επιπέδου και ηγέτες λύσεων που ενσωματώνουν ικανότητες πολυτροπικής και πολυπρακτορικής λειτουργίας σε εταιρικές πλατφόρμες.

 28 Ώρες

Αριθμός συμμετέχοντων


Τιμή ανά συμμετέχοντα

Σχόλια (3)

Εφεξής Μαθήματα

Σχετικές Κατηγορίες