Εξέλιξη Κομματιού
Ημέρα 1
Ανατομία ενός Σύγχρονου Πράκτορα AI
Πέραν των chatbot, οι πράκτορες ως συστήματα αυτονομής σκέψης και δράσης
Παράδειγμα πρακτόρων: αντιδραστικοί, προδραστικοί, υβριδικοί και με στόχο την επίτευξη σκοπού
Βασικά συστατικά: αντίληψη, σχεδιασμός, μνήμη, χρήση εργαλείων, δράση
Συγκριτική ανάλυση σχεδιασμού με έναν πράκτορα έναντι πολλών
Πλατφόρμες Πρακτόρων και το Σύγχρονο Στοίβα
LangChain, LlamaIndex, AutoGen, CrewAI και τα πλεονεκτήματα/μειονεκτήματά τους
Σύγκριση με κλασικές πλατφόρμες όπως JADE και SPADE
Επιλογή πλατφόρμας βάσει των απαιτήσεων παραγωγής
Κλήση εργαλείων, κλήση συναρτήσεων και δομημένες έξοδοι
Χειροκίνητη εφαρμογή: δημιουργία ενός μοναδικού πράκτορα Python με κλήσεις εργαλείων
Αρχιτεκτονικές Πολυπρακτορικών Συστημάτων
Κεντρικοποιημένοι, αποκεντρωμένοι, υβριδικοί και διαδοχικοί σχεδιασμοί MAS
FIPA ACL, περάσματα μηνυμάτων και σύγχρονες ισοδύναμες λύσεις
Πατάδες συντονισμού: σχεδιασμός, διαπραγμάτευση, συγχρονισμός
Εκφυλισμένες συμπεριφορές και αυτοοργάνωση σε πληθυσμούς πρακτόρων
Λήψη Αποφάσεων και Μάθηση στους Πράκτορες
Θεωρία παιγνίων για συνεργατικές και ανταγωνιστικές αλληλεπιδράσεις πρακτόρων
Ενισχυτική μάθηση σε πολυπρακτορικά περιβάλλοντα
Μεταφορά μάθησης και κοινή γνώση μεταξύ πρακτόρων
Επίλυση συγκρούσεων και εμπιστοσύνη μεταξύ συντονιζόμενων πρακτόρων
Ημέρα 2
Πολυτροπικές Βάσεις για Πράκτορες
Πολυτροπική AI ως ενοποιημένη διαδικασία που καλύπτει κείμενο, εικόνα, ομιλία και βίντεο
Προηγμένα πολυτροπικά μοντέλα: GPT-4 Vision, Gemini, Claude, Whisper
Τεχνικές ενσωμάτωσης για τη σύνθεση μορφών μέσα στον βρόχο σκέψης ενός πράκτορα
Εμπορευματικές, κόστος και ακρίβεια ισορροπίες σε πολυτροπικά pipelines
Κατασκευή της Στρώσης Αντίληψης
Επεξεργασία εικόνας για πράκτορες: ταξινόμηση, υποτιτλισμός, ανίχνευση αντικειμένων
Αναγνώριση ομιλίας με Whisper ASR και streaming μετάφραση
Σύνθεση κειμένου σε ομιλία και φυσική ανθρώπινη αλληλεπίδραση
Σύνδεση των εξόδων αντίληψης με τη σκέψη και την επιλογή εργαλείων που βασίζεται σε LLM
Χειροκίνητη Εφαρμογή - Κατασκευή Ένας Πολυτροπικού Πράκτορα σε Python
Ορισμός του καθήκοντος του πράκτορα, του παράθυρου πλαισίου και του καταλόγου εργαλείων
Σύνδεση end-to-end των APIs GPT-4 Vision και Whisper
Εφαρμογή μνήμης, κατάστασης και διαχείρισης συνομιλίας
Προσθήκη κλήσεων εργαλείων που προκαλούν ασφαλείς πραγματικές παρενέργειες
Χειροκίνητη Εφαρμογή - Συντονισμός Ένα Πολυπρακτορικό Σύστημα
Σύνθεση εξειδικευμένων πρακτόρων με AutoGen ή CrewAI
Ορισμός ρόλων, ευθυνών και πρωτοκόλλων επικοινωνίας μεταξύ πρακτόρων
Διαχείριση πόρων και συντονισμός σε ένα προσομοιωμένο περιβάλλον
Καταγραφή της σκέψης των πρακτόρων, των κλήσεων εργαλείων και των αποφάσεων για έλεγχο και audit
Ημέρα 3
Επιφάνεια Απειλής για Παραγωγικούς Πράκτορες AI
Τι κάνει την πρακτορική AI μοναδικά ευάλωτη σε σχέση με το παραδοσιακό λογισμικό
Επιφάνεια επίθεσης: δεδομένα, μοντέλο, εντολή prompt, εργαλείο, έξοδος, διεπαφή
Μοντελοποίηση απειλών για συστήματα με αυτονομία χρήσης εργαλείων
Σύγκριση πρακτικών киберασφάλειας AI με την παραδοσιακή киберασφάλεια
Χειροκίνητη Εφαρμογή Εχθρικών Επιθέσεων
Εχθρικά παραδείγματα και μέθοδοι διαταραχής: FGSM, PGD, DeepFool
Σενάρια επιθέσεων λευκού κουτιού έναντι μαύρου κουτιού
Επιθέσεις αναστροφής μοντέλου και συμπερίληψης δεδομένων
Αρρώστωση δεδομένων και εισαγωγή backdoor κατά την εκπαίδευση
Εισαγωγή εντολής prompt, jailbreaking και κακή χρήση εργαλείων σε πράκτορες βάσει LLM
Αμυντικές Τεχνικές και Ενίσχυση Μοντέλου
Εχθρική εκπαίδευση και στρατηγικές αύξησης δεδομένων
Αμυντική συμπύκνωση και άλλες τεχνικές ανθεκτικότητας
Προεπεξεργασία εισόδου, μάσκα κλίσεων και κανονικοποίηση
Διαφορική ιδιωτικότητα, έγχυση θορύβου και όρια ιδιωτικότητας
Ομογενής εκπαίδευση και ασφαλής συσσώρευση για κατανεμημένη εκπαίδευση
Χειροκίνητη Εφαρμογή με το Adversarial Robustness Toolbox
Προσομοίωση επιθέσεων εναντίον του πολυτροπικού πράκτορα που κατασκευάστηκε την Ημέρα 2
Μέτρηση της ανθεκτικότητας υπό διαταραχή και ποσοτικοποίηση της υποβάθμισης
Εφαρμογή αμυνών επαναλαμβανόμενα και επαναξιολόγηση του ποσοστού επιτυχίας των επιθέσεων
Δοκιμή υπό ακραίες συνθήκες των διαδρομών κλήσης εργαλείων και των διανυσμάτων εισαγωγής εντολής
Ημέρα 4
Πλαίσια Διαχείρισης Κινδύνου για AI
NIST AI Risk Management Framework: govern, map, measure, manage
ISO/IEC 42001 και νεοεμφανιζόμενα ειδικά πρότυπα AI
Αντιστοίχιση κινδύνου AI με υπάρχοντα πλαίσια GRC εταιρικής κλίμακας
Απαιτήσεις ευθύνης, διαφάνειας και τεκμηρίωσης AI
Κανονιστική Συμμόρφωση για Πρακτορικά Συστήματα
EU AI Act: επίπεδα κινδύνου, απαγορευμένες χρήσεις και υποχρεώσεις για συστήματα υψηλού κινδύνου
Επιπτώσεις GDPR και CCPA για τις ροές δεδομένων των πρακτόρων
Αμερικανική Εκτελεστική Εντολή για Ασφαλή, Ασφαλή και Αξιόπιστη AI
Οδηγίες ειδικού κλάδου για τραπεζικούς, υγειονομικούς και δημόσιους τομείς
Κίνδυνος τρίτων και χρήση εργαλείων AI από προμηθευτές
Ηθική, Προκατάληψη και Εξηγήσιμη Λειτουργία
Ανίχνευση και mitigating προκατάληψης σε αντίληψη και σκέψη πρακτόρων
Εξηγήσιμη λειτουργία και διαφάνεια ως ιδιότητες κρίσιμες για την ασφάλεια
Δικαιοσύνη, δευτερογενής βλάβη και υπεύθυνη εγκατάσταση
Σχεδιασμός συμπεριφοράς πρακτόρων που είναι περιλαμβανόμενη και ελέγξιμη
Εγκατάσταση Παραγωγής, Παρακολούθηση και Απόκριση σε Περιστατικά
Ασφαλείς μοτίβα εγκατάστασης για συστήματα με έναν και πολλούς πράκτορες
Συνεχής παρακολούθηση για drift, ανωμαλίες και κακή χρήση
Καταγραφή, ίχνη ελέγχου και έτοιμότητα για δικαστική ανάλυση των ενεργειών των πρακτόρων
Σενάρια απόκρισης σε περιστατικά киберασφάλειας AI και ανάρρωση
Μελέτες περίπτωσης πραγματικών παραβιάσεων AI και διδάγματα
Τελική Εφαρμογή και Σύνοψη
Εξέταση του πολυτροπικού πολυπρακτορικού συστήματος που κατασκευάθηκε κατά τη διάρκεια του μαθήματος
Εξέταση end-to-end του pipeline: σχεδιασμός, κατασκευή, ασφάλιση, διακυβέρνηση, εγκατάσταση
Αυτοαξιολόγηση του συστήματος βάσει των λειτουργιών NIST AI RMF
Προοπτική για εξελισσόμενες τάσεις στην πρακτορική AI και την киберασφάλεια AI
Σύνοψη και Επόμενα Βήματα
Απαιτήσεις
Στοχευόμενο Κοινό
Μηχανικοί και αρχιτέκτονες AI που κατασκευάζουν πρακτορικά συστήματα για χρήση σε παραγωγή. Επαγγελματίες кіберασφάλειας, κινδύνου και συμμόρφωσης υπεύθυνοι για την εξασφάλιση της AI σε ρυθμιζόμενους κλάδους όπως ο τραπεζικός, ο υγειονομικός και οι συμβουλευτικές υπηρεσίες. Ανάπτυξη υψηλού επιπέδου και ηγέτες λύσεων που ενσωματώνουν ικανότητες πολυτροπικής και πολυπρακτορικής λειτουργίας σε εταιρικές πλατφόρμες.
Σχόλια (3)
Ο εκπαιδευτικός είναι υπομονετικός και πολύ βοηθητικός. Γνώριζε πολύ καλά το θέμα.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Κομμάτι - Agentic AI for Business Automation: Use Cases & Integration
Μηχανική Μετάφραση
Καλό μείγμα γνώσης και πράξης
Ion Mironescu - Facultatea S.A.I.A.P.M.
Κομμάτι - Agentic AI for Enterprise Applications
Μηχανική Μετάφραση
Η μίξη θεωρίας και πράξης καθώς και των υψηλόβαθμων και των χαμηλόβαθμων προοπτικών
Ion Mironescu - Facultatea S.A.I.A.P.M.
Κομμάτι - Autonomous Decision-Making with Agentic AI
Μηχανική Μετάφραση