Building Secure and Responsible LLM Applications Training Course
Η ασφάλεια εφαρμογών LLM είναι η επιστήμη του σχεδιασμού, κατασκευής και διατήρησης ασφαλών, πιστών και συμβατών με τις πολιτικές συστημάτων χρησιμοποιώντας μεγάλους λεξικού αλγόριθμους.
Αυτή η εκπαιδευτική, ζωντανή διαμόρφωση (διαδικτυακά ή σε υποψήφια περιοχές) στοχεύει σε επίπεδο μεσαίου και προχωρημένου AI αναπτυκτών, αρχιτέκτονων και διευθυντών προϊόντων που θέλουν να αναγνωρίσουν και να ελαττώσουν τις κινδύνους συνδεδεμένες με εφαρμογές LLM, περιλαμβανομένης της εισαγωγής πρότυπων, αποκατάστασης δεδομένων και άνευ φίλτρου εξόδου, ενώ ενσωματώνοντας ρυθμιστικά μέτρα όπως την αποδοχή προσανατολισμού, η ανθρώπινη επίβλεψη σε κύκλους (human-in-the-loop) και φραγμοί εξόδου.
Στο τέλος αυτής της διαμόρφωσης, οι μετέχοντες θα μπορούν να:
- Καταλάβουν τις βασικές καταστροφώμενες πτυχές των συστημάτων LLM.
- Εφαρμόζουν αξιόπιστες αρχές σχεδιασμού στην αρχιτεκτονική των εφαρμογών LLM.
- Χρησιμοποιούν εργαλεία όπως η Guardrails AI και LangChain για απόδοση, φίλτρο και ασφάλεια.
- Ενσωματώνουν τεχνικές όπως το sandboxing, red teaming και επίβλεψη σε κύκλους (human-in-the-loop) σε προϊόντα-γραδιά παραγωγή.
Σχέση της Μαθήσης
- Επικοινωνιακό μάθημα και συζήτηση.
- Πολλά ασκήσεις και πράξη.
- Η θεωρητική εφαρμογή σε μια υπόσχεση-περιβάλλον.
Προσαρμοστικές Επιλογές της Διαμόρφωσης
- Για να αίτησε προσαρμοστική διαμόρφωση για αυτήν την μάθηση, καλέστε εμάς για συζήτηση.
Course Outline
Περιγραφή της Αρχιτεκτονικής LLM και του Περιθώρου Επίθεσης
- Πώς συντάσσονται, εγκαταστέλλονται και πρόσβαση μέσω APIs τα LLMs
- Κύριες συνιστώσες στους οχήματες εφαρμογών LLM (π.χ., πρόκληση, αγγάροι, μνήμη, APIs)
- Πού και πώς προκύπτουν τα ζητήματα ασφαλείας στην πρακτική χρήση
Εισαγωγή Πρόκλησης και Επιθέσεις Jailbreak
- Τι είναι η εισαγωγή πρόκλησης και γιατί είναι απειλητική
- Ευθείες και έμμεσες σειρές εισαγωγής πρόκλησης
- Τεχνικές jailbreaking για αποφυγή φίλτρων ασφαλείας
- Στρατηγικές ανίχνευσης και ελάσσωσης του κινδύνου
Αποδήμηση Δεδομένων και Ρίσκα Απορρήτου
- Τυχών εκθέσεις δεδομένων μέσω απαντήσεων
- Παραβίαση PII και λάθος χρήση της μνήμης του μοντέλου
- Σχεδιασμός πρόκλησης απορρήτου και γενίσης ενισχυμένης ανάκτησης (RAG)
Εφαρμογή LLM Output Filtering and Guarding
- Χρήση του Guardrails AI για φίλτρωση και επαλήθευση περιεχομένου
- Ορισμός χάρτων αποδείξεων και περιορισμών
- Ελέγχος και εγγραφή ασφαλών έκθεσης
Human-in-the-Loop και Προσεγγίσεις Διαδικασίας
- Πού και πότε να εισάγετε ανθρώπινη υποψήφιοτητα
- Κέντρα εγκαίρων, προσδιορισμοί σημείου και ιδιότυπα περιθώρια
- Ελέγχος εμπιστοσύνης και ρόλος της εξήγησης
Secure LLM App Design Patterns
- Λίγες προνόμια και sandboxing για ολικές κλήσεις API και αγγάρου
- Περιορισμός ρυθμού, επιβράδυνση και ανίχνευση παραβίασης
- Τεχνική chaining με LangChain και ισολασία πρόκλησης
Συμμόρφωση, Εγγραφή και Governance
- Εξασφάλιση της ελέγχου περιεχομένων LLM
- Μεταβατικότητα και έλεγχος πρόκλησης/έκδοσης
- Συμπίεση με εσωτερικά πολιτική ασφαλείας και ρυθμιστικά χρεώματα
Επόμενα βήματα
Requirements
- Συνειδητοποίηση των μεγάλων λεξικού αρχείου παραμετροποιήσεων και επιφάνειών τύπου prompt
- Εμπειρία στην κατασκευή εφαρμογών LLM χρησιμοποιώντας Python
- Γνώση API ενσωμάτωσης και νερό-βασική προσφέρεται από τον ουράνιο
Πληθυσμός
- Αναπτυγματologistές AI
- Αρχιτεκτονικές εφαρμογών και λύσεων
- Τεχνικοί διευθυντές προϊόντων που εργάζονται με εργαλεία LLM
Open Training Courses require 5+ participants.
Building Secure and Responsible LLM Applications Training Course - Booking
Building Secure and Responsible LLM Applications Training Course - Enquiry
Building Secure and Responsible LLM Applications - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Related Courses
AI Automation with n8n and LangChain
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε προγραμματιστές και επαγγελματίες πληροφορικής όλων των επιπέδων δεξιοτήτων που επιθυμούν να αυτοματοποιήσουν εργασίες και διαδικασίες χρησιμοποιώντας AI χωρίς να γράφουν εκτεταμένο κώδικα.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Σχεδιάστε και εφαρμόστε σύνθετες ροές εργασίας χρησιμοποιώντας την οπτική διεπαφή προγραμματισμού του n8n.
- Ενσωματώστε τις δυνατότητες AI στις ροές εργασιών χρησιμοποιώντας το LangChain.
- Δημιουργήστε προσαρμοσμένα chatbot και εικονικούς βοηθούς για διάφορες περιπτώσεις χρήσης.
- Εκτελέστε προηγμένη ανάλυση και επεξεργασία δεδομένων με πράκτορες AI.
Automating Workflows with LangChain and APIs
14 HoursΑυτή η ζωντανή εκπαίδευση στο Ελλάδα από εκπαιδευτές (διαδικτυακή ή επιτόπου) απευθύνεται σε αρχάριους επιχειρησιακούς αναλυτές και μηχανικούς αυτοματισμού που επιθυμούν να κατανοήσουν πώς να χρησιμοποιούν το LangChain και τα API για την αυτοματοποίηση επαναλαμβανόμενων εργασιών και ροών εργασίας.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Κατανοήστε τα βασικά της ενσωμάτωσης API με το LangChain.
- Αυτοματοποιήστε τις επαναλαμβανόμενες ροές εργασίας χρησιμοποιώντας τα LangChain και Python.
- Χρησιμοποιήστε το LangChain για να συνδέσετε διάφορα API για αποτελεσματικές επιχειρηματικές διαδικασίες.
- Δημιουργήστε και αυτοματοποιήστε προσαρμοσμένες ροές εργασίας χρησιμοποιώντας API και τις δυνατότητες αυτοματοποίησης του LangChain.
Building Conversational Agents with LangChain
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε επαγγελματίες μεσαίου επιπέδου που επιθυμούν να εμβαθύνουν στην κατανόησή τους για τους συνομιλητές και να εφαρμόσουν το LangChain σε περιπτώσεις χρήσης πραγματικού κόσμου.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Κατανοήστε τις βασικές αρχές του LangChain και την εφαρμογή του στη δημιουργία πρακτόρων συνομιλίας.
- Αναπτύξτε και αναπτύξτε τους συνομιλητές χρησιμοποιώντας το LangChain.
- Ενσωματώστε τους συνομιλητές με API και εξωτερικές υπηρεσίες.
- Εφαρμόστε τεχνικές Natural Language Processing (NLP) για να βελτιώσετε την απόδοση των συνομιλητών.
Building Private AI Workflows with Ollama
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακά ή επιτόπου) απευθύνεται σε επαγγελματίες προχωρημένου επιπέδου που επιθυμούν να εφαρμόσουν ασφαλείς και αποτελεσματικές ροές εργασιών με γνώμονα την τεχνητή νοημοσύνη χρησιμοποιώντας το Ollama.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Αναπτύξτε και διαμορφώστε το Ollama για ιδιωτική επεξεργασία AI.
- Ενσωματώστε μοντέλα AI σε ασφαλείς ροές εργασιών για επιχειρήσεις.
- Βελτιστοποιήστε την απόδοση AI διατηρώντας παράλληλα το απόρρητο των δεδομένων.
- Αυτοματοποιήστε τις επιχειρηματικές διαδικασίες με δυνατότητες εσωτερικής τεχνητής νοημοσύνης.
- Διασφαλίστε τη συμμόρφωση με τις πολιτικές ασφάλειας και διακυβέρνησης της επιχείρησης.
Deploying and Optimizing LLMs with Ollama
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε επαγγελματίες μεσαίου επιπέδου που επιθυμούν να αναπτύξουν, να βελτιστοποιήσουν και να ενσωματώσουν LLM χρησιμοποιώντας το Ollama.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Ρυθμίστε και αναπτύξτε LLM χρησιμοποιώντας το Ollama.
- Βελτιστοποιήστε τα μοντέλα AI για απόδοση και αποδοτικότητα.
- Αξιοποιήστε την επιτάχυνση GPU για βελτιωμένες ταχύτητες συμπερασμάτων.
- Ενσωματώστε το Ollama σε ροές εργασίας και εφαρμογές.
- Παρακολουθήστε και διατηρήστε την απόδοση του μοντέλου AI με την πάροδο του χρόνου.
Ethical Considerations in AI Development with LangChain
21 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε ερευνητές και υπεύθυνους χάραξης πολιτικής τεχνητής νοημοσύνης προχωρημένου επιπέδου που επιθυμούν να εξερευνήσουν τις ηθικές επιπτώσεις της ανάπτυξης της τεχνητής νοημοσύνης και να μάθουν πώς να εφαρμόζουν ηθικές οδηγίες κατά την κατασκευή λύσεων τεχνητής νοημοσύνης με [ 0].
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Προσδιορίστε βασικά ζητήματα ηθικής στην ανάπτυξη AI με το LangChain.
- Κατανοήστε τον αντίκτυπο της τεχνητής νοημοσύνης στην κοινωνία και τις διαδικασίες λήψης αποφάσεων.
- Αναπτύξτε στρατηγικές για τη δημιουργία δίκαιων και διαφανών συστημάτων AI.
- Εφαρμόστε κατευθυντήριες γραμμές ηθικής τεχνητής νοημοσύνης σε έργα που βασίζονται σε LangChain.
Enhancing User Experience with LangChain in Web Apps
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε προγραμματιστές ιστού μεσαίου επιπέδου και σχεδιαστές UX που επιθυμούν να αξιοποιήσουν το LangChain για να δημιουργήσουν εύχρηστες και φιλικές προς το χρήστη εφαρμογές Ιστού.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Κατανοήστε τις θεμελιώδεις έννοιες του LangChain και τον ρόλο του στη βελτίωση της εμπειρίας των χρηστών του Ιστού.
- Εφαρμόστε το LangChain σε εφαρμογές Ιστού για να δημιουργήσετε δυναμικές και αποκριτικές διεπαφές.
- Ενσωματώστε API σε εφαρμογές ιστού για να βελτιώσετε τη διαδραστικότητα και την αφοσίωση των χρηστών.
- Βελτιστοποιήστε την εμπειρία χρήστη χρησιμοποιώντας τις προηγμένες δυνατότητες προσαρμογής του LangChain.
- Αναλύστε δεδομένα συμπεριφοράς χρηστών για να βελτιώσετε την απόδοση και την εμπειρία της εφαρμογής Ιστού.
Fine-Tuning and Customizing AI Models on Ollama
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε επαγγελματίες προχωρημένου επιπέδου που επιθυμούν να τελειοποιήσουν και να προσαρμόσουν μοντέλα τεχνητής νοημοσύνης στο Ollama για βελτιωμένη απόδοση και εφαρμογές σε συγκεκριμένο τομέα.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Ρυθμίστε ένα αποτελεσματικό περιβάλλον για τη βελτίωση των μοντέλων τεχνητής νοημοσύνης στο Ollama.
- Προετοιμάστε σύνολα δεδομένων για εποπτευόμενη λεπτομέρεια και ενίσχυση της εκμάθησης.
- Βελτιστοποιήστε τα μοντέλα AI για απόδοση, ακρίβεια και αποτελεσματικότητα.
- Αναπτύξτε προσαρμοσμένα μοντέλα σε περιβάλλοντα παραγωγής.
- Αξιολογήστε τις βελτιώσεις του μοντέλου και εξασφαλίστε στιβαρότητα.
Introduction to AI Security and Risk Management
14 HoursΑυτή η εκπαιδευτική μάθηση σε χώρο παρουσίας (online ή offline) στο Ελλάδα, είναι κατευθυνόμενη σε νέους επαγγελματίες των IT ασφαλειών, κινδύνων και προστασίας που θέλουν να καταλάβουν βασικά συνόψιμα AI ασφαλειών, διαθέσιμους κινδύνους και παγκόσμια πλαίσια όπως το NIST AI RMF και ISO/IEC 42001.
Τελικά, οι συμμετέχοντες θα μπορούν να:
- Καταλάβουν τους ειδικούς κινδύνους ασφαλείας που παρουσιάζουν οι συστήματες AI.
- Αναγνωρίζουν διαθέσιμους κινδύνους όπως επιχειρηματικοί επιθέτες, τοξικότητα δεδομένων και ανάστροφη μοντελοποίηση.
- Εφαρμόζουν βασικά πλαίσια διοίκησης όπως το NIST AI Risk Management Framework.
- Συγχρονίζουν τη χρήση AI με εμφανιζόμενες πρότυπα, κανόνες πληροφόρησης και ηθικές αρχές.
LangChain: Building AI-Powered Applications
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε προγραμματιστές μεσαίου επιπέδου και μηχανικούς λογισμικού που επιθυμούν να δημιουργήσουν εφαρμογές με τεχνητή νοημοσύνη χρησιμοποιώντας το πλαίσιο LangChain.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Κατανοήστε τις βασικές αρχές του LangChain και των στοιχείων του.
- Ενσωματώστε το LangChain με μεγάλα γλωσσικά μοντέλα (LLM) όπως το GPT-4.
- Δημιουργήστε αρθρωτές εφαρμογές AI χρησιμοποιώντας το LangChain.
- Αντιμετώπιση προβλημάτων κοινών προβλημάτων σε εφαρμογές LangChain.
Integrating LangChain with Cloud Services
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε μηχανικούς δεδομένων προηγμένου επιπέδου και σε επαγγελματίες DevOps που επιθυμούν να αξιοποιήσουν τις δυνατότητες του LangChain ενσωματώνοντάς το με διάφορες υπηρεσίες cloud.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Ενσωματώστε το LangChain με μεγάλες πλατφόρμες cloud όπως τα AWS, Azure και Google Cloud.
- Χρησιμοποιήστε API και υπηρεσίες που βασίζονται σε σύννεφο για να βελτιώσετε εφαρμογές που υποστηρίζονται από LangChain.
- Κλιμακώστε και αναπτύξτε τους συνομιλητές στο cloud για αλληλεπίδραση σε πραγματικό χρόνο.
- Εφαρμόστε βέλτιστες πρακτικές παρακολούθησης και ασφάλειας σε περιβάλλοντα cloud.
LangChain for Data Analysis and Visualization
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε επαγγελματίες δεδομένων μεσαίου επιπέδου που επιθυμούν να χρησιμοποιήσουν το LangChain για να βελτιώσουν τις ικανότητές τους ανάλυσης και οπτικοποίησης δεδομένων.
Μέχρι το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Αυτοματοποιήστε την ανάκτηση και τον καθαρισμό δεδομένων χρησιμοποιώντας το LangChain.
- Πραγματοποιήστε προηγμένη ανάλυση δεδομένων χρησιμοποιώντας Python και LangChain.
- Δημιουργήστε οπτικοποιήσεις με το Matplotlib και άλλες Python βιβλιοθήκες ενσωματωμένες στο LangChain.
- Μόχλευση LangChain για τη δημιουργία πληροφοριών φυσικής γλώσσας από την ανάλυση δεδομένων.
LangChain Fundamentals
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε αρχάριους έως μεσαίου επιπέδου προγραμματιστές και μηχανικούς λογισμικού που επιθυμούν να μάθουν τις βασικές έννοιες και την αρχιτεκτονική του LangChain και να αποκτήσουν τις πρακτικές δεξιότητες για την κατασκευή AI- τροφοδοτούμενες εφαρμογές.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Πιάστε τις θεμελιώδεις αρχές του LangChain.
- Ρυθμίστε και διαμορφώστε το περιβάλλον LangChain.
- Κατανοήστε την αρχιτεκτονική και πώς αλληλεπιδρά το LangChain με μεγάλα γλωσσικά μοντέλα (LLM).
- Αναπτύξτε απλές εφαρμογές χρησιμοποιώντας το LangChain.
Getting Started with Ollama: Running Local AI Models
7 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε επαγγελματίες αρχάριου επιπέδου που επιθυμούν να εγκαταστήσουν, να διαμορφώσουν και να χρησιμοποιήσουν το Ollama για την εκτέλεση μοντέλων τεχνητής νοημοσύνης στις τοπικές τους μηχανές.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Κατανοήστε τις βασικές αρχές του Ollama και τις δυνατότητές του.
- Ρυθμίστε το Ollama για την εκτέλεση τοπικών μοντέλων AI.
- Αναπτύξτε και αλληλεπιδράστε με LLM χρησιμοποιώντας το Ollama.
- Βελτιστοποιήστε την απόδοση και τη χρήση πόρων για φόρτους εργασίας AI.
- Εξερευνήστε περιπτώσεις χρήσης για τοπική ανάπτυξη τεχνητής νοημοσύνης σε διάφορους κλάδους.
Securing AI Models: Threats, Attacks, and Defenses
14 HoursΑυτή η εκπαίδευση με οδηγό (online ή σε υποψήφια περιοχή) στο Ελλάδα είναι στοχεύουσα για επαγγελματίες μεσαίας επιπέδου στη μηχανική μάθηση και την κυβερνοσφαιρική ασφάλεια που θέλουν να καταλάβουν και να ελαττώσουν τις προηγούμενες απειλές σε AI μοντέλα, χρησιμοποιώντας και θεωρητικά πλαίσια και εφαρμόσιμες αμυντικές μέθοδες όπως την ισχυρή εκπαίδευση και τη διαφορική ιδιωτικότητα.
Στο τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα μπορούν να:
- Αναγνωρίζουν και κλάσσικα AI-συγκεκριμένες απειλές όπως εχθρικοί προσβάστες, αντιστροφή και τοξευτικό.
- Χρησιμοποιούν εργαλεία όπως το Adversarial Robustness Toolbox (ART) για να προσομοιάζουν επιθέσεις και να δοκιμάζουν μοντέλα.
- Εφαρμόζουν πρακτικές άμυνες όπως την εχθρική εκπαίδευση, την εισαγωγή θολώσης και τεχνικές που διατηρούν την ιδιωτικότητα.
- Σχεδιάζουν στρατηγικές αξιολόγησης μοντέλων που είναι ευαισθητικές στις απειλές σε περιβάλλοντα παραγωγής.