Building Secure and Responsible LLM Applications Training Course
Η ασφάλεια εφαρμογών LLM είναι η επιστήμη του σχεδιασμού, κατασκευής και διατήρησης ασφαλών, πιστών και συμβατών με τις πολιτικές συστημάτων χρησιμοποιώντας μεγάλους λεξικού αλγόριθμους.
Αυτή η εκπαιδευτική, ζωντανή διαμόρφωση (διαδικτυακά ή σε υποψήφια περιοχές) στοχεύει σε επίπεδο μεσαίου και προχωρημένου AI αναπτυκτών, αρχιτέκτονων και διευθυντών προϊόντων που θέλουν να αναγνωρίσουν και να ελαττώσουν τις κινδύνους συνδεδεμένες με εφαρμογές LLM, περιλαμβανομένης της εισαγωγής πρότυπων, αποκατάστασης δεδομένων και άνευ φίλτρου εξόδου, ενώ ενσωματώνοντας ρυθμιστικά μέτρα όπως την αποδοχή προσανατολισμού, η ανθρώπινη επίβλεψη σε κύκλους (human-in-the-loop) και φραγμοί εξόδου.
Στο τέλος αυτής της διαμόρφωσης, οι μετέχοντες θα μπορούν να:
- Καταλάβουν τις βασικές καταστροφώμενες πτυχές των συστημάτων LLM.
- Εφαρμόζουν αξιόπιστες αρχές σχεδιασμού στην αρχιτεκτονική των εφαρμογών LLM.
- Χρησιμοποιούν εργαλεία όπως η Guardrails AI και LangChain για απόδοση, φίλτρο και ασφάλεια.
- Ενσωματώνουν τεχνικές όπως το sandboxing, red teaming και επίβλεψη σε κύκλους (human-in-the-loop) σε προϊόντα-γραδιά παραγωγή.
Σχέση της Μαθήσης
- Επικοινωνιακό μάθημα και συζήτηση.
- Πολλά ασκήσεις και πράξη.
- Η θεωρητική εφαρμογή σε μια υπόσχεση-περιβάλλον.
Προσαρμοστικές Επιλογές της Διαμόρφωσης
- Για να αίτησε προσαρμοστική διαμόρφωση για αυτήν την μάθηση, καλέστε εμάς για συζήτηση.
Course Outline
Περιγραφή της Αρχιτεκτονικής LLM και του Περιθώρου Επίθεσης
- Πώς συντάσσονται, εγκαταστέλλονται και πρόσβαση μέσω APIs τα LLMs
- Κύριες συνιστώσες στους οχήματες εφαρμογών LLM (π.χ., πρόκληση, αγγάροι, μνήμη, APIs)
- Πού και πώς προκύπτουν τα ζητήματα ασφαλείας στην πρακτική χρήση
Εισαγωγή Πρόκλησης και Επιθέσεις Jailbreak
- Τι είναι η εισαγωγή πρόκλησης και γιατί είναι απειλητική
- Ευθείες και έμμεσες σειρές εισαγωγής πρόκλησης
- Τεχνικές jailbreaking για αποφυγή φίλτρων ασφαλείας
- Στρατηγικές ανίχνευσης και ελάσσωσης του κινδύνου
Αποδήμηση Δεδομένων και Ρίσκα Απορρήτου
- Τυχών εκθέσεις δεδομένων μέσω απαντήσεων
- Παραβίαση PII και λάθος χρήση της μνήμης του μοντέλου
- Σχεδιασμός πρόκλησης απορρήτου και γενίσης ενισχυμένης ανάκτησης (RAG)
Εφαρμογή LLM Output Filtering and Guarding
- Χρήση του Guardrails AI για φίλτρωση και επαλήθευση περιεχομένου
- Ορισμός χάρτων αποδείξεων και περιορισμών
- Ελέγχος και εγγραφή ασφαλών έκθεσης
Human-in-the-Loop και Προσεγγίσεις Διαδικασίας
- Πού και πότε να εισάγετε ανθρώπινη υποψήφιοτητα
- Κέντρα εγκαίρων, προσδιορισμοί σημείου και ιδιότυπα περιθώρια
- Ελέγχος εμπιστοσύνης και ρόλος της εξήγησης
Secure LLM App Design Patterns
- Λίγες προνόμια και sandboxing για ολικές κλήσεις API και αγγάρου
- Περιορισμός ρυθμού, επιβράδυνση και ανίχνευση παραβίασης
- Τεχνική chaining με LangChain και ισολασία πρόκλησης
Συμμόρφωση, Εγγραφή και Governance
- Εξασφάλιση της ελέγχου περιεχομένων LLM
- Μεταβατικότητα και έλεγχος πρόκλησης/έκδοσης
- Συμπίεση με εσωτερικά πολιτική ασφαλείας και ρυθμιστικά χρεώματα
Επόμενα βήματα
Requirements
- Συνειδητοποίηση των μεγάλων λεξικού αρχείου παραμετροποιήσεων και επιφάνειών τύπου prompt
- Εμπειρία στην κατασκευή εφαρμογών LLM χρησιμοποιώντας Python
- Γνώση API ενσωμάτωσης και νερό-βασική προσφέρεται από τον ουράνιο
Πληθυσμός
- Αναπτυγματologistές AI
- Αρχιτεκτονικές εφαρμογών και λύσεων
- Τεχνικοί διευθυντές προϊόντων που εργάζονται με εργαλεία LLM
Open Training Courses require 5+ participants.
Building Secure and Responsible LLM Applications Training Course - Booking
Building Secure and Responsible LLM Applications Training Course - Enquiry
Building Secure and Responsible LLM Applications - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Related Courses
Advanced LangGraph: Optimization, Debugging, and Monitoring Complex Graphs
35 HoursLangGraph is a framework for building stateful, multi-actor LLM applications as composable graphs with persistent state and control over execution.
This instructor-led, live training (online or onsite) is aimed at advanced-level AI platform engineers, DevOps for AI, and ML architects who wish to optimize, debug, monitor, and operate production-grade LangGraph systems.
By the end of this training, participants will be able to:
- Design and optimize complex LangGraph topologies for speed, cost, and scalability.
- Engineer reliability with retries, timeouts, idempotency, and checkpoint-based recovery.
- Debug and trace graph executions, inspect state, and systematically reproduce production issues.
- Instrument graphs with logs, metrics, and traces, deploy to production, and monitor SLAs and costs.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Advanced Ollama Model Debugging & Evaluation
35 HoursAdvanced Ollama Model Debugging & Evaluation is an in-depth course focused on diagnosing, testing, and measuring model behavior when running local or private Ollama deployments.
This instructor-led, live training (online or onsite) is aimed at advanced-level AI engineers, ML Ops professionals, and QA practitioners who wish to ensure reliability, fidelity, and operational readiness of Ollama-based models in production.
By the end of this training, participants will be able to:
- Perform systematic debugging of Ollama-hosted models and reproduce failure modes reliably.
- Design and execute robust evaluation pipelines with quantitative and qualitative metrics.
- Implement observability (logs, traces, metrics) to monitor model health and drift.
- Automate testing, validation, and regression checks integrated into CI/CD pipelines.
Format of the Course
- Interactive lecture and discussion.
- Hands-on labs and debugging exercises using Ollama deployments.
- Case studies, group troubleshooting sessions, and automation workshops.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Δημιουργία ιδιωτικών ροών εργασίας AI με το Ollama
14 HoursΑυτή η επιμορφωτική εκπαίδευση σε ύψιστη ζώνη (διαπιπτές ή προσωπικά) στο Ελλάδα προσβάλλει επαγγελματίες επιπέδου υψηλότερου επιπέδου που θέλουν να εφαρμόσουν ασφαλείς και αποτελεσματικούς διαχωρισμούς εργασίας με AI χρησιμοποιώντας το Ollama.
Στο τέλος αυτής της εκπαιδεύσεως, οι συμμετέχοντες θα μπορούν να:
- εγκαταστήσουν και ρυθμίσουν το Ollama για διαχωρισμό εργασίας AI προσωπικού χαρακτήρα.
- ενσωμάτωση μοντέλων AI σε ασφαλείς διαχωρισμούς εργασίας της επιχείρησης.
- βελτιώσουν την παροχή υπηρεσιών AI ενώ διατηρούν την ιδιωτικότητα των δεδομένων.
- υψηλοποιήσουν τις εργασιακές διαδικασίες με προσωπικά AI κατασκευασμένες ικανότητες.
- βεβαιώσουν τη συμμόρφωση με τους κανονισμούς ασφαλείας και διοίκησης της επιχείρησης.
Claude AI για Εκτελεστές: Δημιουργία Προγραμμάτων με Ιδρύματα AI
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε προγραμματιστές λογισμικού μεσαίου επιπέδου και μηχανικούς τεχνητής νοημοσύνης που επιθυμούν να ενσωματώσουν το Claude AI στις εφαρμογές τους, να δημιουργήσουν chatbot που υποστηρίζονται από AI και να βελτιώσουν τη λειτουργικότητα του λογισμικού με αυτοματισμό που βασίζεται σε AI.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Χρησιμοποιήστε το Claude AI API για να ενσωματώσετε το AI σε εφαρμογές.
- Αναπτύξτε chatbot με τεχνητή νοημοσύνη και εικονικούς βοηθούς.
- Βελτιώστε τις εφαρμογές με αυτοματισμό που βασίζεται σε AI και NLP.
- Βελτιστοποιήστε και βελτιστοποιήστε τα μοντέλα Claude AI για διαφορετικές περιπτώσεις χρήσης.
Claude AI για Διαχείριση Εργολογισμών και Παραγωγικότητα
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε επαγγελματίες αρχάριου επιπέδου που επιθυμούν να ενσωματώσουν το Claude AI στις καθημερινές ροές εργασίας τους για να βελτιώσουν την αποτελεσματικότητα και τον αυτοματισμό.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Χρησιμοποιήστε το Claude AI για την αυτοματοποίηση επαναλαμβανόμενων εργασιών και τον εξορθολογισμό των ροών εργασίας.
- Βελτιώστε την προσωπική και ομαδική παραγωγικότητα χρησιμοποιώντας αυτοματισμό με τεχνητή νοημοσύνη.
- Ενσωματώστε το Claude AI με υπάρχοντα επιχειρηματικά εργαλεία και πλατφόρμες.
- Βελτιστοποιήστε τη λήψη αποφάσεων και τη διαχείριση εργασιών με γνώμονα την τεχνητή νοημοσύνη.
Deploying and Optimizing LLMs with Ollama Δeployment και οικοδόμηση LLM με το Ollama
14 HoursΑυτή η ζωντανή εκπαίδευση υπό την καθοδήγηση εκπαιδευτών στο Ελλάδα (διαδικτυακό ή επιτόπου) απευθύνεται σε επαγγελματίες μεσαίου επιπέδου που επιθυμούν να αναπτύξουν, να βελτιστοποιήσουν και να ενσωματώσουν LLM χρησιμοποιώντας το Ollama.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Ρυθμίστε και αναπτύξτε LLM χρησιμοποιώντας το Ollama.
- Βελτιστοποιήστε τα μοντέλα AI για απόδοση και αποδοτικότητα.
- Αξιοποιήστε την επιτάχυνση GPU για βελτιωμένες ταχύτητες συμπερασμάτων.
- Ενσωματώστε το Ollama σε ροές εργασίας και εφαρμογές.
- Παρακολουθήστε και διατηρήστε την απόδοση του μοντέλου AI με την πάροδο του χρόνου.
Fine-Tuning και Προσαρμογή μοντέλων AI στο Ollama
14 HoursΑυτή η εξέλιξη με επαγγελματίδα σε Ελλάδα (online ή επί τόπου) προσβάλλει επαγγελματίες επιπέδου ανώτατης προσανατολισμός, οι οποίοι θέλουν να καταμορφώσουν και διαθεματοποιήσουν AI μοντέλα στο Ollama για βελτιωμένη εκτελεσίμοτητα και εφαρμογές που απευθύνονται σε ειδικό τομέα.
Στο τέλος αυτής της εξέλιξης, οι μεταχειρισόμενοι θα μπορούν να:
- Παράγωγε τον εφικτό περιβάλλον για τη καταμορφώση AI μοντέλων στο Ollama.
- Ετοιμάσουν δεδομένα για καταμόρφωση υποψήφιας εξ ολοκλήρου και αυτοκίνηση μάθησης.
- Βελτιώσουν AI μοντέλα για επιπέδωση, ακρίβεια και δυναμισμό.
- Εγκαταστήσουν προσαρμοσμένα μοντέλα σε περιβάλλον εφαρμογών.
- Αξιολογήσουν τη βελτίωση του μοντέλου και εγγυήσουν τη βεβαιότητα.
Εισαγωγή στο Claude AI: Συνομιλητικός Τεχνητός Νους και Βιομηχανικές Εφαρμογές
14 HoursΑυτή η ζωντανή εκπαίδευση στο Ελλάδα (διαδικτυακό ή επιτόπου) από εκπαιδευτές απευθύνεται σε αρχάριους επαγγελματίες, ομάδες υποστήριξης πελατών και λάτρεις της τεχνολογίας που επιθυμούν να κατανοήσουν τις βασικές αρχές του Claude AI και να το αξιοποιήσουν για επιχειρηματικές εφαρμογές.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα είναι σε θέση:
- Κατανοήστε τις δυνατότητες και τις περιπτώσεις χρήσης του Claude AI.
- Ρυθμίστε και αλληλεπιδράστε αποτελεσματικά με τον Claude AI.
- Αυτοματοποιήστε τις επιχειρηματικές ροές εργασίας με τεχνητή νοημοσύνη συνομιλίας.
- Βελτιώστε τη δέσμευση και την υποστήριξη των πελατών χρησιμοποιώντας λύσεις που βασίζονται σε τεχνητή νοημοσύνη.
LangGraph Applications in Finance
35 HoursLangGraph is a framework for building stateful, multi-actor LLM applications as composable graphs with persistent state and control over execution.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level professionals who wish to design, implement, and operate LangGraph-based finance solutions with proper governance, observability, and compliance.
By the end of this training, participants will be able to:
- Design finance-specific LangGraph workflows aligned to regulatory and audit requirements.
- Integrate financial data standards and ontologies into graph state and tooling.
- Implement reliability, safety, and human-in-the-loop controls for critical processes.
- Deploy, monitor, and optimize LangGraph systems for performance, cost, and SLAs.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
LangGraph Foundations: Graph-Based LLM Prompting and Chaining
14 HoursLangGraph is a framework for building graph-structured LLM applications that support planning, branching, tool use, memory, and controllable execution.
This instructor-led, live training (online or onsite) is aimed at beginner-level developers, prompt engineers, and data practitioners who wish to design and build reliable, multi-step LLM workflows using LangGraph.
By the end of this training, participants will be able to:
- Explain core LangGraph concepts (nodes, edges, state) and when to use them.
- Build prompt chains that branch, call tools, and maintain memory.
- Integrate retrieval and external APIs into graph workflows.
- Test, debug, and evaluate LangGraph apps for reliability and safety.
Format of the Course
- Interactive lecture and facilitated discussion.
- Guided labs and code walkthroughs in a sandbox environment.
- Scenario-based exercises on design, testing, and evaluation.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
LangGraph in Healthcare: Workflow Orchestration for Regulated Environments
35 HoursLangGraph enables stateful, multi-actor workflows powered by LLMs with precise control over execution paths and state persistence. In healthcare, these capabilities are crucial for compliance, interoperability, and building decision-support systems that align with medical workflows.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level professionals who wish to design, implement, and manage LangGraph-based healthcare solutions while addressing regulatory, ethical, and operational challenges.
By the end of this training, participants will be able to:
- Design healthcare-specific LangGraph workflows with compliance and auditability in mind.
- Integrate LangGraph applications with medical ontologies and standards (FHIR, SNOMED CT, ICD).
- Apply best practices for reliability, traceability, and explainability in sensitive environments.
- Deploy, monitor, and validate LangGraph applications in healthcare production settings.
Format of the Course
- Interactive lecture and discussion.
- Hands-on exercises with real-world case studies.
- Implementation practice in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
LangGraph for Legal Applications
35 HoursLangGraph is a framework for building stateful, multi-actor LLM applications as composable graphs with persistent state and precise control over execution.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level professionals who wish to design, implement, and operate LangGraph-based legal solutions with the necessary compliance, traceability, and governance controls.
By the end of this training, participants will be able to:
- Design legal-specific LangGraph workflows that preserve auditability and compliance.
- Integrate legal ontologies and document standards into graph state and processing.
- Implement guardrails, human-in-the-loop approvals, and traceable decision paths.
- Deploy, monitor, and maintain LangGraph services in production with observability and cost controls.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Building Dynamic Workflows with LangGraph and LLM Agents
14 HoursLangGraph is a framework for composing graph-structured LLM workflows that support branching, tool use, memory, and controllable execution.
This instructor-led, live training (online or onsite) is aimed at intermediate-level engineers and product teams who wish to combine LangGraph’s graph logic with LLM agent loops to build dynamic, context-aware applications such as customer support agents, decision trees, and information retrieval systems.
By the end of this training, participants will be able to:
- Design graph-based workflows that coordinate LLM agents, tools, and memory.
- Implement conditional routing, retries, and fallbacks for robust execution.
- Integrate retrieval, APIs, and structured outputs into agent loops.
- Evaluate, monitor, and harden agent behavior for reliability and safety.
Format of the Course
- Interactive lecture and facilitated discussion.
- Guided labs and code walkthroughs in a sandbox environment.
- Scenario-based design exercises and peer reviews.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
LangGraph for Marketing Automation
14 HoursLangGraph is a graph-based orchestration framework that enables conditional, multi-step LLM and tool workflows, ideal for automating and personalizing content pipelines.
This instructor-led, live training (online or onsite) is aimed at intermediate-level marketers, content strategists, and automation developers who wish to implement dynamic, branching email campaigns and content generation pipelines using LangGraph.
By the end of this training, participants will be able to:
- Design graph-structured content and email workflows with conditional logic.
- Integrate LLMs, APIs, and data sources for automated personalization.
- Manage state, memory, and context across multi-step campaigns.
- Evaluate, monitor, and optimize workflow performance and delivery outcomes.
Format of the Course
- Interactive lectures and group discussions.
- Hands-on labs implementing email workflows and content pipelines.
- Scenario-based exercises on personalization, segmentation, and branching logic.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Ξεκινώντας με το Ollama: Εκτέλεση τοπικών μοντέλων AI
7 HoursΑυτή η εκπαιδευτική διαμορφωμένη, ζωντανή εκπαίδευση στο Ελλάδα (online ή αποκλειστικά) προς τους αρχικό επίπεδου επαγγελματίες που επιθυμούν να εγκαταστήσουν, διαμορφώσουν και να χρησιμοποιήσουν το Ollama για τη λειτουργία μοντέλων AI στις εγκατεστημένες τους μηχανές.
Με το τέλος αυτής της εκπαίδευσης, οι συμμετέχοντες θα μπορούν να:
- Παίξουν κατανόηση των βασικών του Ollama και των δυναμιών του.
- Καθιερώσουν το Ollama για τη λειτουργία των αποκλειστικών μοντέλων AI.
- Ανάπτυξη και εμφάνιση με LLMs χρησιμοποιώντας το Ollama.
- Βελτίωσης απόδοσης και εκμετάλλευσης πόρων για λειτουργίες AI.
- Διεξήγηση ιδιωματικών κατευθύνσεων τοπικής εγκατάστασης AI σε διάφορους κλάδους.