Εξέλιξη Κομματιού
Ημέρα 01
Επισκόπηση της Επιχειρηματικής Ευφυΐας Μεγάλων Δεδομένων για Ανάλυση Εγκληματικής Νοημοσύνης
- Μελέτες Περιπτώσεων από την Επιβολή του Νόμου - Προβλεπτική Αστυνόμευση
- Ρυθμός υιοθέτησης Μεγάλων Δεδομένων στις Υπηρεσίες Επιβολής του Νόμου και πώς ευθυγραμμίζουν τη μελλοντική τους λειτουργία γύρω από την Προβλεπτική Ανάλυση Μεγάλων Δεδομένων
- Αναδυόμενες τεχνολογικές λύσεις όπως αισθητήρες πυροβολισμών, βίντεο παρακολούθησης και μέσα κοινωνικής δικτύωσης
- Χρήση τεχνολογίας Μεγάλων Δεδομένων για τον μετριασμό της υπερφόρτωσης πληροφοριών
- Διασύνδεση Μεγάλων Δεδομένων με παλαιά δεδομένα
- Βασική κατανόηση των τεχνολογιών που επιτρέπουν την προβλεπτική ανάλυση
- Ενοποίηση Δεδομένων & Οπτικοποίηση Πίνακα Ελέγχου
- Διαχείριση απάτης
- Επιχειρηματικοί Κανόνες και Ανίχνευση Απάτης
- Ανίχνευση απειλών και δημιουργία προφίλ
- Ανάλυση κόστους-οφέλους για την υλοποίηση Μεγάλων Δεδομένων
Εισαγωγή στα Μεγάλα Δεδομένα
- Κύρια χαρακτηριστικά των Μεγάλων Δεδομένων -- Όγκος, Ποικιλία, Ταχύτητα και Ακρίβεια.
- Αρχιτεκτονική MPP (Massively Parallel Processing)
- Αποθήκες Δεδομένων – στατικό σχήμα, σύνολο δεδομένων που εξελίσσεται αργά
- Βάσεις Δεδομένων MPP: Greenplum, Exadata, Teradata, Netezza, Vertica κ.λπ.
- Λύσεις βασισμένες στο Hadoop – χωρίς περιορισμούς στη δομή του συνόλου δεδομένων.
- Τυπικό μοτίβο: HDFS, MapReduce (crunch), ανάκτηση από HDFS
- Apache Spark για ροϊκή επεξεργασία
- Δέσμης - κατάλληλη για αναλυτικές/μη διαδραστικές εργασίες
- Όγκος: CEP δεδομένα ροής
- Τυπικές επιλογές – προϊόντα CEP (π.χ. Infostreams, Apama, MarkLogic κ.λπ.)
- Λιγότερο έτοιμα για παραγωγή – Storm/S4
- Βάσεις Δεδομένων NoSQL – (στηλώδεις και κλειδιού-τιμής): Καταλληλότερες ως αναλυτικό συμπλήρωμα σε αποθήκη/βάση δεδομένων
Λύσεις NoSQL
- KV Store - Keyspace, Flare, SchemaFree, RAMCloud, Oracle NoSQL Database (OnDB)
- KV Store - Dynamo, Voldemort, Dynomite, SubRecord, Mo8onDb, DovetailDB
- KV Store (Ιεραρχικό) - GT.m, Cache
- KV Store (Διατεταγμένο) - TokyoTyrant, Lightcloud, NMDB, Luxio, MemcacheDB, Actord
- KV Cache - Memcached, Repcached, Coherence, Infinispan, EXtremeScale, JBossCache, Velocity, Terracoqua
- Tuple Store - Gigaspaces, Coord, Apache River
- Βάση Δεδομένων Αντικειμένων - ZopeDB, DB40, Shoal
- Document Store - CouchDB, Cloudant, Couchbase, MongoDB, Jackrabbit, XML-Databases, ThruDB, CloudKit, Prsevere, Riak-Basho, Scalaris
- Wide Columnar Store - BigTable, HBase, Apache Cassandra, Hypertable, KAI, OpenNeptune, Qbase, KDI
Ποικιλίες Δεδομένων: Εισαγωγή στα ζητήματα Καθαρισμού Δεδομένων στα Μεγάλα Δεδομένα
- RDBMS – στατική δομή/σχήμα, δεν προάγει ένα ευέλικτο, διερευνητικό περιβάλλον.
- NoSQL – ημιδομημένο, αρκετή δομή για αποθήκευση δεδομένων χωρίς ακριβές σχήμα πριν από την αποθήκευση
- Ζητήματα καθαρισμού δεδομένων
Hadoop
- Πότε να επιλέξετε το Hadoop;
- ΔΟΜΗΜΕΝΑ - Οι αποθήκες/βάσεις δεδομένων επιχειρήσεων μπορούν να αποθηκεύσουν τεράστια δεδομένα (με κόστος) αλλά επιβάλλουν δομή (δεν είναι καλό για ενεργή διερεύνηση)
- ΗΜΙΔΟΜΗΜΕΝΑ δεδομένα – δύσκολη η διαχείριση με παραδοσιακές λύσεις (DW/DB)
- Αποθήκευση δεδομένων = ΤΕΡΑΣΤΙΑ προσπάθεια και στατική ακόμα και μετά την υλοποίηση
- Για ποικιλία & όγκο δεδομένων, επεξεργασμένα σε υλικό εμπορίου – HADOOP
- Υλικό εμπορίου που απαιτείται για τη δημιουργία ενός Hadoop Cluster
Εισαγωγή στο Map Reduce /HDFS
- MapReduce – κατανεμημένη υπολογιστική σε πολλαπλούς διακομιστές
- HDFS – καθιστά τα δεδομένα τοπικά διαθέσιμα για την υπολογιστική διαδικασία (με πλεονασμό)
- Δεδομένα – μπορούν να είναι αδόμητα/χωρίς σχήμα (σε αντίθεση με το RDBMS)
- Ευθύνη του προγραμματιστή να δώσει νόημα στα δεδομένα
- Προγραμματισμός MapReduce = εργασία με Java (πλεονεκτήματα/μειονεκτήματα), χειροκίνητη φόρτωση δεδομένων στο HDFS
Ημέρα 02
Οικοσύστημα Μεγάλων Δεδομένων -- Δημιουργία ETL (Extract, Transform, Load) Μεγάλων Δεδομένων -- Ποια εργαλεία Μεγάλων Δεδομένων να χρησιμοποιήσετε και πότε;
- Hadoop vs. Άλλες λύσεις NoSQL
- Για διαδραστική, τυχαία πρόσβαση στα δεδομένα
- Hbase (στηλώδης βάση δεδομένων) πάνω από Hadoop
- Τυχαία πρόσβαση στα δεδομένα αλλά επιβάλλει περιορισμούς (μέγιστο 1 PB)
- Δεν είναι καλό για ad-hoc αναλυτική, καλό για καταγραφή, μέτρηση, χρονοσειρές
- Sqoop - Εισαγωγή από βάσεις δεδομένων σε Hive ή HDFS (πρόσβαση JDBC/ODBC)
- Flume – Διοχέτευση δεδομένων (π.χ. δεδομένα καταγραφής) στο HDFS
Σύστημα Διαχείρισης Μεγάλων Δεδομένων
- Κινούμενα μέρη, κόμβοι υπολογισμού ξεκινούν/αποτυγχάνουν: ZooKeeper - Για υπηρεσίες διαμόρφωσης/συντονισμού/ονοματοδοσίας
- Πολύπλοκη σωλήνωση/ροή εργασίας: Oozie – διαχείριση ροής εργασίας, εξαρτήσεων, αλυσίδας
- Ανάπτυξη, διαμόρφωση, διαχείριση συμπλέγματος, αναβάθμιση κ.λπ. (διαχειριστής συστήματος): Ambari
- Στο Cloud: Whirr
Προβλεπτική Ανάλυση -- Θεμελιώδεις Τεχνικές και Επιχειρηματική Ευφυΐα βασισμένη στη Μηχανική Μάθηση
- Εισαγωγή στη Μηχανική Μάθηση
- Εκμάθηση τεχνικών ταξινόμησης
- Μπεϋζιανή Πρόβλεψη -- προετοιμασία αρχείου εκπαίδευσης
- Μηχανές Διανυσμάτων Υποστήριξης
- KNN άλγεβρα p-Tree & κάθετη εξόρυξη
- Νευρωνικά Δίκτυα
- Πρόβλημα μεγάλων μεταβλητών Μεγάλων Δεδομένων -- Τυχαίο δάσος (RF)
- Πρόβλημα αυτοματοποίησης Μεγάλων Δεδομένων – Πολυ-μοντέλο σύνολο RF
- Αυτοματοποίηση μέσω Soft10-M
- Εργαλείο ανάλυσης κειμένου-Treeminer
- Ευέλικτη μάθηση
- Μάθηση βασισμένη σε πράκτορες
- Κατανεμημένη μάθηση
- Εισαγωγή σε εργαλεία ανοιχτού κώδικα για προβλεπτική ανάλυση: R, Python, Rapidminer, Mahut
Οικοσύστημα Προβλεπτικής Ανάλυσης και η εφαρμογή του στην Ανάλυση Εγκληματικής Νοημοσύνης
- Τεχνολογία και η ερευνητική διαδικασία
- Ανάλυση διορατικότητας
- Ανάλυση οπτικοποίησης
- Δομημένη προβλεπτική ανάλυση
- Αδόμητη προβλεπτική ανάλυση
- Απειλές/αστέρι απάτης/δημιουργία προφίλ προμηθευτών
- Μηχανή Συστάσεων
- Ανίχνευση προτύπων
- Ανακάλυψη Κανόνα/Σεναρίου – αποτυχία, απάτη, βελτιστοποίηση
- Ανακάλυψη βασικής αιτίας
- Ανάλυση συναισθήματος
- Ανάλυση CRM
- Ανάλυση δικτύου
- Ανάλυση κειμένου για απόκτηση πληροφοριών από απομαγνητοφωνήσεις, καταθέσεις μαρτύρων, συνομιλίες στο διαδίκτυο κ.λπ.
- Επισκόπηση υποβοηθούμενη από τεχνολογία
- Ανάλυση απάτης
- Ανάλυση σε Πραγματικό Χρόνο
Ημέρα 03
Αναλυτική σε Πραγματικό Χρόνο και Κλιμακούμενη πάνω από Hadoop
- Γιατί αποτυγχάνουν οι κοινοί αλγόριθμοι αναλυτικής στο Hadoop/HDFS
- Apache Hama- για Bulk Synchronous κατανεμημένο υπολογισμό
- Apache SPARK- για υπολογισμό συμπλέγματος και αναλυτική σε πραγματικό χρόνο
- CMU Graphics Lab2- Γραφική ασύγχρονη προσέγγιση κατανεμημένου υπολογισμού βασισμένη σε γράφους
- KNN p -- Προσέγγιση βασισμένη στην άλγεβρα από την Treeminer για μειωμένο κόστος λειτουργίας υλικού
Εργαλεία για eDiscovery και Forensics
- eDiscovery πάνω από Μεγάλα Δεδομένα vs. Παλαιά δεδομένα – σύγκριση κόστους και απόδοσης
- Προβλεπτική κωδικοποίηση και Επισκόπηση Υποβοηθούμενη από Τεχνολογία (TAR)
- Ζωντανή επίδειξη του vMiner για την κατανόηση του πώς το TAR επιτρέπει ταχύτερη ανακάλυψη
- Ταχύτερη ευρετηρίαση μέσω HDFS – Ταχύτητα δεδομένων
- NLP (Επεξεργασία Φυσικής Γλώσσας) – προϊόντα και τεχνικές ανοιχτού κώδικα
- eDiscovery σε ξένες γλώσσες -- τεχνολογία για επεξεργασία ξένων γλωσσών
Επιχειρηματική Ευφυΐα Μεγάλων Δεδομένων για Κυβερνοασφάλεια – Απόκτηση πλήρους εικόνας 360 μοιρών, ταχεία συλλογή δεδομένων και αναγνώριση απειλών
- Κατανόηση των βασικών της αναλυτικής ασφάλειας -- επιφάνεια επίθεσης, εσφαλμένη διαμόρφωση ασφάλειας, άμυνες κεντρικού υπολογιστή
- Υποδομή δικτύου / Μεγάλη σωλήνωση δεδομένων / ETL απόκρισης για αναλυτική σε πραγματικό χρόνο
- Προδιαγεγραμμένη vs προβλεπτική – Βασισμένη σε σταθερούς κανόνες vs αυτόματη ανακάλυψη κανόνων απειλών από Μεταδεδομένα
Συλλογή ανόμοιων δεδομένων για Ανάλυση Εγκληματικής Νοημοσύνης
- Χρήση IoT (Internet of Things) ως αισθητήρες για λήψη δεδομένων
- Χρήση Δορυφορικής Απεικόνισης για Εγχώρια Επιτήρηση
- Χρήση δεδομένων παρακολούθησης και εικόνας για αναγνώριση εγκληματιών
- Άλλες τεχνολογίες συλλογής δεδομένων -- drones, κάμερες σώματος, συστήματα σήμανσης GPS και τεχνολογία θερμικής απεικόνισης
- Συνδυασμός αυτοματοποιημένης ανάκτησης δεδομένων με δεδομένα που λαμβάνονται από πληροφοριοδότες, ανάκριση και έρευνα
- Πρόβλεψη εγκληματικής δραστηριότητας
Ημέρα 04
Επιχειρηματική Ευφυΐα πρόληψης απάτης από Μεγάλα Δεδομένα στην Ανάλυση Απάτης
- Βασική ταξινόμηση της Ανάλυσης Απάτης -- βασισμένη σε κανόνες vs προβλεπτική ανάλυση
- Επιβλεπόμενη vs μη επιβλεπόμενη Μηχανική Μάθηση για ανίχνευση προτύπων απάτης
- Απάτη επιχείρησης προς επιχείρηση, απάτη ιατρικών απαιτήσεων, ασφαλιστική απάτη, φοροδιαφυγή και ξέπλυμα χρήματος
Ανάλυση Μέσων Κοινωνικής Δικτύωσης -- Συλλογή και ανάλυση πληροφοριών
- Πώς τα Μέσα Κοινωνικής Δικτύωσης χρησιμοποιούνται από εγκληματίες για οργάνωση, στρατολόγηση και σχεδιασμό
- API ETL Μεγάλων Δεδομένων για εξαγωγή δεδομένων μέσων κοινωνικής δικτύωσης
- Κείμενο, εικόνα, μεταδεδομένα και βίντεο
- Ανάλυση συναισθήματος από ροή μέσων κοινωνικής δικτύωσης
- Συμφραζόμενο και μη συμφραζόμενο φιλτράρισμα ροής μέσων κοινωνικής δικτύωσης
- Πίνακας Ελέγχου Μέσων Κοινωνικής Δικτύωσης για ενσωμάτωση διαφορετικών μέσων κοινωνικής δικτύωσης
- Αυτοματοποιημένη δημιουργία προφίλ προφίλ μέσων κοινωνικής δικτύωσης
- Ζωντανή επίδειξη κάθε ανάλυσης θα δοθεί μέσω του εργαλείου Treeminer
Ανάλυση Μεγάλων Δεδομένων στην επεξεργασία εικόνας και ροών βίντεο
- Τεχνικές Αποθήκευσης Εικόνας στα Μεγάλα Δεδομένα -- Λύση αποθήκευσης για δεδομένα που υπερβαίνουν τα petabytes
- LTFS (Linear Tape File System) και LTO (Linear Tape Open)
- GPFS-LTFS (General Parallel File System - Linear Tape File System) -- κλιμακούμενη λύση αποθήκευσης για μεγάλα δεδομένα εικόνας
- Θεμελιώδεις αρχές ανάλυσης εικόνας
- Αναγνώριση αντικειμένων
- Κατάτμηση εικόνας
- Παρακολούθηση κίνησης
- Τρισδιάστατη ανακατασκευή εικόνας
Βιομετρία, DNA και Προγράμματα Αναγνώρισης Επόμενης Γενιάς
- Πέρα από τη λήψη δακτυλικών αποτυπωμάτων και την αναγνώριση προσώπου
- Αναγνώριση ομιλίας, πληκτρολόγησης (ανάλυση του μοτίβου πληκτρολόγησης ενός χρήστη) και CODIS (Συνδυασμένο Σύστημα Ευρετηρίου DNA)
- Πέρα από την αντιστοίχιση DNA: χρήση φαινοτύπησης DNA για εγκληματολογικούς σκοπούς για την κατασκευή ενός προσώπου από δείγματα DNA
Πίνακας Ελέγχου Μεγάλων Δεδομένων για γρήγορη προσβασιμότητα σε ποικίλα δεδομένα και απεικόνιση:
- Ενσωμάτωση υπάρχουσας πλατφόρμας εφαρμογών με Πίνακα Ελέγχου Μεγάλων Δεδομένων
- Διαχείριση Μεγάλων Δεδομένων
- Μελέτη Περίπτωσης Πίνακα Ελέγχου Μεγάλων Δεδομένων: Tableau και Pentaho
- Χρήση εφαρμογής Μεγάλων Δεδομένων για προώθηση υπηρεσιών βάσει τοποθεσίας στην Κυβέρνηση.
- Σύστημα παρακολούθησης και διαχείριση
Ημέρα 05
Πώς να δικαιολογήσετε την υλοποίηση Επιχειρηματικής Ευφυΐας Μεγάλων Δεδομένων μέσα σε έναν οργανισμό:
- Ορισμός της Απόδοσης Επένδυσης (ROI) για την υλοποίηση Μεγάλων Δεδομένων
- Μελέτες περιπτώσεων για εξοικονόμηση Χρόνου Αναλυτή στη συλλογή και προετοιμασία Δεδομένων – αύξηση παραγωγικότητας
- Κέρδος εσόδων από χαμηλότερο κόστος αδειοδότησης βάσεων δεδομένων
- Κέρδος εσόδων από υπηρεσίες βάσει τοποθεσίας
- Εξοικονόμηση κόστους από την πρόληψη απάτης
- Μια ολοκληρωμένη προσέγγιση υπολογιστικού φύλλου για τον υπολογισμό κατά προσέγγιση εξόδων vs. κέρδος εσόδων/εξοικονόμησης από την υλοποίηση Μεγάλων Δεδομένων.
Βήμα προς βήμα διαδικασία για την αντικατάσταση ενός παλαιού συστήματος δεδομένων με ένα Σύστημα Μεγάλων Δεδομένων
- Χάρτης Πορείας Μετανάστευσης Μεγάλων Δεδομένων
- Ποιες κρίσιμες πληροφορίες απαιτούνται πριν από την αρχιτεκτόνηση ενός συστήματος Μεγάλων Δεδομένων;
- Ποιοι είναι οι διαφορετικοί τρόποι υπολογισμού του Όγκου, της Ταχύτητας, της Ποικιλίας και της Ακρίβειας των δεδομένων
- Πώς να υπολογιστεί η ανάπτυξη δεδομένων
- Μελέτες περιπτώσεων
Ανασκόπηση Πωλητών Μεγάλων Δεδομένων και ανασκόπηση των προϊόντων τους.
- Accenture
- APTEAN (Πρώην CDC Software)
- Cisco Systems
- Cloudera
- Dell
- EMC
- GoodData Corporation
- Guavus
- Hitachi Data Systems
- Hortonworks
- HP
- IBM
- Informatica
- Intel
- Jaspersoft
- Microsoft
- MongoDB (Πρώην 10Gen)
- MU Sigma
- Netapp
- Opera Solutions
- Oracle
- Pentaho
- Platfora
- Qliktech
- Quantum
- Rackspace
- Revolution Analytics
- Salesforce
- SAP
- SAS Institute
- Sisense
- Software AG/Terracotta
- Soft10 Automation
- Splunk
- Sqrrl
- Supermicro
- Tableau Software
- Teradata
- Think Big Analytics
- Tidemark Systems
- Treeminer
- VMware (Μέρος της EMC)
Συνεδρία Ερωτήσεων/Απαντήσεων
Απαιτήσεις
- Γνώση διαδικασιών επιβολής του νόμου και συστημάτων δεδομένων
- Βασική κατανόηση SQL/Oracle ή σχεσιακών βάσεων δεδομένων
- Βασική κατανόηση στατιστικής (σε επίπεδο λογιστικού φύλλου)
Ακροατήριο
- Ειδικοί επιβολής του νόμου με τεχνικό υπόβαθρο
Σχόλια (3)
βασικά και αγάπησαν τα προετοιμασμένα έγγραφα και τα στοιχεία διδασκαλίας
Rekha Nallam - GE Medical Systems Polska Sp. z o.o.
Κομμάτι - Introduction to Predictive AI
Μηχανική Μετάφραση
Η Δέπθι ήταν εξαιρετικά ευαίσθητη στις ανάγκες μου, κατάλαβε όταν να προσθέτει επίπεδα περιπλοκότητας και όταν να κρατάει φαντάρη και να ακολουθεί ένα πιο δομημένο προσεγγισμό. Η Δέπθι εργάστηκε πραγματικά στο ρυθμό μου και έβεβαιωσε ότι μπόρεσα να χρησιμοποιήσω τις νέες λειτουργίες/εργαλεία μόνος μου, πρώτα εμφανίζοντάς τα και στη συνέχεια επιτρέποντάς μου να αναδημιουργήσω τα αντικείμενα οι οποίοι βοήθησαν πολύ στην εξασφάλιση της κατάληψης της κατάρτισης. Δεν μπορώ να είμαι πιο ικανοποιημένος/η με τους αποτελέσματα αυτής της κατάρτισης και με το επίπεδο της εξειδίκευσης της Δέπθι!
Deepthi - Invest Northern Ireland
Κομμάτι - IBM Cognos Analytics
Μηχανική Μετάφραση
Ήταν καλά προετοιμασμένος - και είναι πολύ συμπαθητικός.
Oliver - Post CH AG
Κομμάτι - Splunk Fundamentals
Μηχανική Μετάφραση