Παρουσίαση/Προβολή

Εικόνα επιλογής

ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ

(ΠΛ0806) -  ΕΥΤΥΧΙΟΣ ΠΡΩΤΟΠΑΠΑΔΑΚΗΣ

Περιγραφή Μαθήματος

Το μάθημα ξεκινά με μια εισαγωγή στα νευρωνικά δίκτυα, καλύπτοντας έννοιες όπως η αρχιτεκτονική, οι συναρτήσεις κόστους, οι συναρτήσεις ενεργοποίησης και οι αλγόριθμοι βελτιστοποίησης.

Στη συνέχεια, εμβαθύνουμε σε ειδικές αρχιτεκτονικές:

Συνελικτικά Νευρωνικά Δίκτυα (CNNs): Θα εξετάσουμε τον τρόπο λειτουργίας των συνελικτικών και των pooling στρώσεων, καθώς και σύγχρονες αρχιτεκτονικές όπως οι VGG, ResNet και EfficientNet. Αυτή η ενότητα εστιάζει στην όραση υπολογιστών με εφαρμογές όπως η ανίχνευση αντικειμένων (object detection) και η σημασιολογική κατάτμηση (semantic segmentation).

Αναδρομικά Νευρωνικά Δίκτυα (RNNs): Θα αναλύσουμε την καταλληλότητα των RNNs για την επεξεργασία ακολουθιακών δεδομένων, καθώς και τις βελτιωμένες εκδόσεις τους, LSTMs και GRUs.

Transformers: Θα μελετήσουμε τον μηχανισμό της προσοχής (attention), τη βάση των Transformers, και θα αναλύσουμε τη λειτουργία μεγάλων γλωσσικών μοντέλων όπως τα BERT και GPT.

Επιπλέον, το μάθημα περιλαμβάνει την πρακτική εφαρμογή τεχνικών όπως το Transfer Learning για την αξιοποίηση προεκπαιδευμένων μοντέλων, τη χρήση Autoencoders για την μείωση της διάστασης του χώρου των μεταβλητών απόφασης, καθώς και μια εισαγωγή στα  Παραγωγικά Ανταγωνιστικά Δίκτυα (GANs) για τη σύνθεση νέων δεδομένων.

Τέλος, θα καλύψουμε σημαντικά θέματα όπως η βελτιστοποίηση των υπερπαραμέτρων (hyperparameter optimization) και η εξηγησιμότητα (explainability) των μοντέλων, μια κρίσιμη πτυχή για την υιοθέτηση της Τεχνητής Νοημοσύνης σε κρίσιμους τομείς.

Ημερομηνία δημιουργίας

Παρασκευή 4 Μαρτίου 2022

  • Απαλλακτικές εργασίες

    Οι απαλλακτικές εργασίες είναι ατομικές ή σε ομάδες των δύο (2) ατόμων.

     Ένα άτομο δεν μπορεί να υποβάλλει παραπάνω από μια απαλλακτική εργασία στο τρέχον ακαδημαϊκό έτος, για το συγκεκριμένο μάθημα.

    Εφόσον παραδώσετε απαλλακτική εργασία *δεν* εξετάζεστε στο μάθημα, ούτε υποβάλετε τις εργαστηριακές ασκήσεις.

    Η υποβολή της εργασίας γίνεται μέσω του eClass, σε φάκελο zip.

    Η εργασία θα περιέχει τεχνική έκθεση, σε αρχείο pdf, καθώς και κώδικα σε γλώσσα Python, που να τρέχει στο Google Colab.

    Ως ημερομηνία παράδοσης ορίζεται η τελευταία Παρασκευή πριν την έναρξη της εκάστοτε εξεταστικής.

    Το κείμενο της εργασίας θα είναι στα Ελληνικά. Οι τεχνικοί όροι θα παραμείνουν στα Αγγλικά.

    Προτού επιλέξετε την απαλλακτική εργασία, συνιστάται να ρίξετε μια ματιά στις δύο εργαστηριακές ασκήσεις. Η προσπάθεια που θα καταβάλετε στην απαλλακτική είναι μεγαλύτερη από την αντίστοιχη προσπάθεια για την ολοκλήρωση των δύο εργαστηριακών.

    Η ανάληψη απαλλακτικής εργασίας προϋποθέτει την αναζήτηση θέματος (και dataset) από την πλευρά του φοιτητή/φοιτήτριας, καθώς και την έγκριση του θέματος από τον διδάσκοντα. Πιο συγκεκριμένα:

    1. Αναζητάτε κάποιο θέμα που σας ενδιαφέρει και εντοπίζετε σχετικά dataset.
    2. Δημιουργείτε μια δισέλιδη τεκμηρίωση, στα Ελληνικά, για το αντικείμενο που σας ενδιαφέρει. Η τεκμηρίωση πρέπει να περιέχει, τουλάχιστον, τις ακόλουθες πληροφορίες:
      1. Το είδος του προβλήματος: τι προσπαθείτε να υλοποιήσετε; Αφορά σε classification, regression, clustering, κάτι άλλο;
      2. Τα δεδομένα που έχετε: τι θα χρησιμοποιήσετε σαν είσοδο, ποια θα είναι η έξοδος;
      3. Υπάρχουν σχετικές έρευνες πάνω στα δεδομένα που προτείνετε; Τι μετρικές απόδοσης παρουσιάζουν αυτές οι έρευνες;
      4. Κάποια προεργασία στα δεδομένα και μερικά επεξηγηματικά σχεδιαγράμματα: Υπάρχουν ελλείπεις τιμές; Ανισοκατανομή στα δεδομένα; Τι όγκο δεδομένων έχετε;
      5. Οποιαδήποτε άλλη πληροφορία θεωρείτε χρήσιμη.
    3. Θα στείλετε mail στον διδάσκοντα, με τίτλο: Μηχανική Μάθηση, Αίτημα για εκπόνηση απαλλακτικής εργασίας. Στο σώμα κειμένου θα αναφέρετε καθαρά:
      1. Ποιος/ποιοι θα δουλέψουν στην εργασία
      2. Ενδεικτικό τίτλο εργασίας
      3. Μια περίληψη: κυριολεκτικά 2 προτάσεις σχετικά με το τι θα ασχοληθείτε.
      4. Μην ξεχάσετε να επισυνάψετε την δισέλιδη αναφορά.

    Βαθμολογία

    Τελικός βαθμός = 0.5 × εργαστήριο + 0.5 × θεωρία. Εφόσον πληρούνται (όλα) τα ακόλουθα τρία (3) κριτήρια:

    1. Βαθμός Θεωρίας > 4.0 ΚΑΙ
    2. Βαθμός εργαστηρίου > 4.0 ΚΑΙ
    3. Έχετε παραδώσει και τις δυο (2) εργαστηριακές ασκήσεις

    Διευκρινήσεις:

    • Οι βαθμοί σας (εργαστήριο ή/και θεωρία) διατηρούνται για το τρέχον ακαδημαϊκό έτος. Ισχύουν και για τις εμβόλιμες εξεταστικές στο τρέχον έτος.
    • Φοιτητές παλαιότερων ετών θα εξεταστούν εκ νέου τόσο σε θεωρία όσο και εργαστήριο.

    Δημιουργία και Λειτουργία Ομάδων για Εργασίες

    Οι εργαστηριακές ασκήσεις πραγματοποιούνται σε ομάδες από 1 έως 4 φοιτητές/τριες. Σημειώνεται ότι οι ομάδες πρέπει να είναι οι ίδιες και στις δύο εργασίες, δηλαδή δεν επιτρέπεται αλλαγή μελών μεταξύ της πρώτης και της δεύτερης εργασίας.

    Η υποβολή των εργασιών γίνεται μέσω της πλατφόρμας Open eClass, στην αντίστοιχη καρτέλα. Η υποβολή της εργασίας πραγματοποιείται από ένα (1) μέλος της ομάδας (δεν έχει σημασία ποιος/ποια), ενώ είναι υποχρεωτικό να εμφανίζονται καθαρά στο εξώφυλλο της εργασίας τα ονόματα και οι αριθμοί μητρώου όλων των μελών της ομάδας.

    Δεν απαιτείται δήλωση της ομάδας μέσω email, καθώς η εργασία θα περιλαμβάνει τα πλήρη στοιχεία των μελών.

    Έκδοση υπηρεσιακού σημειώματος, για συμμετοχή σε εξετάσεις

    Σχετικά με την έκδοση Υπηρεσιακού Σημειώματος Συμμετοχής σε Εξετάσεις, σας ενημερώνουμε ότι:

    Θα χρειαστεί οι ίδιοι να το κατεβάσετε από το https://www.uom.gr/dai/diadikasies-entypa (ΓΕΝΙΚΑ -> «Υπηρεσιακό Σημείωμα Συμμετοχής σε Εξετάσεις»).
    Πρεπει να συμπληρώσετε τα στοιχεία σας καθώς και αυτά του μαθήματος.

    Κατόπιν να το στείλετε για ψηφιακή υπογραφή στον καθηγητή του μαθήματος αναγράφοντας στο «θέμα» του e-mail: «Έκδοση Υπηρεσιακού Σημειώματος Συμμετοχής σε Εξετάσεις» . Στη συνέχεια θα το προωθήσει ο ίδιος στη Γραμματεία για τα περεταίρω και θα σας αποσταλεί από τη Γραμματεία.

    Εξέταση μαθήματος

    1.Οι εξετάσεις θα γίνουν με κλειστές σημειώσεις.

    2.Δεν επιτρέπεται η χρήση οποιουδήποτε ηλεκτρονικού μέσου, συμπεριλαμβανομένου των laptop, tablet, κινητών τηλεφώνων ή αριθμομηχανών.

    3.Τα θέματα είναι Πολλαπλής επιλογής – μονής απάντησης

    4.Υπάρχει αρνητική βαθμολογία, αν απαντήσετε λάθος

    5.Δεν δίνονται διευκρινήσεις στα θέματα των ερωτήσεων. Εφόσον κάτι δεν διευκρινίζεται, έχετε το δικαίωμα να κάνετε όποια υπόθεση σας βολεύει, με την προϋπόθεση ότι ευσταθεί επιστημονικά.

    Προσοχή! Δικαίωμα συμμετοχής στην εξέταση έχουν μόνο όσοι/όσες έχουν παραδώσει και τις δύο (2) εργαστηριακές ασκήσεις [Ισχύει και για φοιτητές παλαιότερων ετών], για το τρέχον ακαδημαϊκό έτος.

    Οδηγίες για Αναγνώριση Μαθήματος στο Πλαίσιο του Προγράμματος Erasmus

    Για να εξασφαλίσετε την αναγνώριση ενός μαθήματος που σκοπεύετε να παρακολουθήσετε στο εξωτερικό μέσω του προγράμματος Erasmus, απαιτείται αντιστοιχία της διδαχθείσας ύλης με το μάθημα "Μηχανική Μάθηση" σε ποσοστό μεγαλύτερο από 80%.

    Οι φοιτητές/φοιτήτριες πρέπει να ακολουθήσουν τα εξής βήματα πριν την παρακολούθηση:

    1. Εύρεση περιγράμματος (syllabus): Αναζητήστε το περίγραμμα του μαθήματος που σκοπεύετε να παρακολουθήσετε στο εξωτερικό.
    2. Σύγκριση διδακτέας ύλης: Συγκρίνετε τη διδακτέα ύλη του μαθήματος στο εξωτερικό με εκείνη του μαθήματος "Μηχανική Μάθηση".
    3. Προετοιμασία έκθεσης: Συντάξτε μια σύντομη έκθεση (μέχρι μία σελίδα) που να τεκμηριώνει την αντιστοίχιση. Περιγράψτε αναλυτικά πώς καλύπτεται το 80% της ύλης και αναφέρετε βασικά σημεία του περιγράμματος του μαθήματος στο εξωτερικό.
    4. Παροχή συνδέσμων: Συμπεριλάβετε τους επίσημους συνδέσμους του μαθήματος στο εξωτερικό για τυχόν έλεγχο.
    5. Παραπομπή στο περίγραμμα: Χρησιμοποιήστε τη διάρθρωση και τη διδακτέα ύλη που είναι διαθέσιμη στην ενότητα "Περίγραμμα -> Περιεχόμενο μαθήματος" για τη σύγκριση.

    Η τελική έγκριση για την αναγνώριση θα δοθεί πριν την παρακολούθηση, βάσει της πληρότητας και της τεκμηρίωσης που θα προκύψει από τη σύγκριση.

    Περιεχόμενο μαθήματος

    Lesson 1: Introduction to Neural Networks

    • Overview of neural networks and their importance
    • Biological vs. artificial neurons
    • Applications of neural networks

    Lesson 2: Basic Concepts and Theory

    • Neural network architecture and components
    • Forward and backward propagation
    • Loss functions and optimization algorithms

    Lesson 3: Parameterization and Architecture Setup

    • Hyperparameters in neural networks
    • Weight initialization techniques
    • Regularization methods (dropout, batch normalization)

    Lesson 4: Stacked Autoencoders

    • Concept of autoencoders
    • Layer-wise training and reconstruction loss
    • Applications in dimensionality reduction and anomaly detection

    Lesson 5: Convolutional Neural Networks (CNNs)

    • Convolutional layers and feature extraction
    • Pooling layers and their impact on model performance
    • Architectures such as VGG, ResNet, and EfficientNet

    Lesson 6: Transfer Learning

    • Pretrained models and feature extraction
    • Fine-tuning strategies
    • Applications and best practices

    Lesson 7: Object Detection

    • R-CNN, Fast R-CNN, and Faster R-CNN
    • YOLO and SSD architectures
    • Real-world applications and challenges

    Lesson 8: Semantic Segmentation

    • Difference between object detection and segmentation
    • U-Net, DeepLab, and Mask R-CNN architectures
    • Practical use cases in medical imaging and autonomous driving

    Lesson 9: Recurrent Neural Networks (RNNs)

    • Sequence modeling and recurrent structures
    • Long Short-Term Memory (LSTM) and Gated Recurrent Units (GRUs)
    • Applications in time-series forecasting and NLP

    Lesson 10: Transformers and Attention Mechanisms

    • Self-attention and positional encoding
    • Transformer-based models (BERT, GPT)
    • Comparison with RNNs and CNNs in NLP tasks

    Lesson 11: Generative Adversarial Networks (GANs)

    • GAN architecture: Generator vs. Discriminator
    • Training challenges (mode collapse, instability)
    • Applications in image synthesis, data augmentation, and deepfake generation

    Lesson 12: Explainability in Neural Networks

    • Challenges of interpretability in deep learning
    • Feature importance analysis with LIME and SHAP
    • Explainability in high-stakes applications

    Lesson 13: Summary and Future Directions

    • Recap of key neural network concepts
    • Emerging trends in deep learning
    • Course wrap-up and project guidance

    Πτυχιακή Εργασία

    Η πτυχιακή εργασία εξετάζεται κατά τη διάρκεια της εξεταστικής περιόδου, ενώπιον τριμελούς επιτροπής. Η εξέταση πραγματοποιείται online, μέσω Google Meet.

    Η παρουσίαση της εργασίας πρέπει να ολοκληρωθεί σε λιγότερο από 20 λεπτά. Ακολουθούν ερωτήσεις από την επιτροπή σχετικά με το αντικείμενο της εργασίας, τη μεθοδολογία και τα αποτελέσματα.

    Το τελικό κείμενο της πτυχιακής πρέπει να παραδοθεί στον επιβλέποντα τουλάχιστον 10 ημέρες πριν από την έναρξη της εξεταστικής περιόδου, ώστε να υπάρχει επαρκής χρόνος για σχόλια και διορθώσεις.

    Η υποβολή γίνεται μέσω της πλατφόρμας Open eClass, στον αντίστοιχο σύνδεσμο.

    Ο/η φοιτητής/τρια οφείλει:

    1. Να εφαρμόσει όλες τις καλές πρακτικές συγγραφής και τεκμηρίωσης, όπως περιγράφονται στον σχετικό οδηγό που βρίσκεται διαθέσιμος στο eClass.

    2. Να ενσωματώσει όλες τις παρατηρήσεις και αλλαγές που θα προτείνει ο επιβλέπων καθηγητής, πριν την τελική υποβολή.

    Παρουσίαση πτυχιακής εργασίας

    Η παρουσίαση της πτυχιακής πρέπει να είναι σαφής, σύντομη και καλά οργανωμένη. Ειδικότερα:

    1. Οι διαφάνειες πρέπει να είναι αριθμημένες.

    2. Περιορίστε τη χρήση μεγάλων κειμένων. Προτιμήστε λίγες, καθαρές προτάσεις ή σημεία (bullet points).

    3. Χρησιμοποιήστε εικόνες, σχήματα και διαγράμματα όπου είναι δυνατόν – μια εικόνα εξηγεί περισσότερο από μια παράγραφο.

    4. Δείξτε ενδεικτικά αποτελέσματα, π.χ. γραφήματα, πίνακες, κ.λπ.

    5. Αποφύγετε το υπερβολικό animation και τις έντονες χρωματικές αντιθέσεις.

    6. Η πρώτη διαφάνεια πρέπει να περιέχει:

    • Τίτλο εργασίας
    • Ονοματεπώνυμο
    • Ημερομηνία παρουσίασης

    7. Η τελευταία διαφάνεια να είναι αφιερωμένη σε συμπεράσματα και μελλοντική εργασία.

    8. Να έχετε κάνει πρόβα της παρουσίασης και να τηρείτε το χρονικό όριο.

    9. Είναι χρήσιμο να έχετε σημειώσεις για κάθε διαφάνεια, αλλά μη διαβάζετε το περιεχόμενο κατά λέξη.