Ο καθηγητής Χάρης Μουρατίδης είναι μέλος μιας από τις πιο κρίσιμες επιστημονικές ομάδες για το μέλλον της Τεχνητής Νοημοσύνης στην Ευρώπη. Καθηγητής στο University of Essex και διευθυντής του Institute for Analytics and Data Science, με πολυετή έρευνα στην κυβερνοασφάλεια, την ιδιωτικότητα, τη μοντελοποίηση κινδύνου και την αξιόπιστη Τεχνητή Νοημοσύνη, ο Κερκυραίος επιστήμονας είναι ο μοναδικός Έλληνας που συμμετέχει στη νέα Ευρωπαϊκή Επιστημονική Ομάδα ανεξάρτητων εμπειρογνωμόνων για τον Κανονισμό Τεχνητής Νοημοσύνης.
Μιλώντας στο ertnews.gr, ο Χάρης Μουρατίδης εξηγεί γιατί η αξιολόγηση της Τεχνητής Νοημοσύνης δεν μπορεί να είναι ένας τυπικός έλεγχος πριν από την κυκλοφορία ενός μοντέλου, αλλά μια συνεχής διαδικασία σε όλο τον κύκλο ζωής του. Τονίζει ότι η συμμόρφωση με έναν κανονισμό δεν ταυτίζεται με την πραγματική ασφάλεια ενός συστήματος, ενώ επισημαίνει πως τα ισχυρά μοντέλα γενικής χρήσης παύουν να είναι απλώς τεχνολογικά εργαλεία όταν οι επιπτώσεις τους μπορούν να αγγίξουν τη δημόσια ασφάλεια, τη δημοκρατία, τα θεμελιώδη δικαιώματα και την οικονομική σταθερότητα.
Κύριε Μουρατίδη, ποιος είναι ο ρόλος της Επιστημονικής Ομάδας;
Η Επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων (Scientific Panel) είναι ανεξάρτητο συμβουλευτικό όργανο που συστάθηκε βάσει του Άρθρου 68 του Κανονισμού για την Τεχνητή Νοημοσύνη (AI Act), σε συνδυασμό με τον Εκτελεστικό Κανονισμό (ΕΕ) 2025/454, με 60 ανεξάρτητους εμπειρογνώμονες που υπηρετούν με προσωπική ιδιότητα για 24μηνη ανανεώσιμη θητεία. Ο πυρήνας της αποστολής της είναι να στηρίξει την εφαρμογή και την επιβολή του κανονισμού για την Τεχνητή Νοημοσύνη. Στις βασικές αρμοδιότητές της είναι να προειδοποιεί την Υπηρεσία Τεχνητής Νοημοσύνης (AI Office) για συστημικούς κινδύνους, να συμβουλεύει για την ταξινόμηση και τις μεθοδολογίες αξιολόγησης των μοντέλων γενικής χρήσης (GPAI) και να υποστηρίζει τις δραστηριότητες εποπτείας της αγοράς. Λειτουργεί συμπληρωματικά προς το συμβουλευτικό Φόρουμ (Advisory Forum) και το συμβούλιο για την ΤΝ (AI Board).
Ποια είναι η μεγαλύτερη δυσκολία στην αξιολόγηση γενικής χρήσης μοντέλων τεχνητής νοημοσύνης;
Η μεγαλύτερη δυσκολία στην αξιολόγηση μοντέλων τεχνητής νοημοσύνης γενικής χρήσης, GPAI (σ.σ. όπως το Gemini, το ChatGPT ή το Claude κ.α.) είναι ότι οι δυνατότητές τους είναι σε μεγάλο βαθμό ανεξάρτητες από το πλαίσιο χρήσης, ενώ οι κίνδυνοι που ενδέχεται να προκαλέσουν εξαρτώνται άμεσα από αυτό. Έτσι, η ίδια ικανότητα μπορεί να είναι ωφέλιμη σε ένα περιβάλλον και επιβλαβής σε ένα άλλο. Το πρόβλημα γίνεται ακόμη πιο σύνθετο επειδή τα μοντέλα γενικής χρήσης δεν σχεδιάζονται για μία συγκεκριμένη εφαρμογή αλλά μπορούν να χρησιμοποιηθούν σε πλήθος διαφορετικών τομέων και συχνά οι μελλοντικές χρήσεις τους δεν είναι γνωστές κατά τη στιγμή της αξιολόγησης.
Επιπλέον, οι παραδοσιακές μέθοδοι αξιολόγησης βασίζονται κυρίως σε σημεία αναφοράς (benchmarks) που μετρούν την απόδοση του μοντέλου σε προκαθορισμένες εργασίες. Ωστόσο, τα σημεία αναφοράς αυτά παρέχουν μόνο έμμεσες ενδείξεις για τους πραγματικούς κινδύνους, καθώς δεν αποτυπώνουν επαρκώς επικίνδυνες ικανότητες διπλής χρήσης, μη προβλέψιμες συμπεριφορές ή καταστάσεις στις οποίες το μοντέλο λειτουργεί σε αντιπαλικές (σ.σ. όταν κάποιος ή κάτι ενεργεί εναντίον του) ή αυτόνομες (agentic) συνθήκες.
Κατά συνέπεια, η αξιολόγηση δεν μπορεί να περιορίζεται μόνο στις δυνατότητες του ίδιου του μοντέλου. Η πραγματική πρόκληση είναι να συνδυαστεί η αξιολόγηση σε επίπεδο μοντέλου με την αξιολόγηση σε επίπεδο συστήματος και πραγματικού περιβάλλοντος ανάπτυξης, ώστε να εκτιμηθεί όχι μόνο τι μπορεί να κάνει το μοντέλο, αλλά και πώς, από ποιον και με ποιες συνέπειες μπορεί να χρησιμοποιηθεί στην πράξη. Για τον λόγο αυτό, σύγχρονα πλαίσια διακυβέρνησης όπως ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act) δεν αντιμετωπίζουν την αξιολόγηση ως εφάπαξ έλεγχο πριν την κυκλοφορία, αλλά προωθούν συνεχή αξιολόγηση και παρακολούθηση καθ’ όλη τη διάρκεια του κύκλου ζωής των μοντέλων.
Η Ευρωπαϊκή Επιτροπή κάνει αναφορά σε συστημικούς κινδύνους. Πώς ορίζεται πρακτικά ένας συστημικός κίνδυνος και πότε ένα μοντέλο παύει να είναι απλώς ένα τεχνολογικό εργαλείο και γίνεται ζήτημα δημόσιου συμφέροντος;
Ένας συστημικός κίνδυνος στην τεχνητή νοημοσύνη αφορά επιπτώσεις που δεν περιορίζονται σε μεμονωμένους χρήστες ή οργανισμούς, αλλά μπορούν να επηρεάσουν ευρύτερα κοινωνικά, οικονομικά ή πολιτικά συστήματα, όπως η δημόσια ασφάλεια, η δημοκρατία, τα θεμελιώδη δικαιώματα και η οικονομική σταθερότητα. Στον Κανονισμό για την Τεχνητή Νοημοσύνη (AI Act), η έννοια συνδέεται με μοντέλα γενικής χρήσης υψηλού αντικτύπου, με την υπολογιστική ισχύ άνω των ~10²⁵ FLOPs ως ενδεικτικό κριτήριο (proxy), μαζί με ποιοτικές αξιολογήσεις κινδύνου. Η ιδιαιτερότητα των μοντέλων αυτών είναι ότι μπορούν να χρησιμοποιηθούν σε πλήθος εφαρμογών, με αποτέλεσμα σφάλματα ή επικίνδυνες ικανότητες (π.χ. μαζική παραπληροφόρηση ή κυβερνοεπιθέσεις μεγάλης κλίμακας) να διαχέονται σε ολόκληρα οικοσυστήματα. Ένα μοντέλο γίνεται ζήτημα δημόσιου συμφέροντος όταν συνδυάζει κλίμακα και εμβέλεια, ικανότητα πρόκλησης σημαντικής βλάβης και κοινωνική εξάρτηση. Σε αυτό το σημείο, η αξιολόγηση δεν αφορά μόνο τεχνική απόδοση, αλλά και συστημικούς κοινωνικούς και θεσμικούς κινδύνους. Για τον λόγο αυτό, ο Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act) εισάγει την έννοια των «συστημικών κινδύνων» για τα πλέον ισχυρά μοντέλα γενικής χρήσης και απαιτεί από τους παρόχους τους συνεχή αξιολόγηση, δοκιμές, μέτρα μετριασμού κινδύνου και παρακολούθηση καθ’ όλη τη διάρκεια του κύκλου ζωής τους.
Πώς μπορεί να γίνει ουσιαστικός έλεγχος όταν τα πιο προηγμένα μοντέλα είναι συχνά κλειστά, εμπορικά προστατευμένα και τεχνικά αδιαφανή;
Ο ουσιαστικός έλεγχος προηγμένων μοντέλων τεχνητής νοημοσύνης είναι μια κεντρική πρόκληση επιβολής, ειδικά όταν τα μοντέλα είναι κλειστά, εμπορικά προστατευμένα και τεχνικά αδιαφανή. Η απάντηση δεν είναι η πλήρης δημοσιοποίηση ή ο «ανοιχτός κώδικας για όλα», αλλά η διασφάλιση επαρκούς πρόσβασης για επαλήθευση ισχυρισμών και αξιολόγηση κινδύνων.
Αυτό επιτυγχάνεται μέσω δομημένων καθεστώτων πρόσβασης, όπως αξιολόγηση μέσω προγραμματιστικής διεπαφής εφαρμογών (API), ασφαλή περιβάλλοντα δοκιμών, πρόσβαση υπό εμπιστευτικότητα, υποχρεωτική τεχνική τεκμηρίωση, ανεξάρτητοι έλεγχοι (audits) και δοκιμές ανθεκτικότητας μέσω επιθετικών προσομοιώσεων (συνεργατικό red-teaming). Σε τέτοιες διαδικασίες, οι αξιολογητές συχνά λειτουργούν υπό ρήτρες εμπιστευτικότητας, δεν είναι τυχαίο ότι τα μέλη της Επιστημονικής Ομάδας υπέγραψαν δηλώσεις εμπιστευτικότητας πριν αναλάβουν, ώστε να εξισορροπείται η ανάγκη ελέγχου με την προστασία εμπορικών μυστικών.
Παράλληλα, ο Κανονισμός για την Τεχνητή Νοημοσύνη ενισχύει τη θεσμική διάσταση του ελέγχου, παρέχοντας στο Ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης (EU AI Office) την εξουσία να απαιτεί πληροφορίες, τεχνικά στοιχεία και αξιολογήσεις από τους παρόχους μοντέλων γενικής χρήσης. Έτσι, η λογοδοσία δεν βασίζεται στην πλήρη διαφάνεια του μοντέλου, αλλά σε ένα πλαίσιο «λογοδοσίας (accountability) χωρίς αποκάλυψη», όπου η συμμόρφωση επαληθεύεται μέσω ελεγχόμενης πρόσβασης και ανεξάρτητης αξιολόγησης.
Στον Κανονισμό για την Τεχνητή Νοημοσύνη υπάρχει μεγάλη έμφαση στην κατηγοριοποίηση των κινδύνων. Πόσο αξιόπιστη μπορεί να είναι αυτή η κατηγοριοποίηση όταν η ίδια τεχνολογία μπορεί να είναι χαμηλού κινδύνου σε ένα περιβάλλον και υψηλού κινδύνου σε ένα άλλο όπως μας είπατε;
Αρχικά, θα πρέπει να διευκρινιστεί ότι ο Κανονισμός για την Τεχνητή Νοημοσύνη δεν ταξινομεί την τεχνολογία αυτή καθαυτή, αλλά τη χρήση της μέσα σε συγκεκριμένο πλαίσιο εφαρμογής. Ο Κανονισμός ακολουθεί μια προσέγγιση βασισμένη στον κίνδυνο (risk-based approach), όπου το επίπεδο ρύθμισης εξαρτάται από τον σκοπό, το περιβάλλον και την πιθανή σοβαρότητα της βλάβης.
Συνεπώς, δεν είναι το ίδιο το μοντέλο ή ο αλγόριθμος που χαρακτηρίζεται ως «υψηλού κινδύνου», αλλά η συγκεκριμένη εφαρμογή του σε συγκεκριμένο κοινωνικό ή θεσμικό πλαίσιο. Η ίδια τεχνολογία αναγνώρισης προσώπου, για παράδειγμα, μπορεί να είναι χαμηλού κινδύνου όταν χρησιμοποιείται για το ξεκλείδωμα ενός κινητού, αλλά υψηλού κινδύνου, ή και απαγορευμένη, όταν εφαρμόζεται σε μαζική βιομετρική επιτήρηση σε δημόσιους χώρους. Με αυτόν τον τρόπο, ο κίνδυνος δεν αποτελεί δομικό χαρακτηριστικό της τεχνολογίας, αλλά είναι θεμελιωδώς συμφραζόμενος (context-dependent) και προκύπτει από τη σχέση μεταξύ τεχνολογίας, χρήσης και κοινωνικού πλαισίου.
Υπάρχει, ωστόσο, μια περίπτωση όπου αυτή η λογική δοκιμάζεται. Τα μοντέλα γενικής χρήσης (GPAI). Επειδή είναι οριζόντια και θεμελιώδη, δεν έχουν έναν προκαθορισμένο σκοπό ώστε να ταξινομηθούν με βάση τη χρήση τους αφού μπορούν να ενσωματωθούν εξίσου σε μια αβλαβή και σε μια κρίσιμη εφαρμογή. Γι’ αυτόν ακριβώς τον λόγο ο Κανονισμός τα αντιμετωπίζει με ξεχωριστό καθεστώς, εκτός της κλασικής πυραμίδας κινδύνου. Με οριζόντιες υποχρεώσεις διαφάνειας και, για τα πλέον ισχυρά, με πρόσθετες υποχρεώσεις για συστημικούς κινδύνους.
Σε κάθε περίπτωση, η κατηγοριοποίηση αποτελεί αφετηρία, όχι ετυμηγορία: είναι αναγκαστικά στατική και ατελής, και πρέπει να συμπληρώνεται από εξειδικευμένη αξιολόγηση ανά περιβάλλον και από συνεχή παρακολούθηση, η οποία επιτρέπει την ανίχνευση των κινδύνων καθώς αυτοί αναδύονται στην πραγματική χρήση.
Ποια είναι η διαφορά ανάμεσα στη συμμόρφωση με έναν κανονισμό και στην πραγματική ασφάλεια ενός συστήματος Τεχνητής Νοημοσύνης;
Είναι δύο διαφορετικά πράγματα. Η συμμόρφωση αφορά το κατά πόσο ένα σύστημα πληροί τις νομικές και κανονιστικές απαιτήσεις που θέτει ένα πλαίσιο όπως ο Κανονισμός για την ΤΝ. Αυτό περιλαμβάνει διαδικασίες, τεκμηρίωση, αξιολογήσεις κινδύνου, πιστοποιήσεις και ελέγχους σε μια δεδομένη χρονική στιγμή. Είναι απαραίτητη, καθώς παρέχει λογοδοσία και θέτει ένα ελάχιστο κατώφλι.
Η ασφάλεια, αντίθετα, είναι μια εμπειρική ιδιότητα που αφορά το κατά πόσο ένα σύστημα συμπεριφέρεται εντός αποδεκτών ορίων κινδύνου σε πραγματικές συνθήκες, καθ’ όλη τη διάρκεια ζωής του και υπό αντιπαλικές συνθήκες. Η συμμόρφωση θέτει τη βάση αλλά δεν εγγυάται ασφάλεια. Γι’ αυτό, στην έρευνά μου επιμένω στη λογική της ασφάλειας ήδη από τον σχεδιασμό (security by design), που αντιμετωπίζει την ασφάλεια ως θεμελιώδη σχεδιαστική απαίτηση και όχι ως μεταγενέστερο έλεγχο, ενσωματώνοντάς την ήδη από τα αρχικά στάδια ανάπτυξης του συστήματος.
Πώς μπορεί να μετρηθεί η συμμόρφωση με τον AI Act; Χρειαζόμαστε τεχνικά benchmarks, διαδικαστικούς ελέγχους, συνεχή παρακολούθηση μετά την κυκλοφορία ή έναν συνδυασμό όλων αυτών;
Με συνδυασμό, αφού κανένας μηχανισμός από μόνος του δεν αρκεί, και αυτό είναι σχεδιαστική επιλογή. Τα τεχνικά benchmarks (ικανότητες, ανθεκτικότητα, μεροληψία) είναι απαραίτητα αλλά περιορισμένα και εν μέρει ευάλωτα σε στρατηγική βελτιστοποίηση των μετρήσεων. Οι διαδικαστικοί έλεγχοι (συστήματα διαχείρισης κινδύνου, τεκμηρίωση, διακυβέρνηση) είναι κρίσιμοι για λογοδοσία, αλλά μπορεί να καταλήξουν σε τυπική συμμόρφωση χωρίς ουσιαστικό αντίκρισμα. Η παρακολούθηση μετά την κυκλοφορία και η αναφορά συμβάντων είναι ουσιώδεις, καθώς οι κίνδυνοι των μοντέλων γενικής χρήσης είναι αναδυόμενοι. Η σωστή προσέγγιση είναι άμυνα σε βάθος: πολλαπλά συμπληρωματικά επίπεδα με δυνατότητα συνεχούς επαναξιολόγησης.
Συνεπώς, η συμμόρφωση στον Κανονισμό για την ΤΝ δεν είναι στιγμιαία πιστοποίηση, αλλά ένα υβριδικό σύστημα αξιολόγησης που συνδυάζει τεχνικά, διαδικαστικά και διαρκή εμπειρικά στοιχεία καθ’ όλη τη διάρκεια ζωής του συστήματος. Μεγάλο μέρος της υλοποίησης θα προέλθει από εναρμονισμένα ευρωπαϊκά πρότυπα που αναπτύσσονται από τους τρεις ευρωπαϊκούς φορείς τυποποίησης (CEN, CENELEC και ETSI), οι οποίοι μεταφράζουν τις νομικές απαιτήσεις σε συγκεκριμένες τεχνικές προδιαγραφές, παρέχοντας στους παρόχους «τεκμήριο συμμόρφωσης».
Η προστασία των θεμελιωδών δικαιωμάτων είναι κεντρική στην ευρωπαϊκή προσέγγιση. Πώς μεταφράζεται όμως αυτό σε τεχνικούς ελέγχους και συγκεκριμένες απαιτήσεις για τους developers;
Ένα δικαίωμα παραμένει αφηρημένο μέχρι να μεταφραστεί σε κάτι που ένας μηχανικός μπορεί να σχεδιάσει, να μετρήσει και να ελέγξει. Ο Κανονισμός αποτελεί το πρώτο βήμα αυτής της μετάφρασης. Μετατρέπει τα αφηρημένα δικαιώματα σε συγκεκριμένες, δεσμευτικές υποχρεώσεις. Για παράδειγμα, για να προστατεύσει την ιδιωτικότητα, επιβάλλει κανόνες διακυβέρνησης δεδομένων· για να διασφαλίσει τη διαφάνεια, υποχρεώνει τα συστήματα να παρέχουν κατανοητές πληροφορίες για τον τρόπο λειτουργίας τους· για να κατοχυρώσει τον ανθρώπινο έλεγχο, απαιτεί τα συστήματα να σχεδιάζονται έτσι ώστε ένας άνθρωπος να μπορεί να επιβλέπει και, όπου χρειάζεται, να ανατρέπει μια αυτοματοποιημένη απόφαση.
Ο Κανονισμός όμως ορίζει το τι πρέπει να επιτευχθεί, όχι το πώς. Το δεύτερο βήμα είναι η μετατροπή αυτών των υποχρεώσεων σε συγκεκριμένες, ελέγξιμες τεχνικές απαιτήσεις, και αυτό δεν γίνεται από τον ίδιο τον Κανονισμό. Χρειάζονται πρακτικές και μεθοδολογίες που βοηθούν σε αυτή τη «μετάφραση». Αυτό είναι ακριβώς το αντικείμενο της έρευνας στην οποία εργάζομαι εδώ και χρόνια: η μηχανική απαιτήσεων ασφάλειας και ιδιωτικότητας, που μετατρέπει τις νομικές αρχές σε απαιτήσεις τις οποίες μπορεί να υλοποιήσει και να επαληθεύσει ένας developer.
Η δική σας διαδρομή είναι και μέρος μιας κλασικής ελληνικής ιστορίας: επιστήμονες που έφυγαν ή δεν γύρισαν ποτέ μετά τις σπουδές τους, διακρίθηκαν στο εξωτερικό και σήμερα βρίσκονται σε θέσεις ευρωπαϊκής ή διεθνούς ευθύνης. Το ελληνικό brain drain είναι, κατά τη γνώμη σας, αναστρέψιμο; Ή μήπως το πραγματικό ζητούμενο πια δεν είναι απλώς η «επιστροφή», αλλά η δημιουργία ουσιαστικών γεφυρών ανάμεσα στην Ελλάδα και τους Έλληνες επιστήμονες του εξωτερικού;
Νομίζω ότι η διατύπωση της ερώτησης περιέχει και τη σωστή απάντηση. Το να μιλάμε αποκλειστικά για «επιστροφή» είναι, κατά τη γνώμη μου, μόνο ένα μέρος του φαινομένου. Η πραγματικότητα είναι πιο σύνθετη. Ένα μέρος του braindrain είναι όντως αναστρέψιμο, αφού υπάρχουν άνθρωποι που θα επέστρεφαν αν έβρισκαν στην Ελλάδα συνθήκες έρευνας, σταθερότητας και υποδομών αντίστοιχες με αυτές κάποιων χωρών του εξωτερικού.
Από την άλλη, ένας Έλληνας επιστήμονας στο εξωτερικό δεν θα πρέπει να θεωρείται απώλεια αν δεν γυρίσει, αλλά ένας κόμβος που μπορεί να συνδέσει την Ελλάδα με διεθνή δίκτυα έρευνας, χρηματοδότησης και τεχνογνωσίας. Γι’ αυτό θα πρέπει να δημιουργηθούν οι κατάλληλες προϋποθέσεις όπως περισσότερες ευκαιρίες για κοινά ερευνητικά προγράμματα και από κοινού εποπτεία διδακτορικών, αλλά και να αξιοποιήσουμε καλύτερα και πιο συστηματικά μηχανισμούς που ήδη υπάρχουν. Για παράδειγμα, ο θεσμός των επισκεπτών καθηγητών και ερευνητών, με θέσεις μερικής και μη αποκλειστικής απασχόλησης, επιτρέπει σε κάποιον να συνεισφέρει χωρίς να εγκαταλείψει τη θέση του στο εξωτερικό, δίνοντας τη δυνατότητα σε όσους δεν μπορούν, για οποιονδήποτε λόγο, να επιστρέψουν μόνιμα να έχουν παρ’ όλα αυτά έναν πιο ενεργό ρόλο στην ελληνική ερευνητική κοινότητα.
Άρα ναι, είναι σημαντικό να δημιουργήσουμε τις συνθήκες που κάνουν την επιστροφή ελκυστική για όσους τη θέλουν, αλλά ας μην μετράμε την επιτυχία μόνο με το πόσοι γυρίζουν. Το πραγματικό στοίχημα είναι να μετατρέψουμε τη διασπορά από απώλεια σε δίκτυο.
