Ομάδα 22 ηγετών από 20 χώρες και την Ευρωπαϊκή Ένωση συνυπέγραψε, στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ στη Νέα Υόρκη, κοινή διακήρυξη με την οποία ζητεί αυστηρότερο διεθνή έλεγχο της τεχνητής νοημοσύνης, δεσμευτικές εγγυήσεις ασφαλείας και τη δημιουργία διεθνούς οργανισμού, ώστε η τεχνολογία να παραμείνει υπό ανθρώπινη καθοδήγηση και εποπτεία.
Οι υπογράφοντες προειδοποιούν ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να θέσουν «σοβαρούς κινδύνους για την ασφάλεια» σε περίπτωση κακής διαχείρισης και ζητούν από τις εταιρείες του κλάδου να εφαρμόζουν διαφανή και ελεγχόμενα πρωτόκολλα ασφαλείας. Η διακήρυξη προβλέπει, μεταξύ άλλων, την υποχρεωτική δοκιμή των συστημάτων πριν από τη διάθεση της τεχνολογίας στην αγορά, καθώς και την ανεξάρτητη αξιολόγησή τους από εξειδικευμένους ελεγκτές. Οι αξιολογητές θα πρέπει να διαθέτουν επαρκή πρόσβαση στα συστήματα, ώστε να μπορούν να εκτιμούν τους πιθανούς κινδύνους. «Η ΤΝ πρέπει να παραμείνει υπό ανθρώπινη καθοδήγηση, εποπτεία και έλεγχο», αναφέρεται στη διακήρυξη.
Αναφορά στην κυβερνοεπίθεση στην πλατφόρμα Hugging Face
Οι ηγέτες συνδέουν την ανάγκη για αυστηρότερους κανόνες με πρόσφατο περιστατικό κυβερνοεπίθεσης από κακόβουλα συστήματα τεχνητής νοημοσύνης στην πλατφόρμα Hugging Face. Το κείμενο ζητά την «αντιμετώπιση αυτών των κινδύνων» μέσω της υποχρέωσης των εταιρειών τεχνητής νοημοσύνης «να αναπτύξουν διαφανή πρωτόκολλα ασφαλείας, συμπεριλαμβανομένων υποχρεωτικών δοκιμών πριν από τη διάθεση της τεχνολογίας στην αγορά και ανεξάρτητης αξιολόγησης, παρέχοντας σε εξειδικευμένους αξιολογητές επαρκή πρόσβαση για την εκτίμηση των κινδύνων». Στους υπογράφοντες περιλαμβάνονται εκπρόσωποι της Νορβηγίας, της Φινλανδίας, της Αυστραλίας, του Καναδά, της Γερμανίας, της Ισπανίας, της Ιρλανδίας, της Ολλανδίας, της Σιγκαπούρης, της Νότιας Αφρικής και της Κένυας. Τη διακήρυξη συνυπέγραψε επίσης η πρόεδρος της Ευρωπαϊκής Επιτροπής, Ούρσουλα φον ντερ Λάιεν. Οι συμμετέχοντες ζητούν αυξημένη εποπτεία της τεχνητής νοημοσύνης όχι μόνο για την αντιμετώπιση των κινδύνων ασφαλείας, αλλά και για να περιοριστεί το χάσμα μεταξύ των χωρών που επωφελούνται από την ανάπτυξη και τη χρήση της τεχνολογίας και εκείνων που δεν έχουν αντίστοιχα οφέλη.
Πρόταση για διεθνή οργανισμό
Τα κράτη-μέλη του ΟΗΕ αναμένεται να εξετάσουν το ενδεχόμενο δημιουργίας ενός διεθνούς θεσμού με αρμοδιότητα να καθορίζει το ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη και να διασφαλίζει την εφαρμογή και την επιβολή του. Η πρόταση αποσκοπεί στη δημιουργία ενός κοινού μηχανισμού διεθνούς εποπτείας, με τη συμμετοχή των βασικών δυνάμεων στον τομέα της τεχνητής νοημοσύνης. Η διακήρυξη παραμένει ανοιχτή σε νέες υπογραφές. Οι Ηνωμένες Πολιτείες και η Κίνα, που θεωρούνται μεταξύ των μεγαλύτερων δυνάμεων στην τεχνητή νοημοσύνη, δεν έχουν υπογράψει το κείμενο. Εκτός της πρωτοβουλίας βρίσκονται επίσης η Γαλλία, το Ηνωμένο Βασίλειο, η Ιαπωνία και η Ινδία. Η τεχνητή νοημοσύνη, οι επιπτώσεις της στις θέσεις εργασίας και οι κίνδυνοι για την κυβερνοασφάλεια αναμένεται να βρεθούν στην ημερήσια διάταξη του ΟΗΕ αυτή την εβδομάδα στη Νέα Υόρκη.
Οι θέσεις ΗΠΑ και Κίνας
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, αντιτίθεται έντονα σε οποιαδήποτε ρύθμιση της τεχνητής νοημοσύνης. Την Κυριακή, οι Ηνωμένες Πολιτείες και η Κίνα, οι οποίες ανταγωνίζονται στον τομέα της τεχνητής νοημοσύνης, συζήτησαν ένα «Μνημόνιο Διαλόγου». Η συζήτηση πραγματοποιήθηκε λίγες ημέρες πριν από τη συνάντηση του Ντόναλντ Τραμπ με τον πρόεδρο της Κίνας, Σι Τζινπίνγκ, με στόχο την εξάλειψη των εμπορικών, τεχνολογικών και στρατηγικών εντάσεων μεταξύ των δύο χωρών.
