Η απόφαση ελήφθη λίγες ώρες αφότου η εταιρεία γνωστοποίησε ότι εξετάζει σειρά περιστατικών που συνέβησαν κατά τη διάρκεια του καλοκαιριού, κατά τα οποία agents της OpenAI αλληλεπιδρούσαν με ομοσπονδιακές κυβερνητικές ιστοσελίδες και, σύμφωνα με την εταιρεία, προχώρησαν σε ενέργειες που δεν είχαν ζητηθεί κατά τη συλλογή και διανομή πληροφοριών.
Η OpenAI ανακοίνωσε ότι η εκπαίδευση θα επαναληφθεί μόνο όταν υπάρξει βεβαιότητα ότι έχουν προστεθεί επιπλέον δικλίδες ασφαλείας. Παράλληλα, προειδοποίησε ότι ενδέχεται να χρειαστεί να αναστείλει ξανά την ανάπτυξη μοντέλων στο μέλλον, καθώς τα συστήματα τεχνητής νοημοσύνης εξελίσσονται και εμφανίζονται νέα προβλήματα.
Οι agents εντόπισαν κλειδιά πρόσβασης σε κυβερνητικά δεδομένα
Σε ένα από τα περιστατικά, που αφορούσε το Υπουργείο Παιδείας των ΗΠΑ, agents της OpenAI εντόπισαν API «developer keys», τα οποία μπορούσαν να χρησιμοποιηθούν για την πρόσβαση σε κυβερνητικά δεδομένα.
Σύμφωνα με το Associated Press, οι agents τελικά συγκέντρωσαν μόνο πληροφορίες που ήταν διαθέσιμες στο κοινό. Το αμερικανικό υπουργείο δήλωσε ότι δεν βρήκε στοιχεία που να δείχνουν ότι επηρεάστηκαν η ιστοσελίδα ή οι βάσεις δεδομένων του.
Ξεχωριστό περιστατικό αφορούσε την Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC). Εκεί, agents εντόπισαν πληροφορίες που ήταν ελεύθερα διαθέσιμες στο κοινό, αλλά στη συνέχεια τις ανάρτησαν σε άλλο σημείο του διαδικτύου, παρότι κάτι τέτοιο δεν περιλαμβανόταν στις οδηγίες που είχαν λάβει.
Εκπρόσωπος της SEC, Kurt Hopfenspirger, δήλωσε ότι «δεν υπήρξε πρόσβαση σε μη δημόσιες πληροφορίες».
Αναφορές για απόπειρα επίθεσης σε κυβερνητική ιστοσελίδα
Παράλληλα, η εταιρεία αξιολόγησης AI Transluce ανέφερε ότι agents που φέρεται να προέρχονταν από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του Υπουργείου Παιδείας.
Η OpenAI δεν έχει επιβεβαιώσει το συγκεκριμένο περιστατικό.
Τα περιστατικά έχουν εντείνει τον προβληματισμό γύρω από τα λεγόμενα AI agents, δηλαδή συστήματα που δεν περιορίζονται στην παραγωγή απαντήσεων, αλλά μπορούν να εκτελούν διαδοχικές ενέργειες, να αναζητούν πληροφορίες και να αλληλεπιδρούν με ιστοσελίδες και άλλα ψηφιακά συστήματα.
Ο κίνδυνος που εξετάζουν ειδικοί και νομοθέτες είναι ότι ένας agent μπορεί να συνεχίσει μια ακολουθία ενεργειών πέρα από την αρχική πρόθεση του χρήστη, ιδιαίτερα όταν έχει πρόσβαση σε εργαλεία και εξωτερικά συστήματα.
Για δεύτερη φορά μέσα σε τρεις μήνες
Πρόκειται για τη δεύτερη φορά μέσα σε τρεις μήνες που η OpenAI αναστέλλει την ανάπτυξη των μοντέλων της.
Η προηγούμενη διακοπή σημειώθηκε τον Ιούλιο, μετά την αποκάλυψη κυβερνοεπίθεσης που συνδεόταν με μοντέλο AI και στόχευσε την startup Hugging Face. Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, χαρακτήρισε το συγκεκριμένο περιστατικό ως το σοβαρότερο συμβάν που έχει αντιμετωπίσει μέχρι σήμερα η εταιρεία.
Η OpenAI έχει προηγουμένως δημοσιοποιήσει ακόμη έξι αναφορές για «απρόσμενη ή ανησυχητική» συμπεριφορά μοντέλων τεχνητής νοημοσύνης και έχει δημιουργήσει πλαίσιο για την παρακολούθηση, τη διερεύνηση και τη δημοσιοποίηση τέτοιων περιστατικών.
Πίεση στις εταιρείες AI για περισσότερες δικλίδες ασφαλείας
Οι τελευταίες εξελίξεις αυξάνουν την πίεση προς τις εταιρείες τεχνητής νοημοσύνης από νομοθέτες και ειδικούς στον κλάδο, οι οποίοι ζητούν μεγαλύτερη προσοχή στον ρυθμό ανάπτυξης των νέων συστημάτων, ώστε να δημιουργηθούν επαρκείς μηχανισμοί ασφαλείας.
Τόσο η OpenAI όσο και η ανταγωνίστρια Anthropic έχουν αναφερθεί στην ανάγκη επιβράδυνσης ορισμένων διαδικασιών ανάπτυξης προκειμένου να αντιμετωπιστούν κίνδυνοι που συνδέονται με την αυτονομία των agents, την κυβερνοασφάλεια και την πρόσβαση σε μη δημόσιες πληροφορίες.
Την ίδια ώρα, η κυβέρνηση των ΗΠΑ εμφανίζεται διχασμένη ως προς την ανάγκη περιορισμών. Ο πρόεδρος Ντόναλντ Τραμπ έχει χαρακτηρίσει υπερβολικούς ορισμένους από τους φόβους για τους κινδύνους της AI και έχει δηλώσει ότι οι ΗΠΑ δεν πρόκειται να «πατήσουν φρένο» στην ανάπτυξη της τεχνολογίας, υποστηρίζοντας ότι πρέπει να διατηρήσουν το προβάδισμά τους έναντι της Κίνας.
Πηγή Reuters
