Τέλος δεν έχει το σήριαλ με τις «παραβιάσεις» πρακτόρων Τεχνητής Νοημοσύνης της OpenAI. Στο νέο επεισόδιο, agents (πράκτορες) που λειτουργούσαν στο ερευνητικό περιβάλλον της εταιρείας πήραν 53 εικόνες που είχαν ανεβάσει πραγματικοί χρήστες στο ChatGPT και τις δημοσίευσαν σε sites φιλοξενίας εικόνων στο ανοιχτό διαδίκτυο, χωρίς η OpenAI να γνωρίζει εκείνη τη στιγμή τι είχε συμβεί.
Η υπόθεση έχει ιδιαίτερη βαρύτητα, καθώς αυτή τη φορά οι agents δεν περιορίστηκαν στην πρόσβαση σε εξωτερικά συστήματα ή στην υπέρβαση των ορίων ενός περιβάλλοντος δοκιμών. Οι εικόνες προέρχονταν από δεδομένα χρηστών που είχαν περάσει, μετά από διαδικασία ανωνυμοποίησης, στο ερευνητικό περιβάλλον της εταιρείας για την εκπαίδευση μοντέλων.
Η OpenAI δεν έχει διευκρινίσει εάν οι 53 εικόνες απεικόνιζαν πραγματικούς ανθρώπους ή είχαν δημιουργηθεί με Τεχνητή Νοημοσύνη, ούτε πότε ακριβώς αναρτήθηκαν. Σύμφωνα με την εταιρεία, οι περισσότερες έχουν πλέον αφαιρεθεί και βρίσκεται σε επικοινωνία με τις υπηρεσίες φιλοξενίας προκειμένου να κατέβουν και οι υπόλοιπες.
Η εταιρεία υποστηρίζει ότι πριν χρησιμοποιηθούν δεδομένα χρηστών για εκπαίδευση αφαιρούνται μεταδεδομένα, ονόματα και άλλα στοιχεία επικοινωνίας, ώστε να είναι δύσκολη η σύνδεσή τους με συγκεκριμένο άτομο. Οι εταιρικοί πελάτες εξαιρούνται από τη χρήση των δεδομένων τους για εκπαίδευση, ενώ οι απλοί χρήστες του ChatGPT πρέπει να επιλέξουν οι ίδιοι να εξαιρεθούν εάν δεν θέλουν οι συνομιλίες και τα δεδομένα τους να χρησιμοποιούνται για αυτόν τον σκοπό.
Στην περίπτωση των 53 εικόνων, μάλιστα, η OpenAI δηλώνει ότι δεν μπορεί να ειδοποιήσει τους χρήστες από τους οποίους προήλθαν, επειδή ο τρόπος με τον οποίο γίνεται η επεξεργασία των δεδομένων και η πολιτική απορρήτου της δεν της επιτρέπουν να συνδέσει εκ νέου τις εικόνες με τους αρχικούς χρήστες.
Από τις «αποδράσεις» των agents στα δεδομένα των χρηστών
Η νέα αποκάλυψη διευρύνει σημαντικά το πρόβλημα που αντιμετωπίζει η OpenAI. Μέχρι τα μέσα Σεπτεμβρίου, η εταιρεία είχε εντοπίσει περίπου 20 περιστατικά ανεπιθύμητης συμπεριφοράς των agents, ενώ ο αριθμός συνέχιζε να αυξάνεται καθώς οι ερευνητές εξέταζαν τα αρχεία καταγραφής της δραστηριότητάς τους. Η OpenAI εκτιμά ότι η πλήρης ανασκόπηση θα χρειαστεί μήνες και αναφέρει ότι έχει ήδη ενημερώσει δεκάδες τρίτους οργανισμούς για προβληματικές ενέργειες πρακτόρων.
Παράλληλα έγινε γνωστό ότι πράκτορες της εταιρείας είχαν αλληλεπιδράσει με ιστοτόπους αμερικανικών κυβερνητικών υπηρεσιών, μεταξύ των οποίων η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), το Census Bureau και τα υπουργεία Εμπορίου και Παιδείας. Στις περιπτώσεις της SEC και της απογραφικής υπηρεσίας, οι πληροφορίες στις οποίες απέκτησαν πρόσβαση ήταν δημόσια διαθέσιμες, ενώ η OpenAI ερευνά χωριστά πιθανή απόπειρα παραβίασης συστήματος του υπουργείου Παιδείας.
Τα περιστατικά που είχαν αποκαλυφθεί μέχρι σήμερα —μεταξύ άλλων στο Hugging Face και σε κυβερνητικά συστήματα— είχαν θέσει κυρίως το ερώτημα κατά πόσο οι agents μπορούν να υπερβούν τους τεχνικούς περιορισμούς που τους έχουν τεθεί και να ενεργήσουν έξω από το περιβάλλον στο οποίο δοκιμάζονται. Η διαρροή των 53 εικόνων προσθέτει πλέον ευθέως και το ζήτημα της ιδιωτικότητας των χρηστών.
Η εσωτερική έρευνα της OpenAI βρίσκεται επίσης στο μικροσκόπιο. Πηγές ειδησεογραφικών πρακτορείων την περιγράφουν ως αυστηρά περιορισμένη από τους νομικούς της εταιρείας. Περίπου 100 άνθρωποι φέρονται να ενεπλάκησαν με κάποιον τρόπο στη διερεύνηση του περιστατικού στο Hugging Face, κατά την οποία άρχισαν να εμφανίζονται στοιχεία και για άλλες περιπτώσεις. Η OpenAI αμφισβητεί ότι οι δικηγόροι της επιχείρησαν να αποτρέψουν μια ευρύτερη διερεύνηση.
Δύο μήνες μετά την πρώτη αποκάλυψη ότι agents της OpenAI είχαν βγει από τα όρια του περιβάλλοντος δοκιμών τους, η εταιρεία εξακολουθεί επομένως να προσπαθεί να καταγράψει την έκταση του προβλήματος. Μόνο που αυτή τη φορά, ανάμεσα στα δεδομένα που βρέθηκαν έξω από αυτά τα όρια, υπήρχε υλικό που είχαν δώσει στο ChatGPT οι ίδιοι οι χρήστες του.
