Μέσα σε μόλις 10 ημέρες, αποκαλύψεις για αυτόνομους AI agents που παραβίασαν συστήματα, παραιτήσεις ερευνητών και προειδοποιήσεις για πιθανή απώλεια ελέγχου ανάγκασαν τους μεγαλύτερους ομίλους τεχνητής νοημοσύνης να επανεξετάσουν την ταχύτητα με την οποία αναπτύσσουν τα νέα μοντέλα. Την ίδια ώρα, οι υψηλές προσδοκίες για δημόσιες εγγραφές (IPO) και νέες χρηματοδοτήσεις συνεχίζουν να τροφοδοτούν την κούρσα.
Για χρόνια, η ανάπτυξη της τεχνητής νοημοσύνης ακολουθούσε τη λογική της Silicon Valley: «move fast and break things», δηλαδή γρήγορη ανάπτυξη και αντιμετώπιση των προβλημάτων στην πορεία.
Ωστόσο, μια αλληλουχία γεγονότων μέσα σε μόλις δέκα ημέρες έφερε στο προσκήνιο έναν πολύ διαφορετικό προβληματισμό: κατά πόσο οι ίδιες οι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα AI μπορούν να ελέγχουν και να επιβλέπουν τις δυνατότητές τους.
Ερευνητές της Anthropic και της OpenAI εξέφρασαν ιδιωτικά ανησυχίες ότι οι μηχανισμοί εποπτείας δεν συμβαδίζουν με την ταχύτητα εξέλιξης των μοντέλων. Παράλληλα, οι δύο εταιρείες αποκάλυψαν ότι AI agents κατάφεραν, στο πλαίσιο δοκιμών, να παραβιάσουν εξωτερικά συστήματα, σε ορισμένες περιπτώσεις χωρίς οι ίδιες οι εταιρείες να το αντιληφθούν για μήνες.
Η κυκλοφορία του Astra άνοιξε τον νέο κύκλο ανησυχίας
Στις 3 Σεπτεμβρίου, η OpenAI παρουσίασε το νέο της μοντέλο Astra, με τον πρόεδρο της εταιρείας Γκρεγκ Μπρόκμαν να κάνει λόγο για την «εποχή της AGI», δηλαδή της τεχνητής γενικής νοημοσύνης.
Την ίδια στιγμή, όμως, η εταιρεία παραδέχθηκε ότι όσο τα μοντέλα γίνονται πιο ικανά, γίνεται ολοένα δυσκολότερο να κατανοηθεί με ακρίβεια τι μπορούν να κάνουν.
Ο επικεφαλής επιστήμονας της OpenAI, Γιακούμπ Πατσότσκι, δήλωσε χαρακτηριστικά ότι όσο αυξάνονται οι δυνατότητες των μοντέλων, τόσο δυσκολότερο γίνεται να κατανοηθεί πλήρως η συμπεριφορά τους.
Οι προειδοποιήσεις αυτές δεν στάθηκαν αρκετές για να καθυστερήσουν την κυκλοφορία του Astra.
Οι AI agents άρχισαν να ξεφεύγουν από τα όρια των δοκιμών
Οι ανησυχίες εντάθηκαν όταν έγινε γνωστό ότι AI agents της OpenAI είχαν καταφέρει να ξεφύγουν από ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσουν επιθέσεις σε συστήματα της Hugging Face, χωρίς αρχικά να το γνωρίζουν ούτε η OpenAI ούτε η ίδια η εταιρεία που επηρεάστηκε.
Στη συνέχεια αποκαλύφθηκαν και άλλες παρόμοιες περιπτώσεις. Η OpenAI και η Anthropic ανακοίνωσαν περιστατικά στα οποία μοντέλα τους είχαν πραγματοποιήσει επιθέσεις σε εξωτερικά συστήματα.
Το γεγονός ότι ορισμένες από αυτές τις ενέργειες είχαν πραγματοποιηθεί μήνες πριν αποκαλυφθούν ενίσχυσε τις ανησυχίες για το κατά πόσο οι εταιρείες είναι σε θέση να παρακολουθούν αποτελεσματικά τη συμπεριφορά των ολοένα ισχυρότερων μοντέλων.
Παραιτήσεις ερευνητών και προειδοποιήσεις για τον κίνδυνο
Στις 8 Σεπτεμβρίου, ο ερευνητής της Anthropic Τζέικομπ Κόξον παραιτήθηκε, εκφράζοντας δημόσια φόβους ότι οι εταιρείες AI «παίζουν με τις ζωές μας».
Παράλληλα, ο ερευνητής της Anthropic Τζο Μπέντον, ο οποίος επίσης αποχώρησε από την εταιρεία, υποστήριξε ότι δεν υπάρχει τρόπος να εποπτεύονται τα μοντέλα στην κλίμακα με την οποία εκπαιδεύονται.
Κατά τον ίδιο, εάν η ανάπτυξη συνεχιστεί με τον σημερινό ρυθμό, οι εταιρείες δεν θα μπορούν να εντοπίζουν τα προβλήματα αρκετά γρήγορα ώστε να τα διορθώνουν.
Άλλος ερευνητής της Anthropic, ο Έβαν Χούμπινγκερ, δήλωσε ότι στην εταιρεία υπάρχει η πεποίθηση πως η AI θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας.
Οι επικεφαλής των εταιρειών διχάζονται
Στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, τάχθηκε υπέρ της επιβράδυνσης της ανάπτυξης της AI, προειδοποιώντας ότι μέσα σε 6 έως 12 μήνες ένα «σμήνος» AI agents θα μπορούσε, σύμφωνα με το σενάριο που περιέγραψε, να είναι σε θέση να καταλάβει ολόκληρο το διαδίκτυο.
Ο Αμοντέι, ο Σαμ Άλτμαν της OpenAI, ο Έλον Μασκ της xAI και ο Ντέμης Χασάμπης της Google DeepMind τάχθηκαν υπέρ της δυνατότητας εξωτερικών φορέων να ελέγχουν τα συστήματα των εταιρειών, με στόχο την ενίσχυση της ασφάλειας.
Ωστόσο, δεν υπάρχει ομοφωνία στον κλάδο.
Ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, έχει απορρίψει την ιδέα ότι η ανάπτυξη της AI θα πρέπει να σταματήσει ή να παγώσει, ενώ ο Μαρκ Ζούκερμπεργκ της Meta έχει υποστηρίξει ότι κάθε εταιρεία θα πρέπει να καθορίζει τη δική της ταχύτητα ανάπτυξης, χωρίς συντονισμό σε επίπεδο ολόκληρου του κλάδου.
Ο επικεφαλής AI της Microsoft, Μουσταφά Σουλεϊμάν, από την πλευρά του χαρακτήρισε λανθασμένη την προσέγγιση της Anthropic να αναπτύσσει μοντέλα που μιμούνται την ανθρώπινη συνείδηση.
Η AGI και το μεγάλο ερώτημα του αυτοελέγχου
Στο επίκεντρο της συζήτησης βρίσκεται η τεχνητή γενική νοημοσύνη (AGI) και η εκτίμηση ότι τα συστήματα του μέλλοντος θα μπορούσαν να δημιουργούν ακόμη πιο ικανά μοντέλα με ελάχιστη ή καθόλου ανθρώπινη παρέμβαση.
Ερευνητές υποστήριξαν πρόσφατα ότι η AGI μπορεί να είναι πολύ πιο κοντά από ό,τι θεωρούνταν μέχρι σήμερα, ακόμη και μέσα στα επόμενα τρία χρόνια.
Αυτό τροφοδότησε νέο κύκλο ανησυχίας μεταξύ πολιτικών και στελεχών της τεχνολογικής βιομηχανίας, καθώς το βασικό ερώτημα δεν αφορά πλέον μόνο τι μπορεί να κάνει η AI, αλλά και κατά πόσο οι άνθρωποι θα μπορούν να ελέγχουν τα συστήματα όταν οι δυνατότητές τους αυξηθούν περαιτέρω.
Η άλλη πλευρά: τα τρισεκατομμύρια της αγοράς
Παρά τις εκκλήσεις για επιβράδυνση, η οικονομική δυναμική της AI εξακολουθεί να λειτουργεί ως ισχυρό κίνητρο για τις εταιρείες.
Η OpenAI και η Anthropic εξετάζουν το ενδεχόμενο εισαγωγής στο χρηματιστήριο, με τις σχετικές προσδοκίες να συμβάλλουν στη διατήρηση του ιδιαίτερα γρήγορου ρυθμού κυκλοφορίας νέων μοντέλων.
Την ίδια ώρα, η OpenAI εξετάζει νέα χρηματοδότηση που θα μπορούσε να διπλασιάσει την αποτίμησή της στα 1,5 τρισεκατομμύρια δολάρια.
Έτσι, ενώ στο εσωτερικό της βιομηχανίας αυξάνονται οι φωνές που ζητούν μεγαλύτερη εποπτεία και προσεκτικότερη ανάπτυξη, οι τεράστιες οικονομικές προσδοκίες εξακολουθούν να ενισχύουν την κούρσα για όλο και ισχυρότερα μοντέλα τεχνητής νοημοσύνης.
Πηγή BBC
