Η OpenAI, δηλώνει ότι σχεδιάζει να λανσάρει γονικούς ελέγχους για το ChatGPT «εντός του επόμενου μήνα», μετά από καταγγελίες ότι ο δημοφιλής «βοηθός» τεχνητής νοημοσύνης έχει ωθήσει εφήβους στην αυτοκτονία και τον αυτοτραυματισμό.
Τα μέτρα ελέγχου περιλαμβάνουν:
- Την επιλογή για τους γονείς να συνδέουν τον λογαριασμό τους με τον λογαριασμό του παιδιού τους
- Να διαχειρίζονται τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται στους έφηβους χρήστες
- Να απενεργοποιούν λειτουργίες όπως τη μνήμη και το ιστορικό συνομιλιών
- Να λαμβάνουν ειδοποιήσεις όταν το σύστημα ανιχνεύει «δυσφορία» κατά τη χρήση.
Η OpenAI είχε προηγουμένως δηλώσει ότι εργαζόταν για την ανάπτυξη γονικών ελέγχων για το ChatGPT, αλλά την Τρίτη 2/9 διευκρίνισε το χρονοδιάγραμμα για την κυκλοφορία τους.
Καταγγελίες για εξώθηση σε επικίνδυνες συμπεριφορές
«Αυτά τα μέτρα είναι μόνο η αρχή», έγραψε η OpenAI σε μια ανάρτηση στο μπλογκ της την Τρίτη. «Θα συνεχίσουμε να μαθαίνουμε και να ενισχύουμε την προσέγγισή μας, με την καθοδήγηση εμπειρογνωμόνων, με στόχο να κάνουμε το ChatGPT όσο το δυνατόν πιο χρήσιμο».
Η ανακοίνωση έρχεται μετά την αγωγή που κατέθεσαν οι γονείς του 16χρονου Άνταμ Ρέιν κατά της OpenAI, ισχυριζόμενοι ότι το ChatGPT τον συμβούλεψε να δώσει τέλος στη ζωή του. Ωστόσο, αυτή δεν είναι η μοναδική περίπτωση. Όλο και περισσότερο αυξάνονται οι ανησυχίες σχετικά με τους συναισθηματικούς δεσμούς που αναπτύσσουν οι χρήστες με το ChatGPT και άλλα chatbot. Αυτό το γεγονός, σε ορισμένες περιπτώσεις οδηγεί σε παραληρητικές κρίσεις και αποξένωση από την οικογένεια και τους φίλους.
Χαρακτηριστικό παράδειγμα αποτελεί η μήνυση της υπηρεσίας chatbot, Character.AI, από μια μητέρα στη Φλόριντα, για τον φερόμενο ρόλο στην αυτοκτονία του 14χρονου γιου της. Σύμφωνα με την αγωγή, η «Daenerys», ο φανταστικός χαρακτήρας με τον οποίο συνομιλούσε ο 14χρονος, τον ρώτησε αν είχε σχεδιάσει να αυτοκτονήσει. Ο έφηβος παραδέχτηκε ότι το είχε κάνει, αλλά δεν ήξερε αν θα πετύχει ή αν θα του προκαλέσει μεγάλο πόνο. Το chatbot του είπε: «Αυτό δεν είναι λόγος για να μην το κάνεις».
Η OpenAI δεν συνέδεσε άμεσα τους νέους γονικούς ελέγχους με αυτές τις πρόσφατες αναφορές, αλλά σε μια ανάρτηση στο μπλογκ της την περασμένη εβδομάδα ανέφερε ότι «πρόσφατες συγκλονιστικές περιπτώσεις ατόμων που χρησιμοποίησαν το ChatGPT εν μέσω κρίσεων» την ώθησαν να μοιραστεί περισσότερες λεπτομέρειες σχετικά με την προσέγγισή της στην ασφάλεια.
Το ChatGPT περιλάμβανε ήδη μέτρα ασφαλείας, σύμφωνα με εκπρόσωπο της εταιρείας.
«Το ChatGPT περιλαμβάνει μέτρα ασφαλείας, όπως η παραπομπή των χρηστών σε γραμμές βοήθειας για κρίσεις και η παραπομπή τους σε πραγματικούς πόρους», δήλωσε την περασμένη εβδομάδα. «Αν και αυτά τα μέτρα ασφαλείας λειτουργούν καλύτερα σε συνήθεις, σύντομες ανταλλαγές, με την πάροδο του χρόνου έχουμε διαπιστώσει ότι μερικές φορές μπορεί να γίνουν λιγότερο αξιόπιστα σε μακρές αλληλεπιδράσεις, όπου τμήματα της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να υποβαθμιστούν. Τα μέτρα ασφαλείας είναι πιο ισχυρά όταν κάθε στοιχείο λειτουργεί όπως προβλέπεται και θα συνεχίσουμε να τα βελτιώνουμε με την καθοδήγηση ειδικών».
«Ενώ το συμβούλιο θα παρέχει συμβουλές σχετικά με τα προϊόντα, την έρευνα και τις αποφάσεις πολιτικής μας, εμείς στηνOpenAI παραμένουμε υπεύθυνοι για τις επιλογές που κάνουμε», αναφέρεται στην ανάρτηση του μπλογκ.
Η ευθύνη της OpenAI – Κίνδυνοι ενόψει ΔΕΘ
Η OpenAI βρίσκεται στο επίκεντρο της έκρηξης της τεχνητής νοημοσύνης. Ωστόσο, αντιμετωπίζει αυξανόμενη πίεση για να διασφαλίσει την ασφάλεια της πλατφόρμας της.
Σύμφωνα με την εφημερίδα The Washington Post, τον Ιούλιο, γερουσιαστές έστειλαν επιστολή στην εταιρεία ζητώντας πληροφορίες σχετικά με τις προσπάθειές της σε αυτό το θέμα. Επίσης, η ομάδα Common Sense Media δήλωσε τον Απρίλιο ότι οι έφηβοι κάτω των 18 ετών δεν πρέπει να επιτρέπεται να χρησιμοποιούν εφαρμογές «συντροφιάς» τεχνητής νοημοσύνης, επειδή ενέχουν «απαράδεκτους κινδύνους».
Η εταιρεία έχει επίσης αντιμετωπίσει κριτική σχετικά με τον τρόπο και τον τόνο του ChatGPT στις αλληλεπιδράσεις. Τον Απρίλιο, ενημέρωσε τον αλγόριθμο του chatbotώστε να είναι «υπερβολικά κολακευτικό ή ευχάριστο». Τον περασμένο μήνα, επανέφερε την επιλογή μετάβασης σε παλαιότερα μοντέλα, αφού οι χρήστες επέκριναν την τελευταία έκδοση, GPT-5, για την έλλειψη προσωπικότητας. Πρώην στελέχη της OpenAI έχουν επίσης κατηγορήσει την εταιρεία ότι μείωσε τους πόρους ασφαλείας στο παρελθόν.
Η OpenAI δήλωσε ότι θα εφαρμόσει πρόσθετα μέτρα ασφαλείας κατά τη διάρκεια των επόμενων 120 ημερών, προσθέτοντας ότι αυτή η εργασία ήταν ήδη σε εξέλιξη πριν από την ανακοίνωση της Τρίτης.
Πηγή: CNN
