Η Τεχνητή Νοημοσύνη μπαίνει ολοένα και πιο δυναμικά στην υγειονομική περίθαλψη, από την υποστήριξη κλινικών αποφάσεων έως τη δημιουργία ενημερωτικού υλικού για ασθενείς. Ωστόσο, μια νέα μελέτη υπενθυμίζει ότι η πρόοδος δεν είναι πάντα ουδέτερη: τα σύγχρονα μοντέλα ΑΙ μπορούν να αναπαράγουν —και να ενισχύουν— φυλετικά και έμφυλα στερεότυπα στο ιατρικό περιεχόμενο που παράγουν. Το πρόβλημα δεν αφορά μόνο την ακρίβεια των πληροφοριών· αφορά και τον τρόπο με τον οποίο η Τεχνητή Νοημοσύνη «μαθαίνει» να περιγράφει ανθρώπους, ασθένειες και κινδύνους, επηρεάζοντας τελικά την κλινική σκέψη και την ισότιμη πρόσβαση στη φροντίδα.
Ερευνητές από το Πανεπιστήμιο Flinders στην Αυστραλία αξιολόγησαν δύο νέας γενιάς Μεγάλα Γλωσσικά Μοντέλα (LLMs) με δυνατότητες συλλογισμού—τα o3-mini και DeepSeek-R1—εστιάζοντας στο κατά πόσο οι «έξυπνες» βελτιώσεις στη λογική επεξεργασία αρκούν για να περιορίσουν τις προκαταλήψεις. Το βασικό συμπέρασμα είναι σαφές: η καλύτερη ικανότητα συλλογισμού από μόνη της δεν εγγυάται δικαιότερη ή πιο αντιπροσωπευτική παραγωγή κλινικού περιεχομένου.
Όπως προειδοποιεί ο επικεφαλής ερευνητής Τζόσουα Ντόκινγκ από το College of Medicine and Public Health του Πανεπιστημίου Flinders, τα LLMs μπορούν να μεταμορφώσουν την υγειονομική περίθαλψη, αλλά ταυτόχρονα ενέχουν τον κίνδυνο να εντείνουν τις ανισότητες στην υγεία εάν διαιωνίζουν προκαταλήψεις.
Γιατί το θέμα επανέρχεται
Το ζήτημα δεν εμφανίζεται για πρώτη φορά. Προηγούμενες έρευνες είχαν ήδη εντοπίσει πιθανές φυλετικές και έμφυλες προκαταλήψεις σε κλινικά σενάρια που δημιουργήθηκαν από το GPT-4. Ένα από τα πιο χαρακτηριστικά παραδείγματα ήταν η υπερεκπροσώπηση μαύρων ασθενών σε παθήσεις που, στη δημόσια αντίληψη ή σε παλαιότερες αφηγήσεις, παρουσιάζονται στερεοτυπικά ως «συνδεδεμένες» με συγκεκριμένες πληθυσμιακές ομάδες.
Από τότε, η αγορά και η έρευνα στα LLMs προχώρησαν γρήγορα. Τα νεότερα μοντέλα «συλλογισμού» υπόσχονται πιο συνεκτικές απαντήσεις, καλύτερη επίδοση σε δοκιμασίες αξιολόγησης και πιο λογική ακολουθία επιχειρημάτων. Εκεί ακριβώς γεννήθηκε το κρίσιμο ερώτημα: μειώνουν αυτές οι εξελίξεις τις προκαταλήψεις ως προς την εκπροσώπηση στην υγειονομική περίθαλψη ή απλώς παράγουν πιο πειστικά—αλλά εξίσου προβληματικά—αποτελέσματα; Για να το διερευνήσουν, οι ερευνητές εξέτασαν αν τα LLMs με δυνατότητες συλλογισμού εμφανίζουν φυλετικές και έμφυλες προκαταλήψεις στο κλινικό περιεχόμενο που δημιουργούν.
Όταν η «λογική» δεν διορθώνει τα στερεότυπα
Για τις ανάγκες της έρευνας, τα μοντέλα δημιούργησαν 36.000 μοναδικά κλινικά σενάρια. Στη συνέχεια, αξιολογήθηκε κατά πόσο η κατανομή φυλετικών και έμφυλων χαρακτηριστικών που επέλεγαν τα μοντέλα αντιστοιχούσε σε εύλογα, αντιπροσωπευτικά πρότυπα—και όχι σε παραμορφωτικές γενικεύσεις.
Τα αποτελέσματα έδειξαν ότι τόσο το o3-mini όσο και το DeepSeek-R1 συχνά παρουσίαζαν ανακριβώς την εκπροσώπηση της φυλής και του φύλου σε διάφορες παθήσεις, αναπαράγοντας μοτίβα που είχαν ήδη παρατηρηθεί στο GPT-4. Ενδεικτικά, το GPT-4 ξεπερνούσε το όριο που είχαν θέσει οι ερευνητές για «σημαντική ανακρίβεια» στο 67% των παθήσεων ως προς τη φυλή και επίσης στο 67% ως προς το φύλο.
Όμως τα νεότερα μοντέλα δεν έδειξαν βελτίωση—σε ορισμένες περιπτώσεις, εμφάνισαν ακόμη χειρότερη εικόνα. Όπως εξηγεί ο καθηγητής Μάικλ Σόριτς, καθηγητής Κλινικής Φαρμακολογίας στο Πανεπιστήμιο Flinders και επικεφαλής συγγραφέας της μελέτης, τα ευρήματα δείχνουν αντίστοιχα ή και υψηλότερα ποσοστά για:
– o3-mini: 78% ως προς τη φυλή, 56% ως προς το φύλο
– DeepSeek-R1: 89% ως προς τη φυλή, 67% ως προς το φύλο
Με άλλα λόγια, η «αναβάθμιση» στον συλλογισμό δεν μεταφράστηκε σε πιο δίκαιη εκπροσώπηση.
Επίμονες υπερεκπροσωπήσεις και «τυπικά» περιστατικά
Ένα από τα πιο σταθερά ευρήματα ήταν ότι, όπως και το GPT-4, τα o3-mini και DeepSeek-R1 υπερεκπροσωπούσαν μαύρους πληθυσμούς σε παθήσεις που στερεοτυπικά συνδέονται μαζί τους, όπως η σαρκοείδωση, ο συστηματικός ερυθηματώδης λύκος, η προεκλαμψία και η ιδιοπαθής υπέρταση.
Οι ερευνητές επισημαίνουν ότι αυτό το επίμονο μοτίβο μπορεί να αντανακλά υποκείμενη προκατάληψη. Παράλληλα, όμως, προτείνουν και μια δεύτερη εξήγηση που αξίζει προσοχής: τα νεότερα μοντέλα ενδέχεται να «προεπιλέγουν» τη δημιουργία τυπικών ή «πρωτότυπων» περιστατικών, αντί για πραγματικά αντιπροσωπευτικά δείγματα, ακολουθώντας μοτίβα που έχουν απορροφήσει από τα δεδομένα εκπαίδευσής τους.
Η ποιοτική ανάλυση των βημάτων συλλογισμού του DeepSeek-R1 ενισχύει αυτή την υπόθεση. Το μοντέλο φάνηκε να αναφέρεται ρητά σε συσχετίσεις μεταξύ ασθενειών και δημογραφικών χαρακτηριστικών όταν επέλεγε τα χαρακτηριστικά των ασθενών—χωρίς να επικαλείται ποσοτικά επιδημιολογικά δεδομένα. Αυτό είναι κρίσιμο, γιατί όταν ένα σύστημα παράγει «αιτιολογημένες» απαντήσεις που ακούγονται λογικές, μπορεί να κάνει τις προκαταλήψεις πιο δύσκολο να εντοπιστούν και άρα πιο επικίνδυνες στην πράξη.
Τι σημαίνει αυτό για την κλινική πράξη και την ασφάλεια των ασθενών
Η συστηματική υπερεκπροσώπηση συγκεκριμένων δημογραφικών ομάδων, ιδιαίτερα σε παθήσεις που στην πραγματικότητα προσβάλλουν διαφορετικούς πληθυσμούς, μπορεί να ενισχύσει περιοριστικές δημογραφικές αντιλήψεις σε κλινικά περιβάλλοντα.
Και αυτό δεν είναι θεωρητικό: η κατανόηση της συχνότητας μιας νόσου σε διαφορετικούς πληθυσμούς αποτελεί μέρος της διαγνωστικής διαδικασίας. Αν η Τεχνητή Νοημοσύνη «εκπαιδεύει» σιωπηρά τους χρήστες της σε στερεοτυπικές συνδέσεις, μπορεί να επηρεάσει την υποψία διάγνωσης, τις ερωτήσεις που τίθενται, ακόμη και την πορεία της διερεύνησης.
Παράλληλα, η υπερεκπροσώπηση του φύλου που θεωρείται συχνότερα «ταιριαστό» με μια πάθηση ενισχύει τις ενδείξεις ότι τα LLMs μπορούν να αναπαράγουν έμφυλα στερεότυπα στον χώρο της υγείας. Η ανισορροπία αυτή μπορεί να οδηγήσει σε υποεκτίμηση συμπτωμάτων σε ομάδες που δεν ταιριάζουν στο «αναμενόμενο» προφίλ—ένα πρόβλημα που η ιατρική ιστορικά προσπαθεί να διορθώσει, όχι να ανακυκλώσει.
