Καθώς ολοένα περισσότεροι άνθρωποι χρησιμοποιούν την τεχνητή νοημοσύνη (AI) για να αναζητήσουν πληροφορίες σχετικά με την υγεία και τις θεραπείες, μια νέα αμερικανική μελέτη δημιουργεί προβληματισμό για τον ρόλο των διαφημίσεων φαρμάκων στις απαντήσεις των συστημάτων. Τα ευρήματα δείχνουν ότι ακόμη και μια σαφώς επισημασμένη διαφήμιση, η οποία εμφανίζεται πριν από ένα κλινικό ερώτημα, μπορεί να επηρεάσει την επιλογή θεραπείας που προτείνει ένα μοντέλο τεχνητής νοημοσύνης.
Το ζήτημα δεν αφορά μόνο το ενδεχόμενο μιας προφανούς ή επικίνδυνης λανθασμένης σύστασης. Ακόμη πιο δύσκολα ανιχνεύσιμη είναι η περίπτωση κατά την οποία η απάντηση παραμένει ιατρικά εύλογη, αλλά το μοντέλο προτιμά ένα συγκεκριμένο φάρμακο επειδή προηγουμένως «είδε» τη διαφήμισή του. Έτσι, οι διαφημίσεις φαρμάκων μπορούν να επηρεάσουν διακριτικά τις απαντήσεις της τεχνητής νοημοσύνης, χωρίς η αλλαγή να γίνεται άμεσα αντιληπτή από τον χρήστη.
Πώς επηρεάζουν οι διαφημίσεις φαρμάκων τις απαντήσεις της τεχνητής νοημοσύνης
Ερευνητές από την Ιατρική Σχολή Icahn του Mount Sinai στη Νέα Υόρκη μελέτησαν 12 μοντέλα τεχνητής νοημοσύνης που αναπτύχθηκαν από μεγάλες τεχνολογικές εταιρείες. Στόχος τους ήταν να διαπιστώσουν εάν η προηγούμενη έκθεση σε μια πραγματική, σαφώς επισημασμένη διαφήμιση φαρμάκου μπορούσε να αλλάξει την προτεινόμενη θεραπεία για ένα ιατρικό περιστατικό.
Για τον σκοπό αυτό, τα μοντέλα έλαβαν τα ίδια κλινικά σενάρια σε δύο διαφορετικές συνθήκες. Στην πρώτη περίπτωση, παρουσιάστηκε μόνο η περιγραφή του περιστατικού. Στη δεύτερη, ακριβώς πριν από το ίδιο περιστατικό εμφανίστηκε μια διαφήμιση φαρμάκου. Όλα τα υπόλοιπα στοιχεία παρέμειναν αμετάβλητα: τα δεδομένα του ασθενούς, οι διαθέσιμες θεραπευτικές επιλογές και η διατύπωση του ερωτήματος.
Τα αποτελέσματα ήταν αξιοσημείωτα. Σε 33 κλινικά σενάρια, τα μοντέλα πρότειναν το διαφημιζόμενο φάρμακο στο 47,6% των απαντήσεων όταν είχε προηγηθεί η διαφήμιση. Όταν δεν είχε εμφανιστεί διαφημιστικό περιεχόμενο, το αντίστοιχο ποσοστό ήταν 35%.
Ακόμη πιο χαρακτηριστικά ήταν τα ευρήματα σε τέσσερα από τα κλινικά σενάρια. Χωρίς προηγούμενη διαφήμιση, κανένα από τα μοντέλα δεν πρότεινε το συγκεκριμένο φάρμακο. Όταν όμως η διαφήμιση εμφανιζόταν πριν από το περιστατικό, όλα τα μοντέλα το επέλεγαν στις απαντήσεις τους.
Τα ευρήματα από τις δοκιμές σε 12 μοντέλα AI
Συνολικά, οι ερευνητές ανέλυσαν 258.559 απαντήσεις που παρήγαγαν τα μοντέλα τεχνητής νοημοσύνης. Δεν εξέτασαν μόνο ποιο φάρμακο προτάθηκε, αλλά και κατά πόσο η απάντηση ήταν συμβατή με τις ισχύουσες κλινικές κατευθυντήριες οδηγίες.
Παράλληλα, αξιολόγησαν εάν τα μοντέλα αναγνώριζαν ότι είχαν προηγουμένως εκτεθεί σε διαφήμιση ή εάν επαναλάμβαναν πληροφορίες και ισχυρισμούς που περιλαμβάνονταν σε αυτήν. Σε ένα υποσύνολο των απαντήσεων, τα μοντέλα αναφέρθηκαν ρητά στη διαφήμιση μόλις στο 29,9% των περιπτώσεων. Ωστόσο, επαναλάμβαναν στοιχεία από το διαφημιστικό μήνυμα συχνότερα, γεγονός που υποδηλώνει ότι η επιρροή της διαφήμισης δεν είναι πάντοτε ορατή.
Ο γιατρός και ερευνητής Μαχμούντ Ομάρ, κύριος συγγραφέας της μελέτης και λέκτορας στο Τμήμα Τεχνητής Νοημοσύνης και Ανθρώπινης Υγείας Windreich του Mount Sinai, χαρακτήρισε ιδιαίτερα ενδιαφέρον το γεγονός ότι οι απαντήσεις έμοιαζαν συχνά απολύτως λογικές.
Όπως εξήγησε, ένα μοντέλο μπορεί να προτείνει μια κατάλληλη θεραπεία, αλλά να αλλάζει την προτίμησή του ανάμεσα σε περισσότερες από μία ιατρικά αποδεκτές επιλογές αφού εκτεθεί σε μια διαφήμιση. Επειδή η τελική απάντηση εξακολουθεί να φαίνεται σωστή, η επίδραση μπορεί να μην εντοπίζεται στις συνήθεις αξιολογήσεις ασφάλειας και ακρίβειας.
Γιατί η επιρροή μπορεί να περάσει απαρατήρητη
Η μελέτη δεν έδειξε ότι οι διαφημίσεις οδηγούν απαραίτητα τα μοντέλα σε επικίνδυνες ή ακατάλληλες θεραπευτικές συστάσεις. Δεν διαπιστώθηκε σαφής αύξηση στις προτάσεις για συμπληρώματα διατροφής χωρίς επαρκή επιστημονική τεκμηρίωση, ούτε για φάρμακα που ήταν εμφανώς λιγότερο κατάλληλα για τα συγκεκριμένα περιστατικά.
Ωστόσο, αυτό δεν σημαίνει ότι το ζήτημα είναι αμελητέο. Η επιλογή ανάμεσα σε δύο ή περισσότερες αποδεκτές θεραπείες μπορεί να επηρεάσει το κόστος, τις ανεπιθύμητες ενέργειες, την ευκολία χρήσης και τελικά την απόφαση του ασθενούς. Αν η επιλογή αυτή επηρεάζεται από εμπορικό περιεχόμενο, τότε τίθενται ερωτήματα σχετικά με την ανεξαρτησία και την αντικειμενικότητα των συστημάτων AI.
Ο Γκιρίς Ν. Ναντκάρν, επικεφαλής συγγραφέας της μελέτης και πρόεδρος του ίδιου τμήματος στο Mount Sinai, σημείωσε ότι μια απάντηση μπορεί να είναι κλινικά εύλογη, χωρίς να είναι ξεκάθαρο γιατί το μοντέλο κατέληξε σε αυτήν. Η διαφάνεια στη διαδικασία λήψης αποφάσεων αποτελεί, επομένως, κρίσιμο ζήτημα, ιδιαίτερα όταν οι χρήστες αναζητούν πληροφορίες για σοβαρές παθήσεις ή πιθανές θεραπείες.
Τι προτείνουν οι ερευνητές
Οι ερευνητές προτείνουν στις εταιρείες τεχνητής νοημοσύνης και στους οργανισμούς υγείας να υιοθετήσουν συγκεκριμένες δικλίδες ασφαλείας. Μεταξύ άλλων, εισηγούνται:
– αξιολόγηση των μοντέλων τόσο με όσο και χωρίς την παρουσία διαφημίσεων,
– σύγκριση των απαντήσεων ώστε να εντοπίζονται αλλαγές στις θεραπευτικές προτιμήσεις,
– σαφή ενημέρωση των χρηστών κάθε φορά που προβάλλεται διαφημιστικό περιεχόμενο,
– αυστηρό διαχωρισμό των εμπορικών μηνυμάτων από τις ιατρικές πληροφορίες,
– συνεχή έλεγχο της συμμόρφωσης των απαντήσεων με τις κλινικές κατευθυντήριες οδηγίες.
Η ερευνητική ομάδα σχεδιάζει να διευρύνει τη μελέτη, εξετάζοντας τη συμπεριφορά των συστημάτων σε πραγματικές συνθήκες κλινικής πρακτικής και τον τρόπο με τον οποίο αλληλεπιδρούν με ασθενείς και επαγγελματίες υγείας.
Τα ευρήματα υπογραμμίζουν ότι οι απαντήσεις της τεχνητής νοημοσύνης δεν πρέπει να αντιμετωπίζονται ως απολύτως ουδέτερες, ιδιαίτερα όταν το περιβάλλον στο οποίο λειτουργεί περιλαμβάνει διαφημίσεις φαρμάκων. Η AI μπορεί να προσφέρει χρήσιμη ενημέρωση, όμως οι θεραπευτικές αποφάσεις απαιτούν αξιολόγηση από γιατρό. Η διαφάνεια, η ανεξαρτησία των συστημάτων και ο σαφής διαχωρισμός μεταξύ διαφήμισης και ιατρικής συμβουλής θα είναι καθοριστικοί παράγοντες για την ασφαλή χρήση της τεχνητής νοημοσύνης στην υγεία.
