Ινδία: Η τεχνητή νοημοσύνη «κόβει» συντάξεις και επιδόματα σε χιλιάδες δικαιούχους

Η ταχεία υιοθέτηση της τεχνητής νοημοσύνης έχει προκαλέσει φόβους ότι θα εξαλείψει εκατομμύρια θέσεις εργασίας. Ωστόσο, η υιοθέτησή της από τοπικές κυβερνήσεις έχει οδηγήσει σε άρνηση χορήγησης τροφίμων σε ανθρώπους που τα δικαούνται, όπως συνέβη στην Ινδία.

Οι τεχνολογικές εταιρείες στη Δύση αναπτύσσουν προϊόντα τεχνητής νοημοσύνης που θα μπορούσαν να θέσουν εκτός εργασίας συγγραφείς, καλλιτέχνες και προγραμματιστές. Στην Ινδία, η τεχνητή νοημοσύνη χρησιμοποιείται ήδη για την ανάλυση τεράστιων όγκων δεδομένων προκειμένου να διαπιστωθεί αν υπάρχουν άτομα που εμπλέκονται σε απάτες εις βάρος της κοινωνικής πρόνοιας.

Η Ινδία διαχειρίζεται ένα από τα μεγαλύτερα προγράμματα επισιτιστικής ασφάλειας στον κόσμο, το οποίο τρέφει περίπου το 60% του πληθυσμού της. Μετά την έλευση της πανδημίας του COVID-19, η κυβέρνηση της χώρας αποφάσισε να παρέχει δωρεάν κάθε μήνα, 11 κιλά ρύζι, σιτάρι και χονδρόκοκκο σιτάρι σε 800 εκατομμύρια ανθρώπους. Πριν από αυτό, οι οικογένειες που βρίσκονταν κάτω από ένα ορισμένο οικονομικό επίπεδο μπορούσαν να προμηθεύονται σιτηρά σε ειδική τιμή: λιγότερο από 1 σεντ για ένα κιλό ρύζι έναντι 48 σεντς. Το κράτος εφαρμόζει επίσης μηνιαία προγράμματα συνταξιοδότησης για ηλικιωμένους ή χήρες που δεν έχουν κάποιο εισόδημα, παρέχοντάς τους μηνιαία οικονομική βοήθεια έως και 2.750 ρουπίες (33 δολάρια).

Στο παρελθόν, οι κυβερνητικοί υπάλληλοι ήταν επιφορτισμένοι με τον εντοπισμό και την έγκριση των δικαιούχων των προγραμμάτων αυτών. Αυτό περιλάμβανε φυσική επαλήθευση εγγράφων και επιτόπιες επισκέψεις. Τα τελευταία χρόνια, ωστόσο, τη δουλειά αυτή την έχουν αναλάβει οι αλγόριθμοι, οι οποίοι εντοπίζουν πιθανούς ψευδοδικαιούχους.

Το συγκεκριμένο σύστημα σχεδιάστηκε αρχικά για να βοηθήσει την περιφερειακή αστυνομία να εντοπίζει εγκληματίες, αλλά αναπτύχθηκε περαιτέρω για τον εντοπισμό ψευδοδικαιούχων. Με βάση τις πληροφορίες που συγκεντρώθηκαν από πολλαπλές βάσεις δεδομένων, αφαιρέθηκαν έως και 1,9 εκατομμύρια άτομα από τον κατάλογο των δικαιούχων. Μια εκ νέου ανάλυση πάνω από 200.000 ονομάτων αποκάλυψε ότι 15.000 είχαν αφαιρεθεί εσφαλμένα, σύμφωνα με δημοσίευμα του Al-Jazeera.

Τον Ιούνιο του 2020, η πολιτεία Χαριάνα άρχισε να χρησιμοποιεί ένα νέο αλγοριθμικό σύστημα για τη συλλογή πληροφοριών σχετικά με οικογένειες που διεκδικούσαν επιδόματα πρόνοιας. Με βάση στοιχεία όπως εισόδημα, ηλικία και απασχόληση, κάθε οικογένεια λαμβάνει ένα οκταψήφιο μοναδικό αναγνωριστικό, το οποίο είναι πλέον υποχρεωτικό για όλα τα προγράμματα κοινωνικής πρόνοιας. Έκτοτε, η κυβέρνηση έκοψε πάνω από 300.000 συντάξεις από δικαιούχους που είχαν κηρυχθεί «νεκροί» από το σύστημα. Πέρυσι, ο επικεφαλής υπουργός παραδέχθηκε ότι από ένα μικρότερο δείγμα 66.000 συντάξεων που είχαν κοπεί, οι 44.000 (70%) είχαν επισημανθεί εσφαλμένα. Η αποκατάστηση ενός τέτοιου λάθους μπορεί να πάρει μήνες ή και χρόνια, που σημαίνει ότι στο μεταξύ οι αιτούντες χάνουν την πρόσβαση σε επιδόματα.

Ενώ οι αλγόριθμοι έχουν βοηθήσει στον εντοπισμό ψευδοδικαιούχων, έχουν σφάλει πολύ περισσότερο από τα επιτρεπτά όρια. Επιπλέον, αυτοί που βιώνουν πιο έντονα τον αντίκτυπο τέτοιων σφαλμάτων είναι τα φτωχότερα και πιο αδύναμα μέλη της κοινωνίας.

ΠΗΓΗ: Interesting Engineering