Από την αξιολόγηση τηλεφωνικών συνομιλιών έως τη δημιουργία λεπτομερών προφίλ πελατών, η τεχνητή νοημοσύνη μεταμορφώνει τον τρόπο με τον οποίο οι εταιρείες παρακολουθούν και αξιολογούν συμπεριφορές. Αυτή η νέα μορφή επιτήρησης στον χώρο εργασίας επιτρέπει την καταγραφή, ανάλυση και αξιολόγηση δραστηριοτήτων σε πραγματικό χρόνο, προκαλώντας παράλληλα έντονο προβληματισμό για τα όρια της ιδιωτικότητας και της εταιρικής εξουσίας.
Εργαζόμενοι και πελάτες βρίσκονται ολοένα συχνότερα στο επίκεντρο αυτοματοποιημένων συστημάτων. Οι επιχειρήσεις παρουσιάζουν αυτές τις τεχνολογίες ως εργαλεία βελτίωσης της απόδοσης, της εξυπηρέτησης και των πωλήσεων. Ωστόσο, η δυνατότητα συλλογής δεδομένων από πολλαπλές πηγές δημιουργεί ένα περιβάλλον όπου η επαγγελματική δραστηριότητα μπορεί να συνδέεται άμεσα με προσωπικές πληροφορίες και συνήθειες.
Η τεχνητή νοημοσύνη στην αξιολόγηση εργαζομένων
Εργαζόμενοι σε όλο τον κόσμο διαπιστώνουν όλο και συχνότερα ότι παρακολουθούνται σχολαστικά στον χώρο εργασίας τους. Ακόμη και μικρές αλλαγές στη συμπεριφορά ή στον τρόπο επικοινωνίας τους μπορεί να καταγραφούν από αλγοριθμικά συστήματα και να επηρεάσουν την αξιολόγηση της απόδοσής τους.
Χαρακτηριστικό παράδειγμα αποτελεί η βρετανική Co-op, η οποία δραστηριοποιείται μεταξύ άλλων στον χώρο των σούπερ μάρκετ, των ασφαλιστικών υπηρεσιών και των νομικών συμβουλών. Η εταιρεία εγκατέστησε αυτοματοποιημένη τεχνολογία ακρόασης, σχεδιασμένη να αξιολογεί τηλεφωνικές κλήσεις που πραγματοποιούν εργαζόμενοι με πελάτες.
Ειδικότερα, η Co-op Legal Services χρησιμοποιεί μοντέλα τεχνητής νοημοσύνης για την καταγραφή και ανάλυση συνομιλιών μεταξύ υπαλλήλων και πελατών που αναζητούν συμβουλές για κληρονομικά ζητήματα, διαθήκες και περιουσιακά στοιχεία. Το σύστημα αποδίδει στις συνομιλίες ποσοστιαία βαθμολογία, αξιολογώντας στοιχεία της επικοινωνίας και της συμπεριφοράς των εργαζομένων.
Πληροφοριοδότης χαρακτήρισε την πρακτική «καταπιεστική και δυστοπική», ενώ εργαζόμενος της Co-op δήλωσε στον Guardian, υπό τον όρο της ανωνυμίας: «Μας παρακολουθούν». Η εταιρεία, από την πλευρά της, απέρριψε την κριτική και υποστήριξε ότι οι σύμβουλοί της είναι ιδιαίτερα αφοσιωμένοι στην εργασία τους.
Η συγκεκριμένη πρακτική εντάσσεται σε μια ευρύτερη τάση. Η τεχνητή νοημοσύνη δεν χρησιμοποιείται πλέον μόνο για την αξιολόγηση του τελικού αποτελέσματος, αλλά και για την παρακολούθηση του τρόπου με τον οποίο εκτελείται η εργασία. Ο τόνος της φωνής, η διάρκεια ενός διαλείμματος, η ταχύτητα ολοκλήρωσης μιας εργασίας ή η συχνότητα επικοινωνίας με πελάτες μπορούν να μετατραπούν σε μετρήσιμα δεδομένα.
Στην Καλιφόρνια, ο κυβερνήτης Γκάβιν Νιούσομ υπέγραψε νόμους που απαγορεύουν ορισμένες μορφές επιτήρησης στους χώρους εργασίας. Οι περιορισμοί αφορούν, μεταξύ άλλων, συστήματα που καταγράφουν τις κινήσεις των εργαζομένων — ακόμη και τον χρόνο που περνούν στην τουαλέτα — ή επιχειρούν να αξιολογήσουν τη συναισθηματική τους κατάσταση.
Εργαζόμενοι σε αποθήκες της Amazon έχουν διαμαρτυρηθεί για την καταγραφή της διάρκειας των διαλειμμάτων τους. Παράλληλα, νοσηλευτές στο δίκτυο νοσοκομείων Kaiser Permanente στην Καλιφόρνια έχουν καταγγείλει ότι αυτοματοποιημένα συστήματα αξιολογούσαν τον τόνο της φωνής τους κατά τις συνομιλίες με ασθενείς.
Από την επιτήρηση εργαζομένων στην παρακολούθηση πελατών
Η χρήση της τεχνητής νοημοσύνης δεν περιορίζεται στους εργαζομένους. Αντίστοιχες τεχνολογίες αναπτύσσονται για την παρακολούθηση πελατών, με στόχο την πρόβλεψη των αναγκών τους, τη διατήρηση των εμπορικών σχέσεων και την αύξηση των πωλήσεων.
Αυτή είναι η φιλοσοφία της Outlit, μιας νεοφυούς επιχείρησης από τη Σίλικον Βάλεϊ. Οι ιδρυτές της, Τζος Ερλ και Λίο Παζ, υποστηρίζουν ότι η «επιτήρηση πελατών μέσω τεχνητής νοημοσύνης» αποτελεί το μέλλον των πωλήσεων μεταξύ επιχειρήσεων, δηλαδή του μοντέλου B2B.
«Κάθε εταιρεία σύντομα θα αναθέτει έναν πράκτορα τεχνητής νοημοσύνης σε κάθε πελάτη, ώστε να παρακολουθεί κάθε του κίνηση», ανέφερε ο Ερλ, περιγράφοντας τη βασική ιδέα της εταιρείας.
Στόχος της Outlit είναι να συγκεντρώνει όσο το δυνατόν περισσότερες πληροφορίες σε πραγματικό χρόνο. Οι πράκτορες τεχνητής νοημοσύνης αναζητούν δεδομένα σε εσωτερικά αρχεία, όπως καταγραφές κλήσεων, στοιχεία πωλήσεων και συστήματα διαχείρισης πελατειακών σχέσεων. Παράλληλα, αντλούν πληροφορίες από εξωτερικές πηγές, όπως αναρτήσεις στα μέσα κοινωνικής δικτύωσης, το LinkedIn και ιστοσελίδες εργοδοτών.
Στη συνέχεια, τα συστήματα συνθέτουν λεπτομερή προφίλ πελατών και προτείνουν τρόπους επικοινωνίας, εμπορικές ενέργειες και στρατηγικές πωλήσεων. Η εταιρεία υποστηρίζει ότι η προσέγγιση αυτή μπορεί να βοηθήσει τις επιχειρήσεις να περιορίσουν την απώλεια πελατών και να εντοπίσουν ευκαιρίες για την πώληση πρόσθετων προϊόντων ή υπηρεσιών.
Η Outlit, η οποία υποστηρίζεται από τον επιχειρηματικό επιταχυντή Y Combinator, συνεργάζεται με εταιρείες λογισμικού που δραστηριοποιούνται στον χώρο B2B. Ο Ερλ υποστηρίζει ότι η επιχείρηση δεν επιδιώκει να παρακολουθεί μεμονωμένους καταναλωτές. Το προϊόν, όπως το περιγράφει, συγκεντρώνει τις διαθέσιμες πληροφορίες σε έναν ψηφιακό φάκελο που ενημερώνεται συνεχώς.
Οι χρήστες μπορούν να βλέπουν τις πηγές των δεδομένων, να ξεχωρίζουν τις σχετικές πληροφορίες και να λαμβάνουν προτάσεις για τις ενέργειες που πρέπει να ακολουθήσουν. Η διαφάνεια αυτή, ωστόσο, αφορά κυρίως τους εταιρικούς χρήστες και όχι απαραίτητα τους ανθρώπους που παρακολουθούνται.
Προσωπικά δεδομένα και τα όρια της επιτήρησης
Η συγκέντρωση πληροφοριών από πολλαπλές πηγές εγείρει σοβαρά ερωτήματα για το εύρος της επιτήρησης και τη διάκριση ανάμεσα στην επαγγελματική δραστηριότητα και την προσωπική ζωή.
Ένας δημόσιος λογαριασμός στα μέσα κοινωνικής δικτύωσης μπορεί να περιλαμβάνει αναρτήσεις για μια επαγγελματική εξέλιξη, αλλά και για έναν γάμο, τη γέννηση ενός παιδιού, ένα διαζύγιο ή ένα πρόβλημα υγείας. Όταν ρωτήθηκε αν τέτοιες πληροφορίες θα μπορούσαν να συγκεντρωθούν από τα συστήματα της Outlit, ο Ερλ δήλωσε ότι δεν είχε εξετάσει το ενδεχόμενο και ότι η εταιρεία δεν τις παρακολουθεί ενεργά.
Παραδέχθηκε, ωστόσο, ότι «θεωρητικά, μπορούμε να παρακολουθούμε οτιδήποτε δημοσιεύεται στο διαδίκτυο». Η δήλωση αυτή αναδεικνύει το βασικό πρόβλημα: το γεγονός ότι μια πληροφορία είναι δημόσια δεν σημαίνει απαραίτητα ότι ο χρήστης έχει συναινέσει στη μαζική συλλογή, ανάλυση και αξιοποίησή της για εμπορικούς σκοπούς.
Ερωτηθείς αν η εταιρεία σκοπεύει να ενημερώνει όσους παρακολουθούνται ή να τους παρέχει τη δυνατότητα εξαίρεσης, ο Ερλ απάντησε αρνητικά. Υποστήριξε ότι η εταιρεία δεν κάνει κάτι παράνομο και ότι η παρακολούθηση σχετικών δεδομένων αποτελεί δικαίωμά της. Παράλληλα, στον ιστότοπό της, η Outlit διαβεβαιώνει ότι τα δεδομένα των πελατών της είναι ασφαλή και ανωνυμοποιημένα και ότι δεν χρησιμοποιούνται για την εκπαίδευση των μοντέλων της.
Ποιος ελέγχει τους αλγορίθμους;
Η αυξανόμενη χρήση της τεχνητής νοημοσύνης στην επιτήρηση δημιουργεί και ένα ζήτημα λογοδοσίας. Όταν μια αξιολόγηση γίνεται από έναν αλγόριθμο, οι εργαζόμενοι και οι πελάτες συχνά δεν γνωρίζουν ποια δεδομένα χρησιμοποιήθηκαν, πώς σταθμίστηκαν ή πώς μπορούν να αμφισβητήσουν το αποτέλεσμα.
Ένα σύστημα μπορεί να ερμηνεύσει λανθασμένα τον τόνο μιας φωνής, μια καθυστέρηση ως αδιαφορία ή μια αλλαγή στη συμπεριφορά ως μειωμένη απόδοση. Αν τα δεδομένα είναι ελλιπή ή μεροληπτικά, το ίδιο μπορεί να συμβεί και στις τελικές αποφάσεις.
Η τεχνολογία μπορεί πράγματι να συμβάλει στη βελτίωση της εξυπηρέτησης και της παραγωγικότητας. Για να γίνει αυτό, όμως, χρειάζονται σαφείς κανόνες, ενημέρωση των ενδιαφερομένων, περιορισμός της συλλογής δεδομένων και ουσιαστικός ανθρώπινος έλεγχος. Χωρίς αυτές τις δικλίδες, η τεχνητή νοημοσύνη κινδυνεύει να μετατρέψει τον χώρο εργασίας και τις εμπορικές σχέσεις σε περιβάλλον διαρκούς επιτήρησης.
Η τεχνητή νοημοσύνη διευρύνει τα όρια της παρακολούθησης με ταχύτητα που συχνά ξεπερνά τη δημόσια συζήτηση και τη νομοθεσία. Το κρίσιμο ερώτημα δεν είναι μόνο τι μπορούν να κάνουν οι νέες τεχνολογίες, αλλά και τι πρέπει να επιτρέπεται να κάνουν. Η προστασία της ιδιωτικότητας, η διαφάνεια και το δικαίωμα αμφισβήτησης πρέπει να αποτελούν βασικές προϋποθέσεις, ώστε η τεχνητή νοημοσύνη να λειτουργεί ως εργαλείο υποστήριξης και όχι ως μηχανισμός ανεξέλεγκτης επιτήρησης.
