*Από τον κ. Κωνσταντίνο Καρπούζη, Αναπληρωτή καθηγητή, Τμήμα Επικοινωνίας, Μέσων και Πολιτισμού, Πάντειο Πανεπιστήμιο
Σήμερα τα συστήματα Τεχνητής Νοημοσύνης έχουν αλλάξει βαθιά τη σχέση μας με τον γιατρό και το μεγάλο ερώτημα είναι γιατί εμπιστευόμαστε το ChatGPT ή το Gemini για να μας πει τι έχουμε! Η εικόνα είναι πλέον πολύ οικεία: «Ρώτησα το ChatGPT», «το Gemini μου είπε ότι μάλλον έχω…». Οι πλατφόρμες διαλογικής Τεχνητής Νοημοσύνης, τα γνωστά μας chatbots, έχουν εισέλθει σαν θύελλα στον χώρο της υγείας, απαντώντας με περισσή πειστικότητα ερωτήματα που σχετίζονται από τον θηλασμό μέχρι την ερμηνεία αιματολογικών εξετάσεων κι από ένα εξάνθημα μέχρι την επιλογή ή την αντικατάσταση ενός φαρμάκου. Δε λειτουργούν μόνο σαν εργαλείο αναζήτησης, αλλά ως συνομιλητής που μοιάζει να κατανοεί, να εξηγεί και, κυρίως, να καθοδηγεί. Το ερώτημα που αναδύεται δεν είναι μόνο τεχνολογικό, αλλά βαθιά κοινωνικό και ηθικό: γιατί της αποδίδουμε τέτοια εμπιστοσύνη; Και σε ποιο βαθμό αρχίζει να υποκαθιστά τον γιατρό;
Ενα πρώτο επίπεδο εξήγησης σχετίζεται με την ευκολία στην απόκριση και τη λειτουργία. Η Τεχνητή Νοημοσύνη είναι άμεσα διαθέσιμη, συνήθως δωρεάν ή με χαμηλό κόστος, και δεν απαιτεί ραντεβού. Σε ένα σύστημα υγείας που συχνά χαρακτηρίζεται από καθυστερήσεις και δύσκολη πρόσβαση, ειδικά στο δημόσιο κομμάτι του, η υπόσχεση μιας άμεσης απάντησης είναι εξαιρετικά ελκυστική. Ωστόσο, αυτό από μόνο του δεν επαρκεί για να εξηγήσει το βάθος της εμπιστοσύνης. Το κρίσιμο στοιχείο είναι ο τρόπος με τον οποίο αυτά τα συστήματα επικοινωνούν: με σαφήνεια, συνοχή και αυτοπεποίθηση. Δεν «αποπνέουν» αβεβαιότητα, ακόμη και όταν αυτή υπάρχει, χρησιμοποιώντας λόγο που μετατρέπει την πιθανότητα σε βεβαιότητα και την υπόθεση σε διάγνωση.
ΣΧΕΤΙΚΑ ΑΡΘΡΑ
Εδώ εισέρχεται η έννοια των persuasive technologies, όπως έχει αναλυθεί από τον B. J. Fogg. Τα ψηφιακά συστήματα δεν είναι ουδέτερα, αλλά σχεδιάζονται ώστε να επηρεάζουν τη συμπεριφορά και τη λήψη αποφάσεων των χρηστών. Στην περίπτωση των συστημάτων διαλογικής Τεχνητής Νοημοσύνης, η πειθώ δεν προκύπτει μόνο από την πρόθεση του σχεδιασμού, αλλά και από τη μορφή της αλληλεπίδρασης: διάλογος σε φυσική γλώσσα, εξατομικευμένες απαντήσεις, προσαρμογή στο ύφος του χρήστη. Ολα αυτά δημιουργούν μια ψευδαίσθηση οικειότητας και κατανόησης, η οποία ενισχύει την εμπιστοσύνη.
Η πειθώ εδώ λειτουργεί σε πολλαπλά επίπεδα. Σε γνωστικό επίπεδο, η σαφής και δομημένη απάντηση εκλαμβάνεται ως ένδειξη αξιοπιστίας, ενώ σε συναισθηματικό επίπεδο, η έλλειψη κριτικής ή απόρριψης καθιστά την αλληλεπίδραση «ασφαλή». Τέλος, σε συμπεριφορικό επίπεδο, η ευκολία επανάληψης της χρήσης δημιουργεί συνήθεια, κάνοντας την Τεχνητή Νοημοσύνη όχι απλά εργαλείο, αλλά σημείο αναφοράς.
Γιατί μας «πείθει» το σύστημα
Αυτή η διαδικασία έχει και φιλοσοφικές προεκτάσεις. Αν επιστρέψουμε στην αριστοτελική διάκριση μεταξύ επιστήμης (επιστημονικής γνώσης), τέχνης (τεχνικής δεξιότητας) και φρόνησης (πρακτικής σοφίας), η ιατρική πρακτική ανήκει κυρίως στην τρίτη κατηγορία. Η φρόνηση αφορά την ικανότητα να λαμβάνουμε αποφάσεις σε συνθήκες αβεβαιότητας, λαμβάνοντας υπόψη το συγκεκριμένο άτομο, το πλαίσιο και τις ηθικές συνέπειες. Η Τεχνητή Νοημοσύνη, αντίθετα, λειτουργεί κυρίως στο επίπεδο της στατιστικής συσχέτισης και της αναπαραγωγής προτύπων – δεν διαθέτει φρόνηση, ούτε μπορεί -και πρέπει- να αναλάβει την ευθύνη που αυτή συνεπάγεται.
Παρ’ όλα αυτά, οι χρήστες της συνεχίζουμε να της αποδίδουμε χαρακτηριστικά που προσιδιάζουν σε ανθρώπινη κρίση. Αυτό σχετίζεται άμεσα με τη γενικότερη τάση μας να ανθρωπομορφοποιούμε τα συστήματα που αλληλεπιδρούν μαζί μας σε φυσική γλώσσα: όταν ένα σύστημα «μιλά» όπως ένας ειδικός, με την πρέπουσα ορολογία και με πειστικό λόγο που στηρίζεται περισσότερο στην αυθεντία και σπανιότερα σε επιχειρήματα, τείνουμε να το αντιμετωπίζουμε ως ειδικό. Αυτή η συνηθισμένη νοητική συντόμευση, η επίκληση και η εμπιστοσύνη σε μια «αυθεντία» που εδώ είναι μια μηχανή, μπορεί να έχει πολύ σοβαρές συνέπειες στην περίπτωση της υγείας. Το πρόβλημα δεν είναι η πρόσβαση στην πληροφορία αυτή καθαυτή, αλλά η έλλειψη πλαισίου για την αξιολόγησή της, με την πληροφορία να αποσπάται από το κλινικό της περιβάλλον και να μετατρέπεται σε γενική συμβουλή.
Ποιος ευθύνεται;
Σε αυτό το σημείο αναδύεται και η ηθική διάσταση: η χρήση της Τεχνητής Νοημοσύνης στην υγεία θέτει ζητήματα ευθύνης, διαφάνειας και δικαιοσύνης. Ποιος ευθύνεται όταν μια λανθασμένη απάντηση οδηγήσει σε βλάβη; Πώς διασφαλίζεται ότι τα δεδομένα στα οποία βασίζονται τα συστήματα αυτά δεν ενσωματώνουν προκαταλήψεις; Και κυρίως, πώς προστατεύεται ο χρήστης από την υπερεκτίμηση των δυνατοτήτων της τεχνολογίας;
Η ευρωπαϊκή προσέγγιση, μέσω του AI Act (ο πρώτος ολοκληρωμένος νόμος παγκοσμίως για την Τεχνητή Νοημοσύνη), επιχειρεί να απαντήσει σε ορισμένα από αυτά τα ερωτήματα, κατατάσσοντας τα συστήματα που σχετίζονται με την υγεία ως υψηλού κινδύνου. Ωστόσο, η ρύθμιση των ίδιων των συστημάτων δεν αρκεί, καθώς η καθημερινή χρήση τους από τους πολίτες ξεφεύγει από το ρυθμιστικό πλαίσιο. Το κρίσιμο βήμα εδώ είναι η καλλιέργεια ενός νέου είδους εγγραμματισμού: να μπορούμε να κατανοούμε όχι μόνο τις απαντήσεις που λαμβάνουμε, αλλά και τα όρια του συστήματος που τις παράγει.
Η ΑΙ έχει αλλάξει τη θέση του γιατρού
Η Τεχνητή Νοημοσύνη δεν έχει αντικαταστήσει τον γιατρό – και ούτε πρόκειται. Εχει, όμως, αλλάξει τη θέση του. Ο γιατρός δεν είναι πλέον η πρώτη πηγή πληροφόρησης, αλλά καλείται συχνά να λειτουργήσει ως ερμηνευτής, διορθωτής και, ενίοτε, αποδομητής τής -συχνά λανθασμένης, επιφανειακής ή μη σχετικής με τη συγκεκριμένη περίπτωση- πληροφορίας που ο ασθενής έχει ήδη λάβει. Αυτό απαιτεί χρόνο, επικοινωνιακές δεξιότητες και μια νέα μορφή σχέσης με τον ασθενή.
Ισως, τελικά, το πιο κρίσιμο ερώτημα δεν είναι αν η Τεχνητή Νοημοσύνη γίνεται ο «νέος γιατρός», αλλά τι είδους ασθενείς γινόμαστε εμείς. Αν μετακινούμαστε από μια σχέση εμπιστοσύνης προς έναν ειδικό σε μια σχέση εξάρτησης και τυφλής εμπιστοσύνης σε ένα σύστημα, του οποίου η διαδικασία εκπαίδευσης και οι στόχοι λειτουργίας μάς είναι άγνωστοι, τότε το ζήτημα δεν είναι μόνο τεχνολογικό, αλλά βαθιά πολιτισμικό. Η υγεία δεν είναι απλώς ζήτημα πληροφορίας, είναι ζήτημα κρίσης, ευθύνης και σχέσης. Και αυτά, τουλάχιστον προς το παρόν, δεν αυτοματοποιούνται.
Διαβάστε επίσης
«Bixonimania»: Η νόσος που δεν υπήρξε ποτέ – Αλλά η Τεχνητή Νοημοσύνη την παρουσίασε ως αληθινή
Το άρθρο δημοσιεύθηκε στο τεύχος ν.15 του ygeiamou που κυκλοφόρησε με ΤΟ ΘΕΜΑ την Κυριακή 24/5
