Reuters: Η AI μπαίνει στο χειρουργείο -Λάθη, τραυματισμοί και καταγγελίες προκαλούν ανησυχία
Μια εκτενής έρευνα του Reuters αποκαλύπτει ότι η είσοδος της τεχνητής νοημοσύνης στην ιατρική συνοδεύεται από πιθανούς κινδύνους.
Οι κατασκευαστές ιατρικών συσκευών σπεύδουν να προσθέσουν την τεχνητή νοημοσύνη στα προϊόντα τους. Ενώ οι υποστηρικτές της νέας τεχνολογίας ισχυρίζονται ότι θα φέρει επανάσταση στην ιατρική, οι ρυθμιστικές αρχές λαμβάνουν όλο και περισσότερες καταγγελίες για τραυματισμούς ασθενών.
Η υπόθεση TruDi και η χρήση Τεχνητής Νοημοσύνης
Χαρακτηριστικό παράδειγμα αποτελεί το σύστημα πλοήγησης TruDi, μια ιατρική συσκευή που χρησιμοποιείται σε επεμβάσεις ιγμορίτιδας. Το 2021, η Acclarent – θυγατρική τότε της Johnson & Johnson, ανακοίνωσε ότι ενσωμάτωσε τεχνητή νοημοσύνη στο σύστημα, παρουσιάζοντας την αναβάθμιση ως «άλμα προς τα εμπρός».
Μέχρι εκείνη τη στιγμή, το TruDi βρισκόταν στην αγορά για περίπου τρία χρόνια, με περιορισμένο αριθμό αναφορών δυσλειτουργίας προς την Αμερικανική Υπηρεσία Τροφίμων και Φαρμάκων (FDA). Μετά την προσθήκη της AI, όμως, οι αναφορές εκτοξεύτηκαν. Tουλάχιστον 100 ανεπιβεβαίωτα περιστατικά δυσλειτουργίας και ανεπιθύμητων συμβάντων καταγράφηκαν, ενώ τουλάχιστον 10 ασθενείς φέρονται να τραυματίστηκαν μεταξύ 2021 και 2025.
Σύμφωνα με τις αναφορές, το σύστημα παρείχε λανθασμένες πληροφορίες για τη θέση των χειρουργικών εργαλείων μέσα στο κεφάλι των ασθενών. Σε ορισμένες περιπτώσεις, αυτό οδήγησε σε διαρροή εγκεφαλονωτιαίου υγρού από τη μύτη, σε τρύπημα της βάσης του κρανίου και, σε δύο ιδιαίτερα σοβαρά περιστατικά, σε τραυματισμό της καρωτιδικής αρτηρίας και επακόλουθα εγκεφαλικά επεισόδια.
Δικαστικές διαμάχες και αμφισβητούμενες ευθύνες
Δύο από τους ασθενείς που υπέστησαν εγκεφαλικό επεισόδιο προσέφυγαν στη δικαιοσύνη στο Τέξας, ισχυριζόμενοι ότι η τεχνητή νοημοσύνη του TruDi συνέβαλε άμεσα στους τραυματισμούς τους. Σε μία από τις αγωγές αναφέρεται ότι το προϊόν «ήταν αναμφισβήτητα ασφαλέστερο πριν από την ενσωμάτωση της τεχνητής νοημοσύνης».
Η υπόθεση της ασθενούς Erin Ralph είναι ενδεικτική. Κατά τη διάρκεια μιας φαινομενικά απλής ιγμοπλαστικής επέμβασης το 2022, ο χειρουργός χρησιμοποιούσε το TruDi για να επιβεβαιώνει τη θέση των εργαλείων του. Σύμφωνα με την αγωγή, το σύστημα τον «παραπλάνησε», με αποτέλεσμα τον τραυματισμό της καρωτιδικής αρτηρίας και την πρόκληση εγκεφαλικού επεισοδίου. Η ασθενής κατέληξε για ημέρες στην εντατική, με μακρά και δύσκολη αποκατάσταση.
Παρόμοια ήταν η εμπειρία της Donna Fernihough το 2023. Κατά τη διάρκεια επέμβασης ιγμορίτιδας, η καρωτιδική της αρτηρία φέρεται να «έσπασε». Και αυτή η περίπτωση κατέληξε σε εγκεφαλικό επεισόδιο, με την αγωγή να υποστηρίζει ότι η τεχνητή νοημοσύνη του TruDi ήταν ανακριβής και αναξιόπιστη.
Οι κατασκευαστές αρνούνται τις κατηγορίες. Η Integra LifeSciences, που αγόρασε την Acclarent το 2024, υποστηρίζει ότι δεν υπάρχουν αποδείξεις αιτιώδους σύνδεσης μεταξύ του συστήματος και των τραυματισμών. Οι αγωγές βρίσκονται ακόμη σε εξέλιξη.
Η σκοτεινή πλευρά των αναφορών της FDA
Οι αναφορές ανεπιθύμητων συμβάντων προς την FDA δεν αποτελούν απόδειξη ενοχής. Συχνά είναι ελλιπείς, ανώνυμες ή κατατίθενται πολλαπλές φορές για το ίδιο περιστατικό. Ωστόσο, αποτελούν ένα κρίσιμο σύστημα έγκαιρης προειδοποίησης επισημαίνει το ρεπορτάζ του διεθνούς πρακτορείου ειδήσεων.
Μεταξύ 2021 και 2025, τουλάχιστον 1.401 αναφορές αφορούσαν ιατρικές συσκευές που χρησιμοποιούν τεχνητή νοημοσύνη. Από αυτές, τουλάχιστον 115 σχετίζονταν με προβλήματα λογισμικού ή αλγορίθμων. Τα περιστατικά δεν περιορίζονται στο TruDi.
Σε μία περίπτωση, λογισμικό προγεννητικών υπερήχων φέρεται να αναγνώριζε λάθος μέρη του σώματος του εμβρύου. Σε άλλες, καρδιακά μόνιτορ δεν εντόπιζαν επικίνδυνους αρρυθμικούς παλμούς. Αν και οι εταιρείες συχνά αποδίδουν τα προβλήματα σε «σύγχυση των χρηστών», οι επαναλαμβανόμενες αναφορές εγείρουν σοβαρά ερωτήματα.
Σήμερα, περισσότερες από 1.357 ιατρικές συσκευές με τεχνητή νοημοσύνη έχουν εγκριθεί από την FDA, αριθμός διπλάσιος σε σχέση με το 2022. Μια μελέτη πανεπιστημίων όπως το Johns Hopkins και το Yale έδειξε ότι 60 από αυτές τις συσκευές συνδέθηκαν με 182 ανακλήσεις προϊόντων. Το 43% των ανακλήσεων συνέβη μέσα στον πρώτο χρόνο από την έγκριση, ποσοστό σχεδόν διπλάσιο από εκείνο των συμβατικών ιατρικών συσκευών.
Αυτό υποδηλώνει ότι η ταχύτητα έγκρισης ενδέχεται να υπερβαίνει την ικανότητα ουσιαστικού ελέγχου, ιδιαίτερα όταν πρόκειται για αλγορίθμους που «μαθαίνουν» και μεταβάλλονται με την πάροδο του χρόνου.
Η FDA βρίσκεται αντιμέτωπη με έναν καταιγισμό αιτήσεων έγκρισης για συσκευές με AI, την ώρα που αντιμετωπίζει ελλείψεις προσωπικού. Πρώην και νυν επιστήμονες της υπηρεσίας δηλώνουν ότι η απώλεια εξειδικευμένων στελεχών έχει αποδυναμώσει την ικανότητα ελέγχου πολύπλοκων αλγορίθμων.
Οι ανάγκη για νέο ρυθμιστικό πλαίσιο την εποχή της ΑΙ
Σε αντίθεση με τα φάρμακα, οι περισσότερες ιατρικές συσκευές δεν απαιτούν εκτεταμένες κλινικές δοκιμές σε ασθενείς πριν εγκριθούν. Πολλές εγκρίνονται ως «αναβαθμίσεις» προηγούμενων προϊόντων, ακόμη κι αν η ενσωμάτωση τεχνητής νοημοσύνης αλλάζει ριζικά τη λειτουργία τους.
Όπως σημειώνει ο καθηγητής Alexander Everhart, η παραδοσιακή ρυθμιστική προσέγγιση ίσως δεν επαρκεί πλέον. «Βασιζόμαστε υπερβολικά στους κατασκευαστές να κάνουν το σωστό», τονίζει, επισημαίνοντας την απουσία ενός ισχυρού, ανεξάρτητου φραγμού ασφαλείας.
Κανείς δεν αμφισβητεί τις δυνατότητες της τεχνητής νοημοσύνης στην ιατρική. Η ανίχνευση όγκων, η ανάλυση απεικονιστικών εξετάσεων και η υποστήριξη κλινικών αποφάσεων μπορούν να σώσουν ζωές. Όμως, όταν η τεχνολογία περνά απευθείας στο χειρουργείο, τα περιθώρια λάθους μηδενίζονται.
Οι περιπτώσεις του TruDi και άλλων συσκευών δείχνουν ότι η τεχνητή νοημοσύνη δεν είναι ουδέτερη ούτε αλάνθαστη. Είναι προϊόν ανθρώπινων αποφάσεων, εμπορικών πιέσεων και συχνά ανεπαρκούς εποπτείας.
