H ΑΙ «σύμμαχος» των ασθενών: Μπορεί να γίνει το «μαύρο κουτί» των ιατρείων;
Του Θάνου Βλόντζου*
Τι συμβαίνει μέσα σε έναν ιδιωτικό κλινικό χώρο μεταξύ δύο επίσημων ελέγχων; Το ερώτημα αφορά χιλιάδες κλινικές και ιατρεία σε ολόκληρη τη χώρα, και η απάντηση, σχεδόν πάντα, είναι ότι κανείς δεν γνωρίζει.
Στη δουλειά μου στον τομέα της τεχνητής νοημοσύνης και της φαρμακευτικής καινοτομίας, ασχολούμαι με συστήματα που τεκμηριώνουν και αξιολογούν κλινικές διαδικασίες σε πραγματικό χρόνο. Τέτοια τεχνολογία μπορεί να μετατρέψει τη ρυθμιστική εποπτεία από στιγμιότυπο σε συνεχή διαδικασία, και αυτή η μετατροπή αλλάζει τα δεδομένα στην ασφάλεια ασθενών.
Η εποπτεία στον ιδιωτικό κλινικό τομέα στην Ελλάδα λειτουργεί με περιοδικούς ελέγχους. Ο Ιατρικός Σύλλογος και οι αρμόδιες αρχές επισκέπτονται έναν χώρο, καταγράφουν τον εξοπλισμό, ελέγχουν τις άδειες, και αποχωρούν. Το επόμενο στιγμιότυπο μπορεί να έρθει μήνες ή χρόνια αργότερα. Οτιδήποτε συμβαίνει στο μεταξύ παραμένει αόρατο στο σύστημα, εκτός αν κάποιο περιστατικό γίνει αρκετά ορατό ώστε να απασχολήσει τα μέσα. Περισσότεροι έλεγχοι δεν λύνουν το πρόβλημα, γιατί κανένας μηχανισμός δεν διαθέτει πόρους για συνεχή φυσική παρουσία σε κάθε ιατρείο. Αυτό, σημειωτέον, δεν είναι ελληνική ιδιαιτερότητα: τα περισσότερα ευρωπαϊκά συστήματα υγείας αντιμετωπίζουν παρόμοιο κενό. Ψηφιακοί μηχανισμοί που το κλείνουν αυτόματα αποτελούν ρεαλιστική εναλλακτική.
Το Εθνικό Δίκτυο Τηλεϊατρικής (ΕΔΙΤ), που συνδέει σήμερα 82 νοσοκομεία με πάνω από 800 κλινικούς χρήστες, σχεδιάστηκε για τηλεδιάγνωση. Η αρχιτεκτονική του όμως (ασφαλής μετάδοση δεδομένων και πιστοποίηση χρηστών) μπορεί να φιλοξενήσει και ένα επίπεδο ασφάλειας. Ψηφιακά μητρώα εξοπλισμού, για παράδειγμα, όπου κάθε ιατροτεχνολογικό μηχάνημα καταγράφεται κεντρικά με τα στοιχεία αδειοδότησής του, ώστε ασυμφωνίες μεταξύ άδειας χώρου και εξοπλισμού να ανιχνεύονται αυτόματα. Παράλληλα, ψηφιακά ίχνη ελέγχου (audit trails) εξασφαλίζουν ότι κάθε κλινική πράξη μέσω συνδεδεμένης συσκευής αφήνει αποτύπωμα: ποιος, τι, πότε, σε ποιον. Σε πιο σύνθετο επίπεδο, αλγόριθμοι κλινικής υποστήριξης αποφάσεων μπορούν να σημάνουν ότι μια διαδικασία εκτελείται εκτός πρωτοκόλλου ή σε χώρο χωρίς κατάλληλη αδειοδότηση. Τα εργαλεία αυτά εφαρμόζονται ήδη σε νοσοκομεία στη βόρεια Ευρώπη και στις ΗΠΑ.
Κανένα από αυτά τα εργαλεία δεν λειτουργεί χωρίς προϋποθέσεις. Ένας αλγόριθμος εκπαιδευμένος σε δεδομένα αστικών νοσοκομείων μπορεί να δίνει λανθασμένες προτεραιοποιήσεις σε κέντρο υγείας νησιού: η αλγοριθμική μεροληψία (algorithmic bias) είναι πραγματικός κίνδυνος, και η ποιότητα ενός αλγόριθμου είναι ζήτημα αντιπροσωπευτικότητας όσο και τεχνικό χαρακτηριστικό.
Παράλληλα, αν ένα ψηφιακό εργαλείο ενσωματωθεί σε κλινική ροή χωρίς ο γιατρός να κατανοεί πώς λειτουργεί και πού μπορεί να σφάλλει, ο αλγόριθμος γίνεται μαύρο κουτί. Η ιατρική εκπαίδευση στην Ελλάδα χρειάζεται ένα νέο κεφάλαιο: κριτική αξιολόγηση αλγόριθμων και κατανόηση των ορίων τους. Και τέλος, η τεχνολογία παρέχει ορατότητα, η ρύθμιση παρέχει συνέπειες, και χρειάζονται μαζί: ένα audit trail δεν ωφελεί αν δεν υπάρχει θεσμικό πλαίσιο που να ορίζει τι συμβαίνει όταν εντοπιστεί παρέκκλιση.
Ασφάλεια εκ σχεδιασμού
Η Ελλάδα βρίσκεται σε μια φάση ψηφιοποίησης της υγείας που δεν θα επαναληφθεί σύντομα, με τον ευρωπαϊκό κανονισμό AI Act να θέτει πλαίσιο για τα εργαλεία τεχνητής νοημοσύνης στην υγεία. Η τεχνολογία θα μπει στα ιατρεία, δημόσια και ιδιωτικά: αυτό συμβαίνει ήδη. Η ερώτηση είναι αν θα ενσωματώσουμε τη λογική της ασφάλειας στον σχεδιασμό από την αρχή, ή αν θα την προσθέσουμε αφού κάτι πάει στραβά. Η δεύτερη περίπτωση κοστίζει πάντα περισσότερο. Η ευκαιρία για την πρώτη είναι ακόμα ανοιχτή.
*Ο Δρ. Αθανάσιος (Θάνος) Βλόντζος εργάζεται στον τομέα της τεχνητής νοημοσύνης και της φαρμακευτικής καινοτομίας.
