Πρόκειται για ένα από τα πιο υψηλού ρίσκου τεστ μέχρι σήμερα για το πόσο μακριά μπορούν να φτάσουν οι αλγόριθμοι στην ιατρική πράξη.
Η Γιούτα έγινε η πρώτη πολιτεία στις ΗΠΑ που επιτρέπει σε ένα σύστημα τεχνητής νοημοσύνης —και όχι σε γιατρό— να ανανεώνει ορισμένες ιατρικές συνταγές, χωρίς ανθρώπινη εμπλοκή στη λήψη της απόφασης. Το πιλοτικό πρόγραμμα, που ξεκίνησε διακριτικά τον περασμένο μήνα, υλοποιείται σε συνεργασία με τη νεοφυή εταιρεία υγειονομικής τεχνολογίας Doctronic και στοχεύει σε «ρουτίνας» ανανεώσεις φαρμάκων για ασθενείς με χρόνιες παθήσεις.
Πρόκειται για ένα από τα πιο υψηλού ρίσκου τεστ μέχρι σήμερα για το πόσο μακριά μπορούν να φτάσουν οι αλγόριθμοι στην ιατρική πράξη, αλλά και για το πώς θα αντιδράσουν ασθενείς και ρυθμιστικές αρχές όταν η τεχνολογία μπει στον πυρήνα μιας από τις πιο ευαίσθητες σχέσεις της υγείας: της συνταγογράφησης.
Το σκεπτικό ως απάντηση σε δύο παράλληλες πιέσεις
Η πολιτεία και οι υποστηρικτές της πρωτοβουλίας υποστηρίζουν ότι η αυτοματοποίηση των τακτικών ανανεώσεων μπορεί να μειώσει το κόστος, να περιορίσει τα «κενά» στη λήψη φαρμάκων και να βελτιώσει την πρόσβαση σε φροντίδα, ιδιαίτερα σε περιοχές όπου οι κλινικοί είναι ήδη υπερφορτωμένοι.
Η Margaret Busse, εκτελεστική διευθύντρια του Department of Commerce της Γιούτα, περιγράφει το σκεπτικό ως απάντηση σε δύο παράλληλες πιέσεις: την άνοδο των δαπανών υγείας και την έλλειψη διαθέσιμων επαγγελματιών, ιδίως στην ύπαιθρο. Κατά την ίδια, η πολιτεία βλέπει στην αυτοματοποίηση έναν τρόπο να ελαφρύνει την πίεση στους παρόχους και να μειώσει το κόστος για τους ασθενείς. Ταυτόχρονα, όπως λέει, λειτουργεί και ως «διάδρομος καινοτομίας» για επιχειρηματίες που χρησιμοποιούν την τεχνητή νοημοσύνη με τρόπους που «ενδέχεται να ακουμπούν» ή να δοκιμάζουν τα όρια της υφιστάμενης ρύθμισης.
Στο πεδίο των ενστάσεων
Ωστόσο, η μεταφορά αρμοδιοτήτων συνταγογράφησης σε ένα σύστημα ΑΙ ανοίγει νέο κύκλο ερωτημάτων για την ασφάλεια, την ευθύνη και την εποπτεία. Ιατρικοί φορείς προειδοποιούν ότι η αφαίρεση της ιατρικής κρίσης από την εξίσωση, ακόμη κι όταν αφορά «απλές» ανανεώσεις, μπορεί να δημιουργήσει κινδύνους που δεν είναι πάντα προφανείς.
Σε δήλωσή του, ο Dr. John Whyte, CEO και εκτελεστικός αντιπρόεδρος της American Medical Association, σημείωσε ότι «ενώ η τεχνητή νοημοσύνη έχει απεριόριστες ευκαιρίες να μεταμορφώσει την ιατρική προς το καλύτερο, χωρίς τη συμβολή των γιατρών θέτει επίσης σοβαρούς κινδύνους για ασθενείς και γιατρούς».
Στο πεδίο των ενστάσεων περιλαμβάνονται σενάρια κατάχρησης —όπως η πιθανότητα άτομα με εξάρτηση να επιχειρήσουν να «παίξουν» το σύστημα για να αποκτήσουν φάρμακα ακατάλληλα— αλλά και ο φόβος ότι ένα αυτοματοποιημένο πρωτόκολλο μπορεί να μην αναγνωρίσει λεπτές κλινικές «κόκκινες σημαίες» ή αλληλεπιδράσεις φαρμάκων που ένας γιατρός θα υποψιαζόταν από το ιστορικό και τη συνολική εικόνα.
Η ίδια η Busse αναγνωρίζει ότι απαιτείται «χτίσιμο εμπιστοσύνης» και ότι για την πολιτεία η κίνηση ενέχει ρίσκο: στόχος, όπως λέει, είναι να γίνει με τρόπο που οι πολίτες θα αισθάνονται πως η Γιούτα το εξετάζει προσεκτικά και δεν λειτουργεί επιπόλαια ως προς τη ρυθμιστική χαλάρωση που παρείχε.
Από την πλευρά της φαρμακευτικής ρύθμισης
Από την πλευρά της φαρμακευτικής ρύθμισης, ο Al Carter, CEO και εκτελεστικός διευθυντής της National Association of Boards of Pharmacy, σημειώνει ότι οι φαρμακοποιοί ήδη χρησιμοποιούν εργαλεία ΑΙ στη διαδικασία εκτέλεσης συνταγών και σε συμβουλευτική προς ασθενείς, όμως επισημαίνει μια βασική πρόκληση: πώς ρυθμίζεις ένα κύμα τεχνολογιών που εξελίσσονται ταχύτερα από τα πλαίσια εποπτείας και πώς αποδεικνύεις ότι είναι πράγματι καλές για το σύστημα υγείας.
Η Doctronic στηρίζει την προσέγγισή της σε δεδομένα που μοιράστηκε με τους ρυθμιστές της Γιούτα. Σε σύγκριση του συστήματος ΑΙ με ανθρώπινους κλινικούς σε 500 περιστατικά επείγουσας φροντίδας, η εταιρεία αναφέρει ότι το «πλάνο θεραπείας» του ΑΙ ταίριαξε με εκείνο των γιατρών στο 99,2% των περιπτώσεων.
Ο Dr. Adam Oskowitz, συνιδρυτής της Doctronic και αναπληρωτής καθηγητής χειρουργικής στο University of California San Francisco, υποστηρίζει ότι «το ΑΙ είναι στην πραγματικότητα καλύτερο από τους γιατρούς σε αυτό», με το επιχείρημα ότι σε μια τυπική επίσκεψη ο γιατρός δεν θα κάνει όλους τους ελέγχους που εκτελεί συστηματικά ο αλγόριθμος.
Κατά τον ίδιο, το σύστημα έχει σχεδιαστεί να «σφάλει προς την ασφάλεια»: αν υπάρχει η παραμικρή αβεβαιότητα, κλιμακώνει το περιστατικό σε γιατρό. Επιπλέον, οι πρώτες 250 συνταγές που εκδίδονται σε κάθε κατηγορία φαρμάκου θα ελεγχθούν από ανθρώπινους γιατρούς για να επικυρωθεί η απόδοση. Μόλις επιτευχθεί αυτό το όριο, οι επόμενες ανανεώσεις στην ίδια κατηγορία θα γίνονται αυτόνομα.
Ένα ακόμη στοιχείο που προβάλλει η εταιρεία ως απάντηση στις ανησυχίες ευθύνης είναι ότι έχει εξασφαλίσει ένα, όπως το χαρακτηρίζει, «μοναδικό» ασφαλιστήριο ιατρικής αμέλειας που καλύπτει σύστημα ΑΙ, κάτι που πρακτικά σημαίνει ότι το σύστημα ασφαλίζεται και αντιμετωπίζεται ως προς την ευθύνη σε επίπεδο αντίστοιχο με εκείνο ενός γιατρού.
«Στην ιατρική θα υπάρχουν πάντα πιθανά ζητήματα που θα έχουν οι ασθενείς», λέει ο Oskowitz, προσθέτοντας ότι «είτε προκλήθηκαν από το ΑΙ είτε όχι, εμείς θα πάρουμε το ρίσκο» και εκτιμώντας ότι η λύση θα είναι «απείρως ασφαλέστερη» από έναν άνθρωπο γιατρό. Παράλληλα, η Doctronic διατηρεί ήδη πανεθνική υπηρεσία τηλεϊατρικής, όπου μετά από αξιολόγηση ΑΙ οι ασθενείς παραπέμπονται σε γιατρούς.
Στην πράξη, η εμπειρία χρήσης στη Γιούτα περιγράφεται ως εξής: οι ασθενείς μπαίνουν σε ιστοσελίδα που επιβεβαιώνει ότι βρίσκονται φυσικά εντός της πολιτείας, το σύστημα αντλεί το ιστορικό συνταγών και παρουσιάζει λίστα φαρμάκων που είναι επιλέξιμα για ανανέωση. Στη συνέχεια, το ΑΙ περνά τον ασθενή από τις ίδιες κλινικές ερωτήσεις που θα έκανε ένας γιατρός για να κρίνει αν η ανανέωση είναι κατάλληλη. Εφόσον «καθαρίσει» την ανανέωση, η συνταγή αποστέλλεται απευθείας στο φαρμακείο. Το πρόγραμμα περιορίζεται σε 190 συχνά συνταγογραφούμενα φάρμακα και αποκλείει κατηγορίες όπως παυσίπονα για διαχείριση πόνου, φάρμακα για ADHD και ενέσιμα, για λόγους ασφάλειας.
Η εταιρεία δηλώνει ότι θα χρεώνει 4 δολάρια ανά ανανέωση, τιμή που χαρακτηρίζει προσωρινή, με τον συνιδρυτή και co-CEO Matt Pavelle να υποστηρίζει ότι το κόστος θα μπορούσε να πέσει γρήγορα με την κλιμάκωση και τελικά να καλύπτεται από ασφαλιστικά σχήματα ή να ενσωματωθεί σε χαμηλή ετήσια συνδρομή.
«Είναι δύσκολο να πάρεις ανανέωση — αν έχεις χρόνια πάθηση και δεν μπορείς να πάρεις το φάρμακό σου, συμβαίνουν τρομερά πράγματα», λέει. Η Doctronic δηλώνει ότι συζητά ήδη με πολιτείες όπως το Τέξας, η Αριζόνα και το Μιζούρι, εξετάζοντας παράλληλα έναν δρόμο εθνικής έγκρισης, ώστε να μην χρειαστεί να κινηθεί σε ένα μωσαϊκό κανόνων από πολιτεία σε πολιτεία.
Κρίσιμο σημείο η στάση της ομοσπονδιακής ρυθμιστικής αρχής
Κρίσιμο σημείο είναι η στάση της ομοσπονδιακής ρυθμιστικής αρχής. Μέχρι στιγμής, η FDA δεν έχει τοποθετηθεί για το πρόγραμμα. Αυτό δεν είναι λεπτομέρεια: αν η υπηρεσία κρίνει ότι έχει αρμοδιότητα να ρυθμίσει μια τέτοια χρήση ΑΙ, μπορεί να δυσκολέψει ή να καθυστερήσει την επέκταση. Το νομικό όριο παραδοσιακά ήταν σαφές, όπως λέει ο Zach Boyd, διευθυντής του γραφείου πολιτικής τεχνητής νοημοσύνης της Γιούτα: οι πολιτείες ρυθμίζουν την άσκηση της ιατρικής, ενώ η FDA ρυθμίζει ιατροτεχνολογικά προϊόντα.
«Τώρα είμαστε σε μια περίεργη θέση όπου υπάρχουν συσκευές — ίσως θα τις έλεγες συσκευές — που ισχυρίζονται ότι ασκούν ιατρική», σχολιάζει. Ο Lowell Schiller, πρώην chief counsel της FDA, σημειώνει ότι επειδή το ΑΙ ανανεώνει συνταγές, ουσιαστικά «ασκεί ιατρική» και άρα μπορεί να εμπίπτει σε πολιτειακούς κανόνες. Ταυτόχρονα, η FDA έχει δηλώσει ότι πιστεύει πως έχει αρμοδιότητα να ρυθμίζει ΑΙ ως ιατρική συσκευή όταν χρησιμοποιείται για διάγνωση, θεραπεία ή πρόληψη νόσου.
Ο Schiller αφήνει ανοικτό το ενδεχόμενο η υπηρεσία να «κρατήσει αποστάσεις», θυμίζοντας περιπτώσεις όπως η ιατρική κάνναβη, όπου η ομοσπονδιακή επιβολή έχει κατά καιρούς υποχωρήσει έναντι πολιτειακών νόμων. Από την άλλη, αν κρίνει ότι η Doctronic «προωθεί» την τεχνολογία χωρίς κατάλληλη εξουσιοδότηση, μπορεί να επιχειρήσει να την εντάξει σε καθεστώς συμμόρφωσης.
Υπό τον πρόεδρο Ντόναλντ Τραμπ, σημειώνεται, η υπηρεσία έχει δείξει διάθεση εποπτείας, με πρόσφατο παράδειγμα επιστολή προς την εταιρεία wearables Whoop για τεχνολογία εκτίμησης αρτηριακής πίεσης χωρίς έγκριση. Η ίδια η FDA αρνήθηκε να σχολιάσει, λέγοντας ότι το ζήτημα εμπίπτει εκτός του ρυθμιστικού της πεδίου.
Με αυτά τα δεδομένα, η Γιούτα λειτουργεί ως πεδίο δοκιμής όχι μόνο για την ασφάλεια της αυτοματοποίησης ανανεώσεων, αλλά και για το ποιος θα χαράξει τους κανόνες της επόμενης φάσης στην ιατρική: οι πολιτείες μέσω της «άσκησης ιατρικής», η FDA μέσω του πλαισίου «ιατρικών συσκευών» ή ένα νέο υβριδικό μοντέλο. Σε κάθε περίπτωση, το ερώτημα που θα κριθεί στην πράξη είναι αν οι ασθενείς θα αποδεχθούν ότι για ένα κομμάτι της φροντίδας τους —ακόμη κι αν είναι «ρουτίνα»— η απόφαση μπορεί να περάσει από την ανθρώπινη κρίση στη στατιστική βεβαιότητα ενός αλγορίθμου.
