Σύνδεση συνδρομητών

Ντοκμπότ

Δευτέρα, 24 Ιανουαρίου 2022 23:03
Ο Γουίλιαμ Γκίμπσον. Συγγραφέας μυθιστορημάτων επιστημονικής φαντασίας, θεμελιωτής του κυβερνοπάνκ εξαιτίας του όρου κυβερνοχώρος τον οποίο εισήγαγε το 1982. Η επιτυχία του πρώτου του μυθιστορήματος, Νευρομάντης, ήταν ένδειξη των αλλαγών που έφερνε στις ζωές μας η τεχνολογία.
Frédéric de Villamil / flickr  
Ο Γουίλιαμ Γκίμπσον. Συγγραφέας μυθιστορημάτων επιστημονικής φαντασίας, θεμελιωτής του κυβερνοπάνκ εξαιτίας του όρου κυβερνοχώρος τον οποίο εισήγαγε το 1982. Η επιτυχία του πρώτου του μυθιστορήματος, Νευρομάντης, ήταν ένδειξη των αλλαγών που έφερνε στις ζωές μας η τεχνολογία.

Θα υπάρχουν γιατροί το 2030; Ή θα αντικατασταθούν από τεχνητή νοημοσύνη; (τεύχος 125)

Εάν η ερώτηση ήταν τίτλος διηγήματος επιστημονικής φαντασίας, φουτουριστική ομιλία TED, ή teaser σε MOOC, ίσως την προσπερνούσαμε σαν άλλο ένα αξιοπερίεργο με κάποια σοκαριστική αξία. Όμως ήταν τίτλος άρθρου στο Annals of Internal Medicine όπου δημοσιεύθηκε ως Opinion[1]. Παρότι οι γνώμες ακόμη και κατά τεκμήριον ειδικών δεν είναι τίποτα περισσότερο από γνώμες, το ότι η απορία εμφανίσθηκε σε ελίτ ιατρικό περιοδικό την κάνει παράξενη. Reality can be stranger than fiction.

Η αντικατάσταση γιατρών από ντοκμπότ παιχνιδίζει με τη διάγνωση του Γουίλιαμ Γκίμπσον: «Το μέλλον είναι ήδη εδώ, απλώς δεν έχει κατανεμηθεί ισοδύναμα». Είτε απειλή, είτε ευαγγελισμός, είτε ευκαιρία να σκεφτούμε πώς αλλάζει ένα από τα αρχαιότερα επαγγέλματα, το ενδεχόμενο να είμαστε ένα από τα επόμενα θύματα του Terminator έπαψε προ πολλού να είναι φάντασμα που πλανιέται πάνω από βιομηχανίες υγείας και περίθαλψης. First Contact, η πρώτη επαφή της ιατρικής με μορφές αυτοματισμού ξεκίνησε εδώ και πάνω από μισό αιώνα, πολύ πριν τις σημερινές μηχανές βαθιάς μάθησης που διαβάζουν αμφιβληστροειδείς και δερματικά εξανθήματα, apps που καλμάρουν το στρες, βοηθούς παλάμης (palm assistants ήταν πρωτόγονα έξυπνα διαγνωστικά και θεραπευτικά software ένα από τα οποία λεγόταν Epocrates), ρομποτικές εγχειρήσεις, αυτοματοποιημένες εργαστηριακές εξετάσεις, καρδιολογικές διαγνώσεις από ηλεκτρικές μηχανές ή Electronic Medical Records, τα πανταχού παρόντα EMR.

Το 1970, όταν η εμβρυακή μορφή του internet ήταν κλειδαμπαρωμένο απόρρητο κάπου στο Πεντάγωνο, το New England Journal of Medicine προέβλεπε το εξής:

Οι υπολογιστές […] θα ενισχύσουν και σε αρκετές περιπτώσεις θα αντικαταστήσουν τις διανοητικές λειτουργίες του γιατρού.[2]

Η προφητεία στηριζόταν σε augmenting και replacing. Το augmenting είναι πλέον fait accompli. Διανοητικοί βοηθοί και έξυπνα εργαλεία ενισχύουν (augment) αυτά που ξέρουμε σε σημείο που δεν τα προσέχουμε. Το πληκτρολογικό τώρα δίνει άμεση πρόσβαση σε ωκεάνιες μάζες δεδομένων που αλλάζουν διαρκώς χωρίς να χρειάζεται να τα ξέρουμε – κάτι που εδώ και δεκαετίες έχει καταστεί ανθρωπίνως αδύνατον καθώς ο όγκος ιατρικών πληροφοριών έχει ξεπεράσει διαστάσεις κατακλυσμού. Στο χρόνο που παίρνει να διαβαστεί το παρόν κάτι καινούργιο και σημαντικό θα εμφανισθεί σε κάποια υποειδικότητα. 

Είτε μέσω του organization στο οποίο δουλεύω, είτε μέσω προγραμμάτων ενσωματωμένων στα EMR όπως το UpToDate, είτε σαν ατομική συνδρομή, είτε με υβριδιακές εφαρμογές (Mayo Clinic, Cleveland Clinic, Johns Hopkins Medicine, NEJM, BMJ, Lancet) και πλατφόρμες (Cochrane Database of Systematic Reviews, Agency for Healthcare Research and Quality), είτε δωρεάν (Google scholar, PubMed, WebMD κλπ), όσες και όσοι παρέχουν υπηρεσίες υγείας σε οποιοδήποτε μέρος του κόσμου έχουν πρόσβαση σε έγκυρες απαντήσεις, ενώ είναι με τους ασθενείς τους. Το δωρεάν στην προηγούμενη πρόταση ίσως έπρεπε να είναι εντός εισαγωγικών, γιατί κάθε φορά που κάνω Enter βυθίζομαι βαθύτερα στο παρασκηνιακό δούναι-και-λαβείν του click traffic και των κατ’ όνομα προσωπικών δεδομένων στο αεικίνητο εμπόριο των data. Καθώς ανταγωνίζονται για την προσοχή μας, οι αλγόριθμοι μάς διαβάζουν ενώ τους διαβάζουμε, μαντεύουν τις προτιμήσεις μας ενώ τους χρησιμοποιούμε, μας διαγιγνώσκουν ενώ διαγιγνώσκουμε και συχνά μας θεραπεύουν καθώς ψάχνουμε θεραπείες. Και όταν με ερωτήσεις CAPTCHA ζητούν να βεβαιώσουμε ότι δεν είμαστε ρομπότ, οι αλγόριθμοι βελτιώνουν τις δικές τους παραμέτρους οξύνοιας. Σίγουρα μέσα σε αυτό το intercourse, αλληλοψάξιμο και ασίγαστο clicking έχει ξεκινήσει το Digital Genesis των Σουπεργιατρίνων και Υπεργιατρών του Αύριο.

Πόσο συχνά προκαλεί αγγειοοίδημα το αντι-υπερτασικό που συνταγογράφησα πριν από δυο εβδομάδες; Είναι αποτελεσματικός ο γβελονισμός σε οσφυαλγία που κρατάει πάνω από τρεις μήνες; Πόσο καλύτερο από placebo είναι το καινούριο πανάκριβο ενέσιμο για ημικρανίες; Ποια εμβόλια για πνευμονία πρέπει να κάνουν ποιοι και πότε; Μαριχουάνα για περιφερική νευροπάθεια; Πόσο ψυχοσωματικό είναι το ευερέθιστο έντερο και πόσο το επηρεάζει η διατροφή; Καραμέλες κεταμίνης για κατάθλιψη; Πόσο επιθετικό είναι το αδενοκαρκίνωμα του πνεύμονα που μόλις διαγνώσθηκε; Πώς να βελτιώσω το μικροβίωμά μου;

Τέτοιες και αναρίθμητες παρόμοιες τεχνικές ερωτήσεις είναι μεγάλο κομμάτι της ιατρικής καθημερινότητας, αλλά από γνωστική (cognitive) σκοπιά είναι απλοϊκές dumb questions. Κοινό χαρακτηριστικό τους είναι ότι η διάγνωση έχει ήδη γίνει και για να απαντηθούν το μόνο που χρειάζονται είναι επαρκής υπολογιστική ισχύς (computational power), μεγάλα Ν (αριθμοί δειγμάτων), ποιοτικά δεδομένα (good quality evidence) και τυχαιοποιημένες μελέτες (randomized clinical trials).

Όμως, στο κέντρο της ιατρικής βρίσκεται η διάγνωση η οποία, ενώ προϋποθέτει συσσώρευση δεδομένων, υπολογιστική ισχύ και ψάξιμο, ταυτόχρονα τα υπερβαίνει. Το διαγνωστικό έργο είναι pattern recognition και pattern construction. Τα λεξικά εξηγούν και μεταφράζουν το pattern σαν πρότυπο, μοντέλο, σχέδιο, αλλά αυτή η απόδοση, εκτός από τις πλατωνικές αναθυμιάσεις της, παραβλέπει τον ενεργό, απρόβλεπτο χαρακτήρα της διάγνωσης, την από-τα-κάτω ανάδυση και αξιολογική διάκριση σημάτων από θόρυβο.

Οι εν γένει πληροφορίες που βρίσκονται χύμα στο διαδίκτυο (ο όρος χύμα δεν είναι υποτιμητικός αλλά αποδίδει τον unstructured χαρακτήρα εννοιών, ευρημάτων, ισχυρισμών, δεδομένων και factoids στα οποία όλοι έχουν πρόσβαση) δεν συνιστούν διαγνώσεις αλλά άμορφη πρώτη ύλη σε διαρκή κίνηση Μπράουν και εντροπία. Ο εκδημοκρατισμός της ιατρικής πληροφορίας και οι πολυποίκιλοι τρόποι με τους οποίους υγειονομικά πράγματα (χάπια, θεραπείες, αγωγές, έρευνα, γνώμες, συμβουλές) είναι πλέον προσιτά καταναλωτικά αγαθά, άλλαξαν την πραγματικότητα του επαγγέλματος και τις εμπειρίες του ασθενείν, αλλά δεν εκδημοκράτισαν τη διάγνωση που έχει δομή, κριτήρια, αιτιολογικούς τροπισμούς, διαστρωματώσεις αβεβαιότητας, πρακτικές θεραπευτικές και προγνωστικές επιπτώσεις και γίνεται μόνον από expert systems. Η έκταση και το βάθος διαγνωστικών αβεβαιοτήτων ποικίλλουν ανά περίπτωση και σε δύσκολα περιστατικά ψάχνουμε χωρίς καν να ξέρουμε τις ερωτήσεις. Στο προψηφιακό παρελθόν, τα expert systems είχαν αποκλειστικά ανθρώπινες μορφές. Τώρα μεγάλα κομμάτια διαγνωστικής δουλειάς είναι μηχανοποιημένα και αυτόματα. Μια από τις προκλήσεις της τεχνητής νοημοσύνης όπως την καταλαβαίνουμε σήμερα είναι κατά πόσον μηχανές θα κάνουν το επόμενο αλλά σημαντικά δυσκολότερο άλμα προς αυτόνομες διαγνώσεις χωρίς ανθρώπινη παρέμβαση. Αυτό μας φέρνει στο replacing, τη δεύτερη προφητεία του NEJM.

Η αντικατάσταση γιατρών από ντοκμπότ είναι ασαφέστερη και ρευστή αλλά είναι εδώ που οι ερωτήσεις δυσκολεύουν και ανακινούν απορίες για τα συστατικά του νου και την αυτοματοποίηση, εφικτή ή όχι, της σκέψης. Ένα από τα πολλά προβλήματα είναι ότι συζητήσεις, γνώμες, θεωρίες, αντιπαραθέσεις και προβλέψεις περί τεχνητής νοημοσύνης γίνονται ενώ αγνοούμε τι είναι σκέψη, νοημοσύνη, εξυπνάδα, ευφυΐα κ.ο.κ. Στο On the Measure of Intelligence ο Francois Chollet αναφέρει το παράδειγμα ψυχολόγων στα μέσα της δεκαετίας του 1980 που όταν τους ρώτησαν τι είναι intelligence έδωσαν 24 διαφορετικές απαντήσεις. Η κατάσταση δεν είχε βελτιωθεί 20 χρόνια αργότερα, όταν σε βιβλιογραφική ανασκόπηση το 2007 αναφέρθηκαν 70 διαφορετικοί ορισμοί.[3] Και οι τεράστιες πρόοδοι των Neurocognitive Sciences στα τελευταία χρόνια έχουν πολλαπλασιάσει το μπλακ-μποξικό μυστήριο που, σαν Λερναία Ύδρα, δημιουργεί δύο ερωτήσεις για κάθε απάντηση. Στη συζήτηση που ακολουθεί θα προσποιηθούμε, πρώτον, ότι ξέρουμε κάτι γι’ αυτές τις έννοιες και, δεύτερον, ότι όταν ακούμε ή διαβάζουμε τη λέξη Νοημοσύνη/Intelligence σκεπτόμαστε πάνω-κάτω το ίδιο πράγμα.

Μια διαχωριστική γραμμή βρίσκεται ανάμεσα σε όσους πιστεύουν στη μοναδικότητα της ανθρώπινης εξυπνάδας και αυτούς που υποψιάζονται ότι θα μηχανοποιηθεί. Αλλά παρά την ενστικτώδη τάση να δημιουργούμε αγεφύρωτες αντιδιαστολές και πολώσεις με το παραμικρό, το ένα δεν αναιρεί το άλλο. Η ανθρώπινη νοημοσύνη είναι μεν προϊόν βιολογικής εξέλιξης, αλλά δεν αποκλείει την Intelligentia Ex Machina. Ανεξαρτήτως του στρατοπέδου στο οποίο τοποθετείται κάποιος, human exceptionalism vs machine reductionism, η διείσδυση τεχνητής νοημοσύνης στην περίθαλψη έχει πλέον φτάσει στο σημείο όπου εμφανίζονται άρθρα σαν το Health Care in 2030: Will Artificial Intelligence Replace Doctors? Εν τω μέσω του γκιμπσονικά ανισοκατανεμημένου μέλλοντος που «είναι-και-δεν-είναι-εδώ», οι κομπιουτερονοημοσύνες σιλικόνης είναι πλέον στις οθόνες μας σαν Μποργκ στην υγεία.[4] Θα δούμε μηχανές που μαθαίνουν μόνες τους, βάζουν άσπρη ποδιά, κρατάνε ακουστικά και δίνουν τον όρκο του Ιπποκράτη;

 

Where no doc has gone before.

Μια απάντηση έρχεται από την εξέλιξη του γιατρού στις διαδοχικές μετεμψυχώσεις του Σταρ Τρεκ.

Στο Original Series (1966-1969), ο Ντόκτορ Λέναρντ “Μπόουνς” Μακόϋ λειτουργούσε όπως κάθε απόφοιτος συμβατικής ιατρικής σχολής πριν από τους υπολογιστές. Ανεξαρτήτως του πλανήτη και της εποχής που βρισκόταν, ο Μακόϋ περιέθαλπε ασθενείς και τραυματίες με απλές, low-tech αποτελεσματικές πράξεις. Πίστευε στις ενδογενείς θεραπευτικές ικανότητες του σώματος και διατηρούσε παλαιομοδίτικη φιλοσοφική επιφυλακτικότητα αν όχι δυσπιστία στην τεχνολογία. Σε πολλά επεισόδια φρόντιζε τραυματίες και αρρώστους ενώ αντιστεκόταν στις Σειρήνες του θεραπευτικού παρεμβατισμού (therapeutic imperative), της παρόρμησης «να κάνει κάτι». Και παρά τα διαστρικά ταξίδια, το διακτινίζεσθαι, τις τορπίλες φωτονίων και το warp drive με το οποίο το Εντερπράιζ πετάει γρηγορότερα από τo φως, στο ψυχοτεχνικό σύμπαν του Ντόκτορ Μακόϋ τα σύνορα ανάμεσα σε βιολογικό και μηχανή ήταν καθορισμένα, στεγανά και απαραβίαστα. Εάν ο Ιπποκράτης έβλεπε Σταρ Τρεκ, θα αναγνώριζε στον Μπόουνς έναν πιστό μαθητή του.

Είκοσι χρόνια αργότερα, το Star Trek: The Next Generation (1987-1994) πραγματοποίησε μια αθόρυβη αλλά βαθύτατη τεχνοϊατρική ρήξη. Μαζί με το πολιτικό αναποδογύρισμα gender ρόλων (Chief Medical Officer τώρα είναι η Ντόκτορ Μπέβερλυ Κράσερ), μια μυστηριώδης συσκευή στα χέρια της γιατρού σηκώνει όλο το διαγνωστικό βάρος όταν μέλη του πληρώματος, επίσημοι προσκεκλημένοι, διπλωμάτες, VIPs και κάθε λογής παράξενες οντότητες προσβάλλονται από πρωτόγνωρες μυστηριώδεις ασθένειες. Συμπτώματα, διαγνώσεις, επιπλοκές, παρενέργειες και πειράματα διαδραματίζουν κεντρικό ρόλο στην Επόμενη Γενιά και συχνά είναι ο αφηγηματικός άξονας των επεισοδίων. Το δίκην-σκάνερ πράγμα στην παλάμη της Ντόκτορ διαγιγνώσκει μοριακές, κυτταρικές, ιστολογικές παθολογίες και προσφέρει θεραπείες που σώζουν Εντερπράιζ, αποικίες στο διάστημα, πλανήτες και, όχι σπάνια, το σύμπαν του 24ου αιώνα.

Το ιατρικό τεχνο-οντολογικό ερώτημα του Next Generation ήταν όχι εάν, αλλά πότε το γκάτζετ θα αντικαταστήσει τη γιατρίνα. Η απάντηση ήλθε με το Star Trek: Voyager (1995-2001) όπου γιατρός είναι ρομποτικό ολόγραμμα.

Εάν η ποπ κουλτούρα έχει αποφασίσει ότι γιατροί-ρομπότ είναι θέμα χρόνου, οι κρυστάλλινες σφαίρες του Annals of Internal Medicine αναρωτιούνται εάν θα είναι εδώ στο τέλος της δεκαετίας. Αλλά ανεξαρτήτως του τι θα γίνεται το 2030, η απόστασή μας από έξυπνες ιατρομηχανές ίσως είναι ταυτόχρονα μικρότερη και μεγαλύτερη απ’ όσο νομίζουμε. Στο σημείο αυτό είναι χρήσιμη μια παρακαμπτήριος μέσα από το σκάκι.

 

Θρίαμβος και όρια της Tabula Rasa

Κανείς δεν εξεπλάγη το 2016 όταν το Stockfish 8 έγινε παγκόσμιος πρωταθλητής σκακιού. Το πρόγραμμα ενσωμάτωνε αιώνες σκακιστικής γνώσης ενώ το γεγονός ότι εξέταζε δεκάδες εκατομμύρια πιθανές κινήσεις το δευτερόλεπτο θύμιζε την μπρουταλιστική επέλαση των Πάνζερ στις αρχές του Β’ Παγκόσμιου Πολέμου. Όπως όμως και τα Πάνζερ, η κυριαρχία του αποδείχτηκε πρόσκαιρη, γιατί το 2017 εμφανίσθηκε το AlphaZero.

Αντί να φορτωθεί συσσωρευμένη σκακιστική τεχνογνωσία, το AlphaZero ξεκίνησε σαν tabula rasa με μοναδικό input τους κανόνες του παιγνιδιού. Δεν ήξερε τίποτα (Zero) και οι πρώτες κινήσεις του ήταν τυχαίες. Με reinforcement learning, έμαθε σκάκι σε 9 ώρες παίζοντας 44 εκατομμύρια παρτίδες ενάντια στον εαυτό του. Και όταν ήλθε η ώρα να αντιμετωπίσει το Stockfish 8, νίκησε σε 28 παιχνίδια και ήλθε ισόπαλο σε 72. Δεν ηττήθηκε ούτε μία φορά.[5] Γκραντ μαιτρ που δοκίμασαν την τύχη τους εναντίον του λένε ότι το στυλ του AlphaZero συνδυάζει δύναμη πανίσχυρης μπουλντόζας με βιρτουοζική φινέτσα: Πάνζερ + Μπαρίσνικοφ. Επρόκειτο για First Contact με αντίπαλο που επιδεικνύει δημιουργικότητα, ομορφιά και παιχνίδισμα. Τώρα με ένα πάμφθηνο app ο καθένας αντιμετωπίζει παγκόσμιους πρωταθλητές, ενώ το ίδιο το σκάκι έγινε πολύ πιο γρήγορο και ενδιαφέρον.

Ένα όριο διαγνωστικών, θεραπευτικών και προγνωστικών εφαρμογών τεχνητής νοημοσύνης στην υγεία βρίσκεται στην ανάγκη επικύρωσής τους (validation) ώστε να είναι αξιόπιστες. Όταν στο μέλλον θα διαβάζουμε πορίσματα αξονικών τομογραφιών, παθολογοανατομικές εκθέσεις, ψυχιατρικά ιστορικά και γνωματεύσεις από ρομπότ χωρίς ανθρώπινη παρέμβαση θα πρέπει να μπορούμε να εμπιστευτούμε αυτά που μας λένε. Προς το παρόν απέχουμε πολύ από αυτό. Είναι ένα πράγμα μια ερευνητική εργασία να προβλέπει νεφρική ανεπάρκεια τις επόμενες 48 ώρες και εντελώς διαφορετικό η πρόβλεψη να επαληθεύεται σε πραγματικές συνθήκες.[6] Όταν ο σούπερ-κομπιούτερ Watson της IBM άρχισε να δοκιμάζεται σε πραγματικά ογκολογικά περιστατικά, αρκετές φορές έδωσε λανθασμένες οδηγίες θεραπείας.[7]

Ενστάσεις στη ρομποτοποιημένη ιατρική παραπέμπουν σε δύο τουλάχιστον προβλήματα. Ένα πρώτο είναι η αδιαφάνεια. Καθώς το AlphaZero μάθαινε σκάκι παίζοντας ενάντια στον εαυτό του, έφτιαξε δικούς του κανόνες και άρχισε να συμπεριφέρεται με τρόπους που δεν εξηγούνται από το πρόγραμμα ή τους δημιουργούς του. Οι αλγόριθμοι δεν μπορούν να εξηγήσουν πώς κάνουν αυτά που κάνουν, με ποιους τρόπους μαθαίνουν και τι μεσολαβεί στην area obscura ανάμεσα σε input και output. Όταν ένα πρόγραμμα οπτικής αναγνώρισης βλέπει κάτι –γάτα, αυτοκίνητο, δέντρο– και προσπαθεί να διακρίνει διαφορετικά πράγματα –αυτό είναι γάτα και όχι σκύλος, αυτό είναι πρόσωπο μικρού παιδιού και όχι ενήλικα, αυτά είναι φυσιολογικά κύτταρα και όχι άτυπα που ίσως είναι καρκίνος– αγνοεί πώς το κάνει.

Δεν είμαι σίγουρος ότι αυτό αποτελεί ουσιώδες εμπόδιο για την τεχνητή νοημοσύνη. Και οι ανθρώπινοι γιατροί συχνά δεν μπορούμε να εξηγήσουμε πώς προσεγγίζουμε και σκεπτόμαστε ένα διαγνωστικό πρόβλημα ή πώς καταλήξαμε στο Α και όχι στο Β συμπέρασμα. Ακόμα και στον τεχνολογικά υπεραναπτυγμένο 21ο αιώνα δυσκολευόμαστε να ενσωματώσουμε στον διαγνωστικό λογισμό μας τις υπό-όρους-πιθανότητες (conditional probabilities) του Bayes που πρωτοδιατυπώθηκαν πριν από τέσσερις αιώνες. Σε αντίθεση με το ρίξιμο ζαριών όπου κάθε ζαριά είναι ανεξάρτητη από προηγούμενες, στο χώρο του Bayes η πιθανότητα μιας διάγνωσης εξαρτάται από κάτι που έχει ήδη συμβεί. Για παράδειγμα, ο πόνος στο στήθος σε ένα κατά τα άλλα υγιές άτομο 20 χρονών είναι διαφορετικός από ένα παρόμοιο σύμπτωμα σε καπνιστή 60 ετών με υπέρταση. Η πιθανότητα στεφανιαίας νόσου στην πρώτη περίπτωση είναι μηδαμινή, ενώ στον δεύτερο είναι βεβαιότητα μέχρι αποδείξεως του εναντίου. Μία από τις σημαντικότερες δυσχέρειες –ιδιαίτερα στα δύσκολα περιστατικά όπου οι ειδικοί διαφωνούν– είναι να υπολογίσεις ή να μαντέψεις στο περίπου (ή και τα δύο, όπως υποδηλώνει ο νεολογισμός guesstimate) πόσο μεγάλη ή μικρή είναι η εξάρτηση μιας διαγνωστικής πιθανότητας από κάτι που προηγήθηκε, και πόσο αυξάνεται ή ελαττώνεται το ενδεχόμενο μιας διάγνωσης από ένα καινούργιο κλινικοεργαστηριακό εύρημα.

Με άλλα λόγια, το διαγνωστικό tabula δεν είναι rasa. Ξεκινάει από απροσδιόριστες και υπόρρητες παραδοχές που δεν είναι εύκολα αρθρώσιμες. Γνώσεις, εμπειρίες, λάθη, unknown unknowns (όλα όσα δεν ξέρω ότι δεν τα ξέρω), “έκτη” αίσθηση, απρόβλεπτοι παράγοντες (πίεση χρόνου, ένα άρθρο που τυχαία διάβασα χθες) είναι απρόσκλητοι επισκέπτες στα διαγνωστικά διλήμματα. Έχουν τεκμηριωθεί ένα σωρό biases που άθελά μας και εν αγνοία μας επηρεάζουν και διαμορφώνουν τις ιατρικές αποφάσεις και, όχι σπάνια, συμβάλλουν σε λάθη. Η ανθρώπινη νοημοσύνη, ιατρική και μη, λειτουργεί υπό την επήρεια πολλαπλών biases – availability bias, confirmation bias, anchoring, framing, premature closure για να μείνουμε στις πιο γνωστές περιπτώσεις. Υπάρχουν δεκάδες άλλες και, παρά το γεγονός ότι οι ορισμοί τους είναι στο διαδίκτυο, δεν είναι εύκολο να εξορκισθούν γιατί, κατά κανόνα, λειτουργούν στα παρασκήνια.

Όμως παρά τέτοιους περιορισμούς και δυσκολίες να κάνουμε λόγον διδόναι για διαγνωστικές διεργασίες (παραπλήσια με την αδυναμία του AlphaZero να εξηγήσει μια παράδοξη κίνηση που οι γκραντ μαιτρ δεν καταλαβαίνουν), στις περισσότερες περιπτώσεις είμαστε αρκετά καλύτεροι από απλώς καλοί (good enough) διαγνωστές και θεραπευτές που μαντεύουν στο περίπου. Με έναν ανάλογο τρόπο, η αδιαφάνεια των ιατρικών αλγόριθμων δεν αποκλείει να αποκτήσουν αυτόνομες διαγνωστικές ικανότητες, όπως τα driverless cars χωρίς οδηγούς και αεροπλάνα χωρίς ανθρώπινους πιλότους. Και στο βαθμό που τα ντοκμπότ βελτιώνουν διαγνωστικές, προγνωστικές και θεραπευτικές ικανότητες, περιορίζουν απρόβλεπτους παράγοντες, biases, ιατρικά λάθη, ή ελαττώνουν άχρηστες αναποτελεσματικές μορφές ιατρικοποίησης και σπατάλη πόρων, θα είναι καλοδεχούμενη εξέλιξη.

 

Αλγοριθμοποίηση της εμπειρίας;

Η δεύτερη και σημαντικότερη ένσταση απορρέει από τον εν μέρει χαοτικό χαρακτήρα της ιατρικής. Σύμφωνα με το άρθρο του Αnnals of Ιnternal Μedicine:

Οι αλγόριθμοι λειτουργούν ικανοποιητικά όταν υπάρχουν προκαθορισμένοι κανόνες. Δε λειτουργούν καλά σε ατελή πληροφορία ή ανεπαρκή δομή.[8]

Ο πιθανοκρατικός χαρακτήρας της ιατρικής διαφέρει από το ελεγχόμενο περιβάλλον προγραμμάτων όπως το AlphaZero. Με ένα πόδι το έμβιο πατάει σε κανόνες και συνεπαγωγές της τυπικής λογικής και την προβλεψιμότητα του 1+1=2. Χάρη σ’ αυτή την πλευρά είμαστε ντετερμινιστικά παβλοφιανά φυσικοχημικά όντα, με την τετριμμένη έννοια του όρου. Εάν πάρω το αντιυπερτασικό A, η πίεση θα ελαττωθεί κατά τρόπο και μέγεθος που, που εντός ορίων, εξαρτώνται και προκαθορίζονται από τη δόση.

Αλλά το ίδιο φάρμακο μπορεί να προκαλέσει ξαφνική και επικίνδυνη επιπλοκή που με στέλνει στα επείγοντα. Ή κάνει το αντίθετο από αυτό που πρέπει να κάνει, όπως τα ηρεμιστικά που αντί ηρεμία προκαλούν υπερδιεγερτικό ντελίριο. Ή μπορεί να μην κάνει τίποτα. Και πώς να εξηγήσει κανείς το placebo; Με το άλλο πόδι το έμβιο βρίσκεται στο απρόβλεπτο μη-γραμμικό.

Καθώς διαπραγματεύεται και τις δύο πλευρές, η ιατρική είναι γεμάτη αβεβαιότητες, λειψές αντικρουόμενες πληροφορίες, ρευστές συγκεχυμένες δομές και παραδοξότητες. Και όταν σε τέτοιες a priori απροσδιοριστίες προστίθενται οι κοινωνιολογικές και πολιτικές πραγματικότητες των συστημάτων περίθαλψης –πεπερασμένοι πόροι, ανεπάρκειες και αδράνειες, αντικρουόμενες προτεραιότητες, συγκρουόμενες μικροεξουσίες (turf wars), γραφειοκρατίες, συμφέροντα και κάθε λογής ατζέντες– τότε βρισκόμαστε πολύ μακριά από επιτραπέζια παιχνίδια.

Τουλάχιστον προς το παρόν, αβεβαιότητα και μη προβλεψιμότητα δεν φαίνονται αλγοριθμοποιήσιμες ώστε να τυποποιηθούν σε κανόνες και εντολές για να γίνουν input σε έξυπνες μηχανές. Σαν βιολογικό προϊόν η ανθρώπινη νοημοσύνη εξελίχθηκε μέσα στην αβεβαιότητα και έχει προσαρμοσθεί να την αντιμετωπίζει, άλλοτε περισσότερο και άλλοτε λιγότερο επιτυχημένα. Υπερβαίνει ένα απλό pattern recognition και γίνεται pattern construction ικανό για σημαντικά πράγματα και σωστές επιλογές μέσα σε ατελείς πληροφορίες.

Με λίγα ασαφή δεδομένα και σε χρόνο μηδέν, ο ανθρώπινος εγκέφαλος καταλήγει σε σωστά συμπεράσματα. Πριν από χρόνια συζητήθηκε η ικανότητα ακαριαίων αποφάσεων «χωρίς σκέψη», επίσης γνωστή σαν μπλινκ, από το ανοιγοκλείσιμο των βλεφάρων.[9] Η εξέταση του φαινομένου ξεφεύγει από το παρόν, αλλά στο βαθμό που μιλάμε για σωστές αποφάσεις εν ριπή οφθαλμού συναντάμε μια διαφορετική διάσταση της νοημοσύνης.

Στην ιατρική αναλογία του μπλινκ ο ειδικός ξέρει με μια ματιά αμέσως τι έχει ο ασθενής. Στον μη-ειδικό που βλέπει αυτό το πράγμα απέξω, μπορεί να δημιουργηθεί η εντύπωση ενός μυστηριώδους αυτοματισμού – σαν άλλο ένα μαύρο κουτί ή διαγνωστικό βουντού. Αλλά προκειμένου να κάνει αξιόπιστες διαγνώσεις με ένα ανοιγοκλείσιμο των βλεφάρων, η ειδικός αφιέρωσε δεκαετίες στο Ars Longa. Πίσω από σωστές αποφάσεις σε κλάσματα δευτερολέπτου βρίσκονται χρόνια δουλειάς, εκπαίδευσης, μελέτης, προσπάθειας, αποτυχιών, λαθών, επαναλήψεων και διαρκούς μάθησης. Μπορεί να φαίνεται thinking without thinking αλλά είναι συμπυκνωμένες μεγαδόσεις συσσωρευμένης εμπειρίας.

Οι αλγόριθμοι από την άλλη χρειάζονται τεράστιες μάζες δεδομένων με προκαθορισμένες δομές για να εκπαιδευθούν, αλλά σκοντάφτουν μπροστά στην αβεβαιότητα η οποία είναι άβατον για τη μηχανική νοημοσύνη. Μελλοντικά συστήματα ίσως μεταγράψουν με δικούς τους τρόπους τις υπάρχουσες μάζες εξειδικευμένης εμπειρίας. Και όταν το κατορθώσουν, ίσως προσεγγίσουν αυτόνομες μορφές διάγνωσης που κατά πάσα πιθανότητα θα διαφέρουν από ανθρώπινες. Ένα βήμα προς μια τέτοια κατεύθυνση είναι η καταγραφή (capturing) εμπειρικού υλικού με τα Electronic Medical Records, που εμπεριέχουν τεράστια κοιτάσματα ιατρικού πραγματικού. Επόμενα βήματα (μέσω τεχνολογιών όπως το cNLP, clinical Natural Language Processing) θα κάνουν εξόρυξη και αξιοποίηση πληροφοριών που προς το παρόν είναι θαμμένες μαζί με τεράστιες μάζες θορύβου στους ηλεκτρονικούς πύργους της ιατρικής Βαβέλ.

***

Καθώς βελτιώνονται, τα ρομπότ γίνονται σημαντικά εργαλεία για γιατρούς, ασθενείς και υπηρεσίες περίθαλψης. Αυξάνουν τη διαγνωστική ακρίβεια οπτικών ειδικοτήτων (Ακτινολογία, Παθολογοανατομική, Δερματολογία) και αυτοματοποιούν πρωτόκολλα παρακολούθησης (telemetry, biomonitoring). Αλλάζουν τα συστήματα υγείας σε μακρο-επίπεδο και τις σχέσεις γιατρού-αρρώστου σε μικρο-επίπεδο. Ο ασθενής μπορεί να μάθει ότι έχει καρκίνο από ένα αυτόματο email που στέλνει το εργαστήριο πριν του το πει ο γιατρός. Ιατρική και περίθαλψη έχουν μπει ανεπιστρεπτί στα predictive analytics, big data και τις προκλήσεις και δυσχέρειες του multidimensionality. Apps δίνουν απαντήσεις για συμπτώματα και συμβουλεύουν για το αν χρειάζεσαι ανθρώπινο γιατρό. Στο διαδίκτυο αφθονούν σκωπτικά σχόλια για λάθη και οφθαλμοφανείς γκάφες των αλγόριθμων, αλλά οι κοροϊδίες ξεχνούν ότι με κάθε γκάφα τα συστήματα γίνονται καλύτερα.

Θα εξελιχθούν τα ιατρικά ρομπότ σε κάτι σαν το HAL 9000, τον Ευρηστικά Προγραμματισμένο Αλγόριθμο του Άρθουρ Κλαρκ ή τα σταρτρεκικά ολογράμματα; Ίσως κάποτε ένα άγγιγμα κάποιου interface θα μας συνδέει αμέσως με ντοκμπότ. Με ένα μπλινκ ή κάποιο modality θα μπαίνουμε στο ιατρικό μέταβερς. Ίσως κάτι σαν το σκάνερ της Ντόκτορ Κράσερ ή κάποιο Amazonικό e-μαραφέτι θα απαντάει σε ερωτήσεις, θα διαγιγνώσκει συμπτώματα και θα γιατρεύει. Alexa έχω πονοκέφαλο, τι να κάνω; Ίσως οδηγηθούμε σε κάποιο τρανς-στάτους[10] όπου ανθρώπινο διαγνωστικό δυναμικό θα είναι merged με ευφυείς μηχανές. Αλλά με τα σημερινά δεδομένα είναι δύσκολο να δούμε πώς τεχνητά νευρωνικά δίκτυα θα αντικαταστήσουν ανθρώπινες φιγούρες στο ορατό μέλλον.

Προς το παρόν, οι φήμες αντικατάστασης γιατρών όπως τις ξέρουμε σήμερα από πλήρως εκμηχανισμένες διαγνώσεις και βαθυνευρομαθησιακές θεραπείες φαίνονται πρόωρες και υπερβολικές. Το συμπέρασμα του Αnnals of Ιnternal Μedicine είναι ότι τα ρομπότ δεν θα αντικαταστήσουν ανθρώπινους γιατρούς το 2030.

 

[1] NR Shah. “Health Care in 2030: Will Artificial Intelligence Replace Physicians?” Annals of Internal Medicine, 19 Μαρτίου 2019.

[2] WB Schwartz. “Medicine and the Computer – The Promise and Problems of Change”. New England Journal of Medicine. 3 Δεκεμβρίου 1970.

[3] Francois Challot. “On the measure of intelligence”. Έκδοση Google, Inc. 5 Νοεμβρίου 2019.

[4] Η ρομποτική κολεκτίβα Μποργκ επαναλαμβάνει Resistance is Futile / Η αντίσταση είναι μάταιη και “You will service us!/ Θα υπηρετείτε εμάς!” Πρωτοεμφανίσθηκε στο Star Trek: The Next Generation, πρωταγωνίστησε στην ταινία First Contact (1996) και επανήλθε σε επεισόδια των Deep Space και Nine Voyager.

[5] J Somers. “How the artificial-intelligence program AlphaZero mastered its games”. The New Yorker, 28 Δεκεμβρίου 2018.

[6] B Mesko, M Gorog. “A short guide for medical professionals in the era of artificial intelligence”. Nature, npj Digital Medicine, 24 Σεπτεμβρίου 2020.

[7] 7. C Ross, I Swetlitz. “IBM’s Watson supercomputer recommended unsafe and incorrect cancer treatments”. STAT 25 Ιουλίου 2018.

[8] Όπ.π., σημ. 1.

[9] Malcolm Gladwell. Blink. The Power of Thinking Without Thinking. Back Bay Books, Little, Brown. 2005, 320 σελ.

[10] Για μια συνοπτική εισαγωγή στο Transhumanism δες: Susan Schneider. “Would You Survive A Merger With AI?” Nautilus, 3 Οκτωβρίου 2019.

Προσθήκη σχολίου

Όλα τα πεδία είναι υποχρεωτικά. Ο κώδικας HTML δεν επιτρέπεται.