Τεχνητή νοημοσύνη

Ένα αμερικανικό εφετείο έκρινε ότι μια εταιρεία τεχνητής νοημοσύνης είναι «επικίνδυνη» για τις ένοπλες δυνάμεις της χώρας, επειδή το προϊόν της αρνείται να κάνει δύο συγκεκριμένα πράγματα. Η υπόθεση μάς αφορά περισσότερο απ’ όσο δείχνει εκ πρώτης όψεως: στις 31 Αυγούστου η Ελλάδα υπέγραψε στο Τελ Αβίβ τη συμφωνία για την «Ασπίδα του Αχιλλέα».

Η Anthropic, η εταιρεία που φτιάχνει το Claude, τον βασικό ανταγωνιστή του ChatGPT, δεν είναι ειρηνιστική ΜΚΟ. Οι αμερικανικές ένοπλες δυνάμεις χρησιμοποιούσαν το μοντέλο της από το 2024. Η εταιρεία είχε δεχτεί, στη σύμβαση που υπέγραψε,  να χρησιμοποιείται το μοντέλο για  σχεδιασμό όπλων, για  ανάλυση πληροφοριών και για επιθέσεις στον κυβερνοχώρο. Δύο πράγματα αρνήθηκε ώς το τέλος: να κατευθύνει το Claude όπλα που διαλέγουν και χτυπούν στόχους αυτόνομα, δηλαδή χωρίς να το αποφασίζει άνθρωπος· και να χρησιμοποιηθεί ως Μεγάλος Αδελφός για τη μαζική παρακολούθηση Αμερικανών πολιτών.

Τον Ιανουάριο, ο υπουργός Πιτ Χέγκσεθ, του οποίου το υπουργείο αυτοαποκαλείται από πέρυσι υπουργείο Πολέμου, απαίτησε από όλους τους προμηθευτές να προσθέσουν στις συμβάσεις τους τον όρο «για κάθε νόμιμη χρήση». Ενάμιση μήνα μετά, η Anthropic δεν το είχε κάνει.  Ο υπουργός έδωσε στον επικεφαλής της, τον Ντάριο Αμοντέι, τρεις μέρες προθεσμία να συμμορφωθεί. Ο Αμοντέι, αν και είχε το μαχαίρι στον λαιμό,  αρνήθηκε δημοσίως να το πράξει· αναγνώρισε, ωστόσο, ότι το υπουργείο έχει κάθε δικαίωμα να βρει άλλον προμηθευτή και προσφέρθηκε να διευκολύνει τη μετάβαση σε άλλο σύστημα.

 Ο Χέγκσεθ θα μπορούσε απλώς να λύσει τη συνεργασία. Ως επιδερμικά πολεμοχαρής, μόλις έληξε το τελεσίγραφο προτίμησε να χαρακτηρίσει την εταιρεία «επικίνδυνη για την εφοδιαστική αλυσίδα», με έναν νόμο του 2018 που ψηφίστηκε για να εμποδίσει εχθρικά κράτη να διεισδύουν στις κρατικές προμήθειες. Με αυτή την απόφαση κανένας εργολάβος που κάνει δουλειές με το Πεντάγωνο δεν μπορεί πλέον να χρησιμοποιεί σε αυτές το Claude.

Η εταιρεία προσέφυγε στη δικαιοσύνη. Στις 25 Σεπτεμβρίου το ομοσπονδιακό εφετείο της Ουάσινγκτον απέρριψε κατά πλειοψηφία την προσφυγή της. Η απόφαση δέχεται ότι η Anthropic ενήργησε με «αγαθές προθέσεις», και ταυτόχρονα ότι ο υπουργός είχε κάθε δικαίωμα να τη χαρακτηρίσει «επικίνδυνη».

Ένα ρήμα, δύο λεξικά

Πώς γίνεται να είναι κανείς καλόπιστος και επικίνδυνος ταυτόχρονα; Η αμερικανική νομοθεσία ορίζει ως κίνδυνο το ενδεχόμενο να κάνει κάποιος σαμποτάζ σε ένα προϊόν, να του κρύψει κακόβουλα μια ανεπιθύμητη λειτουργία ή να επέμβει «με άλλον τρόπο» στη λειτουργία του (το αγγλικό ρήμα είναι to manipulate). Τα ελληνικά έχουν για το ρήμα αυτό δύο λέξεις, και οι δικαστές διχάστηκαν ανάμεσά τους. Η πλειοψηφία το ερμήνευσε ως «χειρίζομαι», δηλαδή ρυθμίζω και ελέγχω. Η Anthropic εκπαιδεύει το Claude να αρνείται ορισμένα πράγματα, άρα και αυτή το  χειρίζεται, και ο νόμος, κατά την πλειοψηφία, κοιτάζει τι κάνει ο προμηθευτής και αδιαφορεί για το γιατί το κάνει.

 Η δικαστής Κάρεν Χέντερσον, που μειοψήφησε, το ερμήνευσε ως «χειραγωγώ», δηλαδή επηρεάζω ύπουλα και με δόλο. Ο κατάλογος του νόμου, υποστηρίζει, αρχίζει με το σαμποτάζ και τις κακόβουλες ενέργειες, άρα και το ρήμα  «χειραγωγώ»  εννοεί κάτι εχθρικό και κρυφό· η Anthropic, αντίθετα, έγραψε τους περιορισμούς της φανερά στο συμβόλαιο και τους τήρησε. Το παράδειγμα που έδωσε η δικαστίνα το καταλαβαίνει και μικρό παιδί. Όταν μια πινακίδα βιβλιοθήκης απαγορεύει «να φωνάζετε, να μιλάτε δυνατά στο κινητό, να παίζετε μουσική ή με οποιονδήποτε άλλον τρόπο να ενοχλείτε», δεν διώχνει αυτόν που ακούει μουσική με ακουστικά.

Το επιχείρημα του στρατού

Η θέση του υπουργείου είναι εύλογη, και θα ήταν άδικο να την παραβλέψουμε, μόνον επειδή ο Χέγκσεθ τη διατύπωσε με τον χοντροκομμένο τρόπο του: «Οι πολεμιστές της Αμερικής δεν θα γίνουν ποτέ όμηροι των ιδεολογικών ιδιοτροπιών της Big Tech». Ένα όπλο εκτελεί καταπώς  το χειρίζεται ο χειριστής του (συγχωρήστε με). Τα όρια τα βάζει η νομοθεσία· την ερμηνεία της την κάνει η στρατιωτική ιεραρχία, η οποία λογοδοτεί σε εκλεγμένη κυβέρνηση. Και βεβαίως, κανένας στρατός δεν ξεκινά μια επιχείρηση χωρίς να ξέρει αν το λογισμικό του θα συνεργαστεί ώς το τέλος.

Το δικαστήριο έκρινε ότι η ανησυχία του Πενταγώνου είχε έρεισμα. Τον Ιανουάριο, στέλεχος της Anthropic έθεσε ερωτήματα για τη χρήση του Claude σε μια στρατιωτική επιχείρηση στο εξωτερικό (κατά τα δημοσιεύματα, τη σύλληψη του Νικόλας Μαδούρο) και το υπουργείο αναρωτήθηκε τι θα γινόταν αν το λογισμικό σταματούσε να ανταποκρίνεται σε μια κρίσιμη στιγμή. Η εταιρεία αντέτεινε ότι ο στρατός μπορεί να δοκιμάζει κάθε νέο μοντέλο πριν το παραλάβει, όπως κάνει π.χ. με τα αεροπλάνα.  Αλλά εδώ αρχίζουν τα δύσκολα με την τεχνητή νοημοσύνη. Η δοκιμή δεν μπορεί ποτέ να είναι εξαντλητική για  ένα σύστημα που –όπως παραδέχεται η ίδια η εταιρεία– αν αλλάξει λίγο η διατύπωση μπορεί να απαντήσει στο ίδιο αίτημα αλλιώς. Έτσι ο στρατός δεν ξέρει από πριν (και δεν μπορεί να ξέρει…) πότε η μηχανή θα του πει όχι.

Νόμιμο και ηθικό;

Η Anthropic απαντά ότι στις δύο περιπτώσεις που αναφέραμε παραπάνω (τα όπλα  που σκοτώνουν μόνα τους και τις μαζικές παρακολουθήσεις) η μηχανή οφείλει να λέει όχι. Ο λόγος για την πρώτη άρνηση είναι εγγενής στην τεχνητή νοημοσύνη. Τα σημερινά μοντέλα κάνουν ένα λάθος που δεν μοιάζει με τα ανθρώπινα (εκτός και αν σε λένε Τραμπ): μπορούν να πουν με απόλυτη βεβαιότητα πράγματα που δεν ισχύουν. Ο Αμοντέι δέχεται ότι κάποτε τα όπλα θα γίνουν αυτόνομα (θα σκοτώνουν δηλαδή από μόνα τους)· σήμερα, ωστόσο, υποστηρίζει ότι η τεχνολογία δεν είναι «αρκετά αξιόπιστη», και το λάθος της θα το πληρώσουν και άμαχοι – όχι μόνο στρατιώτες.  Τις αντοχές και ανοχές (αλλά όχι ενοχές, καθότι η μηχανή δεν διαθέτει) του προϊόντος τις ξέρει καλύτερα ο  κατασκευαστής του. Ο μηχανικός που αρνείται να υπογράψει για φορτίο πάνω από τις αντοχές μιας γέφυρας δεν σαμποτάρει τον πελάτη του· αντίθετα, τον προστατεύει.

Πάνω από το τεχνικό επιχείρημα στέκεται ένα παλαιότερο. Το δίκαιο του πολέμου ζητά να δια-κρίνει κάποιος αν: α)  ο στόχος είναι μαχητής ή άμαχος· και β) το πλήγμα είναι ανάλογο με το στρατιωτικό όφελος. Προϋποθέτει επίσης ότι αυτός ο κάποιος μπορεί να δικαστεί για την κρίση του. Όταν, λοιπόν, αποφασίζει το λογισμικό, δεν υπάρχει κανείς να δικαστεί. Ο στρατός των ανθρώπων έχει, άλλωστε, ένα φρένο που το θεωρούμε δεδομένο, αφού ο στρατιώτης μπορεί να αρνηθεί μια παράνομη διαταγή. Και εδώ ξαναρχίζουν τα δύσκολα της τεχνητής νοημοσύνης.  Ο Αμοντέι γράφει ότι ένα σμήνος από εκατομμύρια αυτόνομα οπλισμένα drones θα μπορούσε να γίνει «ανίκητος στρατός». Σε έναν τέτοιο στρατό δεν απομένει κανείς για να αρνηθεί μια διαταγή –εκτός αν η άρνηση έχει ενσωματωθεί στο ίδιο το όπλο.

Για τη μαζική παρακολούθηση των πολιτών ο Αμοντέι έχει  γράψει ότι  στις Ηνωμένες Πολιτείες είναι μεν νόμιμη αλλά «ασύμβατη με τις δημοκρατικές αξίες». Ο Έλληνας αναγνώστης θα θυμάται ότι έχει ακούσει πως «ό,τι είναι νόμιμο είναι και ηθικό», και θα θυμάται επίσης πώς υποδέχτηκε αυτό το σόφισμα των πολιτικών. Επιπλέον, υπάρχει και το ζήτημα της νομοθεσίας, που σχεδόν πάντα υστερεί έναντι της εποχής της.  Η αμερικανική νομοθεσία, εν προκειμένω, γράφτηκε για μια εποχή όπου η παρακολούθηση των πάντων ήταν πρακτικά αδύνατη, γιατί χρειαζόταν ανθρώπους να ακούν και να διαβάζουν· ένα μοντέλο μπορεί να διαβάζει (σχεδόν) τα πάντα,  καταργώντας  έτσι αυτόν τον φυσικό περιορισμό. Ο δικός μας νόμος είναι πρόσφατος (ν. 5002/2022, μετά τις υποκλοπές), αλλά κι αυτός ρυθμίζει την άρση του απορρήτου για συγκεκριμένα πρόσωπα, με προηγούμενη εισαγγελική διάταξη. Ούτε εδώ ο νομοθέτης είχε κατά νου μια μηχανή που δεν χρειάζεται να διαλέξει ποιον θα ακούσει.

Ο δεύτερος όροφος

Η απόφαση του δικαστηρίου κλείνει με δύο θεμελιώδεις ανησυχίες. Ο υπουργός φοβάται τα μοντέλα με υπερβολικούς περιορισμούς, τα οποία θα τα στυλώσουν και θα σταματήσουν απροειδοποίητα στη μέση μιας επιχείρησης. Η Anthropic φοβάται τα ίδια μοντέλα χωρίς περιορισμούς, που θα «παραισθάνονται ακατάλληλους στόχους για φονική πολεμική ισχύ». Το ρήμα «παραισθάνονται», ειρήσθω εν παρόδω, είναι γραμμένο στην απόφαση του δικαστηρίου.

Εμένα το ζήτημα με απασχολεί εδώ και καιρό, γιατί γράφω ένα μυθιστόρημα γύρω από ένα τέτοιο σύστημα στόχευσης, και το γράφω με συνεργάτη το ίδιο το Claude. Η σκηνή που με παίδεψε περισσότερο είναι απλή: Σε μια πόλη της Μέσης Ανατολής, στον τέταρτο όροφο μιας πολυκατοικίας υπάρχουν ένοπλοι μαχητές. Στον δεύτερο όροφο λειτουργεί παιδιατρική κλινική. Στην οθόνη του χειριστή, που βρίσκεται στις Ηνωμένες Πολιτείες, το κτίριο είναι ένα πεδίο με την ένδειξη «κόμβος επικοινωνιών» και έχει έναν δείκτη βεβαιότητας (πόσο σίγουρη είναι η μηχανή γι’ αυτό). Ο χειριστής έχει μερικά δευτερόλεπτα και ξέρει ότι το σύστημα –όταν προτείνει ένα στόχο– τις περισσότερες φορές έχει δίκιο. Όμως οι ένοπλοι δεν διάλεξαν τυχαία το κτίριο. Εγκαταστάθηκαν πάνω από την κλινική ακριβώς επειδή λογαριάζουν ότι κάποιος στην άλλη πλευρά θα διστάσει.

Σε αυτό το σημείο έχουν δίκιο και οι δύο αντίδικοι. Μια μηχανή που διστάζει πάντα κάνει τις ανθρώπινες ασπίδες αποτελεσματικές, και μια μηχανή που δεν διστάζει ποτέ τις εξολοθρεύει. Ανάμεσα στα δύο χωράει μόνο η κρίση ενός ανθρώπου που βλέπει και τους δύο ορόφους και θα λογοδοτήσει για ό,τι διαλέξει. Το πλήρως αυτόνομο όπλο αφαιρεί από την αλυσίδα αποφάσεων αυτόν ακριβώς τον άνθρωπο. Αν το μοντέλο είδε κάτι που δεν υπήρχε, ή δεν είδε καθόλου τον δεύτερο όροφο, ενώ υπήρχε κλινική, στην ανάκριση ο αξιωματικός θα πει «αυτό το πεδίο δεν το συμπλήρωσα εγώ» και θα λέει την αλήθεια. Το ίδιο θα πουν ο χειριστής και ο προγραμματιστής. Και δεν θα φταίει κανείς.

Όταν άρχισα να γράφω, η σκηνή ήταν επινόηση. Μετά ήρθαν τα γεγονότα: η απόφαση του δικαστηρίου καταγράφει ότι δύο μέρες μετά την άρνηση του Αμοντέι άρχισαν οι αμερικανικές επιθέσεις στο Ιράν και ότι, κατά τη Wall Street Journal, το Claude χρησιμοποιήθηκε και εκεί, λίγες ώρες αφότου ανακοινώθηκε ο αποκλεισμός του. Την πρώτη μέρα του πολέμου, αμερικανικοί πύραυλοι Tomahawk έπληξαν ένα δημοτικό σχολείο στο Μινάμπ του Ιράν: εκατόν πενήντα έξι νεκροί, από τους οποίους εκατόν είκοσι ήταν μικρά παιδιά. Η απόφαση καταγράφει επίσης ότι το 2024 οι πρώτες εκδόσεις του Claude αρνούνταν να συνοψίσουν εκτιμήσεις απειλών ή να μεταφράσουν υποκλαπέντα κείμενα που περιέγραφαν βίαιες πράξεις, και ότι η εταιρεία έφτιαξε για τις μυστικές υπηρεσίες ειδική έκδοση, που δεν τα αρνείται πλέον. Τη μηχανή που διστάζει και ύστερα υποχωρεί την είχα για μυθιστορηματικό εύρημα. Τη βρήκα στη σελίδα 8 μιας δικαστικής απόφασης, ως αποδεικτικό στοιχείο εναντίον του κατασκευαστή της.

Γιατί μας αφορά

Ο ευρωπαϊκός κανονισμός για την τεχνητή νοημοσύνη (ΑΙ Act) εξαιρεί ρητά τις στρατιωτικές χρήσεις. Η «Ασπίδα του Αχιλλέα» αποτελεί μια τέτοια χρήση. Πρόκειται για ένα «πολυεπίπεδο» (και μόνο η λέξη με ανησυχεί) σύστημα αεράμυνας που αγοράζουμε από το Ισραήλ και στο οποίο η τεχνητή νοημοσύνη θα εντοπίζει στόχους και θα αξιολογεί απειλές. Και το ερώτημα είναι: ποιος ορίζει τι θα αρνείται να κάνει ένα τέτοιο λογισμικό, ο κατασκευαστής του ή ο στρατός που το αγοράζει; Στην αεράμυνα το «ναι» και το «όχι» μετριούνται σε δευτερόλεπτα. Το ίχνος στο ραντάρ είναι είτε πύραυλος είτε επιβατικό αεροπλάνο, και κάποιος πρέπει να έχει ορίσει από πριν: α) πόσο σίγουρη οφείλει να είναι η μηχανή· και  β) αν θα περιμένει άνθρωπο να αποφασίσει.

Για εμάς λοιπόν, όπως και για τους Αμερικανούς, τα μόνα όρια στο τι θα κάνουν αυτά τα συστήματα είναι όσα γράψει ο προμηθευτής στο συμβόλαιο (δηλαδή οι Ισραηλινοί) και όσα δεχτεί ο αγοραστής (δηλαδή εμείς μέσω του υπουργείου Αμύνης).

Γι’ αυτό η σημαντικότερη σελίδα της απόφασης είναι η σελίδα 7 της μειοψηφίας. Ο επόμενος προμηθευτής, γράφει η Χέντερσον, θα έχει να διαλέξει ανάμεσα στην αποδοχή των όρων του υπουργού και στον χαρακτηρισμό του ως απειλής για την εθνική ασφάλεια. Με τη λογική της πλειοψηφίας, το δίλημμα αυτό θα το αντιμετωπίσει ακόμη κι ο προμηθευτής που λέει όχι σε μια χρήση αντίθετη στον νόμο ή στο Σύνταγμα.

Στο τέλος της γραφής, η Anthropic εμπορικά δεν έπαθε τίποτα· μετά τον αποκλεισμό, σημειώνει το δικαστήριο με δόση ειρωνείας, δέχθηκε επενδυτικές προσφορές που την αποτιμούν σε πάνω από 900 δισεκατομμύρια δολάρια. Η εταιρεία εξετάζει τα επόμενα βήματά της και μπορεί να ζητήσει να κριθεί η υπόθεση από την ολομέλεια του εφετείου. Ως τότε ισχύει η τελευταία παράγραφος της πλειοψηφίας: ανάμεσα στη μηχανή που αρνείται και στη μηχανή που «παραισθάνεται» διαλέγουν ο πρόεδρος και ο υπουργός Πολέμου, και πρακτικά συναποφασίζουν αν δίπλα στη μηχανή που στοχεύει θα κάθεται άνθρωπος. Το ποιος θα το διαλέξει στην Ελλάδα πρέπει να έχει απαντηθεί πριν παραδοθεί η Ασπίδα του Αχιλλέα.

Μια τεχνοκρατική ιστορία επιστημονικής φαντασίας

Ένας καινούργιος κόσμος ανοίγεται μπροστά μας, με τις με τις προσδοκίες μας, τις αυταπάτες μας, τα ρεαλιστικά δεδομένα και την πραγματικότητά του τον οποίο, αργά ή γρήγορα, θα αναγκαστούμε όλοι να ακολουθήσουμε. Πολλές χιλιάδες ζωές θα σώζονται κάθε χρόνο από το 2030 λόγω της χρήσης της Τεχνητής Νοημοσύνης (ΤΝ). Μόνο στην Ευρωπαϊκή Ένωση (ΕΕ) υπολογίζονται γύρω στις 400.000. Η Τεχνητή Νοημοσύνη αποτελεί την τελευταία από μια σειρά ψηφιακών καινοτομιών που αφορούν τα συστήματα υγείας διεθνώς.

Περισσότερα από 30 δισ. δολάρια το χρόνο ξοδεύονται για την ανάπτυξη της ΤΝ στον τομέα της υγείας – και το ποσό αυτό υπολογίζεται ότι αυξάνεται κατά περίπου 30% κάθε χρόνο. Μέχρι στιγμής, το 55% των εταιρειών στο χώρο της υγείας χρησιμοποιούν την ΤΝ ξοδεύοντας περίπου το 10% του προϋπολογισμού τους στην ανάπτυξη καινοτομιών.

Η ΤΝ μόνον στις ΗΠΑ αναμένεται το 2026 να μειώσει το κόστος της ιατρικής περίθαλψης κατά 10% – που αντιστοιχεί σε εξοικονόμηση 300 δισ. δολάρια. Η χώρα δαπανά το 18% του προϋπολογισμού της στην υγεία, 11.000 δολάρια δηλαδή κατά κεφαλήν. Από την άλλη πλευρά, στην ΕΕ, η εξοικονόμηση αναμένεται να είναι της τάξεως των 200 δισ. ευρώ το χρόνο, με το 25% από αυτό το ποσό να συνδέεται με τη δημιουργία και τη χορήγηση φορητών συσκευών άμεσης διάγνωσης και συνεχούς παρακολούθησης, οι οποίες θα έχουν τη δυνατότητα, όταν παραστεί ανάγκη, να δίνουν συμβουλές προς τους ασθενείς, αποφεύγοντας με αυτόν τον τρόπο τη χρονοβόρα για το δημόσιο νοσηλεία.

Η αύξηση του γηρασμένου πληθυσμού θα σημάνει έκρηξη στα συστήματα υγείας

Από το 2035 ο αριθμός των ατόμων πάνω από 60 χρονών θα είναι διπλάσιος από ότι σήμερα. Αυτό θα σημαίνει κατακλυσμιαία αύξηση στα νοσήλια για τους γηριατρικούς ασθενείς, κάτι που θα επιβαρύνει ακόμα περισσότερο τους προϋπολογισμούς διεθνώς. Όσο για την Ελλάδα, με βάση τα διαθέσιμα δημογραφικά δεδομένα, το 2035 το ποσοστό των ατόμων άνω των 65 ετών θα ανέρχεται στο 27,7%- 27,9% του πληθυσμού. Ενώ το 2050 το ποσοστό αυτό θα φτάσει το 30,1%-33,3%.

Οι μισοί από τους παρόχους υγείας στις ΗΠΑ χρησιμοποιούν ήδη συστήματα ΤΝ για να βελτιώσουν τη λειτουργία των νοσοκομείων. Η γρήγορη διακίνηση των ασθενών είναι υψίστης σημασίας για τη λειτουργία μιας νοσοκομειακής μονάδας. Η αδικαιολόγητα παρατεταμένη νοσηλεία ασθενών που είναι αρκετά καλά για να πάρουν εξιτήριο είναι ένα από τα μεγαλύτερα προβλήματα που αντιμετωπίζουν τα συστήματα υγείας διεθνώς.

Πάνω σε αυτό το ζήτημα, το Hywel Dda University της Ουαλίας, χρησιμοποιώντας έναν πρωτότυπο αλγόριθμο ΤΝ που μπορεί να προβλέψει με σχετική ακρίβεια τις πιθανές ημέρες εξιτηρίων για κάθε νέο ασθενή, κατάφερε να μειώσει τα ποσοστά παρατεταμένης νοσηλείας κατά 35%. Η σχετική έρευνα κατέληγε στο συμπέρασμα ότι αν το εν λόγω σύστημα χρησιμοποιούνταν σε όλη την επικράτεια του Ηνωμένου Βασιλείου θα μπορούσε να απελευθερώσει 9.500 νοσοκομειακές κλίνες, δηλαδή 1 στις 3. Στο NHS (National Health Service), το δημόσιο σύστημα υγείας του Ηνωμένου Βασιλείου, μια μόνο κλίνη κοστίζει πάνω από 2.500 λίρες την εβδομάδα. Έτσι, η απελευθέρωση 4.500 κλινών ισοδυναμεί με εξοικονόμηση της τάξης των 600 εκατομμυρίων λιρών το χρόνο.

Στο ΕΣΥ, για έναν «μέσο» νοσηλευόμενο ασθενή σε παθολογική ή χειρουργική κλινική, το κόστος ανέρχεται σε 1.000 έως 3.000 ευρώ για περίπου μια εβδομάδα νοσηλείας, ενώ σε περιπτώσεις ΜΕΘ ή σύνθετων επεμβάσεων μπορεί να ξεπερνά κατά πολύ τα 5.000 έως και 10.000 ευρώ.

Η μεγαλύτερη κρίση στο χώρο της υγείας: η έλλειψη προσωπικού

Η μεγαλύτερη κρίση στο χώρο της υγείας διεθνώς δεν αφορά ούτε τις κλίνες ούτε τα κτίρια. Αφορά την έλλειψη προσωπικού. Τα μεγαλύτερα προβλήματα  παρατηρούνται στον νοσηλευτικό κλάδο. Μόνον στο NHS του Ηνωμένου Βασιλείου υπάρχουν 97.000 κενές θέσεις εργασίας, ενώ συνολικά λείπουν 1 εκατομμύριο εργαζόμενοι σε όλες τις ειδικότητες του τομέα της υγείας.

Στην Ελλάδα, από το 2021 έως το 2023, τα χρόνια μετά την πανδημία του Covid, παρατηρήθηκε μείωση κατά περίπου 7,7% του ιατρικού προσωπικού στο ΕΣΥ. Όσον αφορά το νοσηλευτικό προσωπικό, παρότι η μείωση είναι μικρότερη από εκείνη των γιατρών, η χώρα μας εξακολουθεί να διαθέτει έναν από τους χαμηλότερους δείκτες νοσηλευτών ανά κάτοικο σε σύγκριση με άλλες χώρες της ΕΕ. Όπως γίνεται εύκολα αντιληπτό από την παράθεση των στατιστικών στοιχείων για το υγειονομικό προσωπικό στο ΕΣΥ και τα δημογραφικά στοιχεία για τον γηριατρικό πληθυσμό στην Ελλάδα, μέσα σε λιγότερο από 10 χρόνια το σύστημα υγείας θα βρεθεί μπροστά σε μια εκρηκτική κατάσταση μειωμένου προσωπικού και αυξημένης ζήτησης. Αυτή η δυσάρεστη συνθήκη θα είναι το μεγαλύτερο πρόβλημα της δεκαετίας του 2030 στο χώρο της υγείας – και γι’ αυτό η ΤΝ δεν προσφέρει καμία απολύτως βοήθεια.

Το καθεστώς έλλειψης προσωπικού οφείλεται στις εξαντλητικές, στρεσογόνες, κακά αμειβόμενες και ανθυγιεινές συνθήκες εργασίας που αντιμετωπίζουν οι εργαζόμενοι στο χώρο της υγείας διεθνώς. Όπως είπαμε, τίποτε απ’ όλα αυτά δεν θα αλλάξει μέσα στα επόμενα 20 χρόνια λόγω της ΤΝ. Αντίθετα, η δημιουργία πλούτου που σχετίζεται με την ανάπτυξη της ΤΝ σε άλλους τομείς της οικονομίας θα μπορούσε να βοηθήσει έτσι ώστε να εξασφαλιστούν περισσότεροι πόροι για τον τομέα της υγείας, δημιουργώντας με αυτόν τον τρόπο ευνοϊκότερες και ελκυστικότερες συνθήκες εργασίας για νέους ιατρούς ή νοσηλευτές. Για την ώρα, μια κάποια λύση στο πρόβλημα αυτό θα αποτελεί η εισαγωγή αλλοδαπού ιατρικο-νοσηλευτικού προσωπικού από τρίτες χώρες προς εξυπηρέτηση των αναγκών του συστήματος υγείας.

Διαγνωστικός τομέας: το μεγαλύτερο πεδίο δράσης της ΤΝ στο χώρο της υγείας

Πρέπει να καταλάβουμε ότι η ΤΝ είναι κάτι το τόσο καινούργιο και ευμετάβλητο που και τα δεδομένα με τα οποία επιχειρηματολογούμε υπέρ της ή εναντίον της μέσα σε λίγα χρόνια μπορεί να έχουν αλλάξει εντελώς. Σήμερα όμως έχουμε μπροστά μας τη μεγαλύτερη επανάσταση που φέρνει η ΤΝ στο χώρο της υγείας: την καινοτομία στους τομείς της διάγνωσης και της τηλεϊατρικής.

Στις ΗΠΑ και στο Ηνωμένο Βασίλειο, η ΤΝ χρησιμοποιείται ήδη στην αξιολόγηση αποτελεσμάτων απεικονιστικών εξετάσεων όπως υπερηχογραφήματα, αξονική και μαγνητική τομογραφία, προλαμβάνοντας ενδεχόμενα ιατρικά λάθη και βοηθώντας στην πρόληψη. Η χρήση των συστημάτων ΤΝ έχει κιόλας συμβάλει στην έγκυρη διάγνωση ασθενειών όπως η οστεοπόρωση, ο καρκίνος του μαστού, της στεφανιαίας νόσου κ.λπ.  Έρευνα από το Πανεπιστήμιο Jyväskylä της Φιλανδίας έχει δείξει ότι οι διαγνώσεις του καρκίνου του παχέος εντέρου που προκύπτουν από την επεξεργασία δεδομένων μέσω ΤΝ είναι πολύ πιο ακριβείς από τις διαγνώσεις που προέρχονται μετά την εξέταση ανατομικοπαθολογικών παρασκευασμάτων. Ενώ, την ίδια ώρα, το Ινστιτούτο Ογκολογίας της Βαλένθια χρησιμοποιεί φωτονιακούς αισθητήρες υψηλής ανάλυσης για τη διάγνωση του καρκίνου του δέρματος. Η διάγνωση γίνεται μέσα σε λίγα δευτερόλεπτα, χωρίς να απαιτείται βιοψία. Το ελπιδοφόρο με αυτές τις συσκευές είναι ότι όταν δοκιμαστούν και εισαχθούν στην καθημερινή διαγνωστική πρακτική θα χρησιμοποιούνται και για πολλές άλλες μορφές καρκίνου.

Στον τομέα της τηλεϊατρικής, νέες δυνατότητες ανοίγονται που σε άλλες εποχές θα φαίνονταν εξωπραγματικές. Για παράδειγμα, αναπτύσσονται συστήματα ΤΝ τα οποία από τον τόνο της φωνής του εξεταζόμενου θα καταδεικνύουν τυχόν μεταβολές στην υγεία του. Επίσης, κατά τη διάρκεια μιας βιντεοκλήσης, τα συστήματα αυτά θα μπορούν να αντιλαμβάνονται τυχόν μεταβολές στην ποιότητα του δέρματος του εξεταζόμενου. Τα εργαστήρια Klick στον Καναδά έχουν αναπτύξει ένα επαναστατικό τεστ της φωνής 10 δευτερολέπτων με τη χρήση ΤΝ, το οποίο με τις έως τώρα μελέτες φαίνεται να είναι κατά 85% επιτυχημένο στην διάγνωση του διαβήτη τύπου II. Το συγκεκριμένο τεστ, συνδυάζοντας βιομετρικές πληροφορίες για τον εξεταζόμενο όπως η ηλικία, το φύλο, το ύψος, το βάρος καθώς και τυχόν αλλοιώσεις στον τόνο της φωνής του μπορεί να προβεί σε διάγνωση διαβήτη τύπου ΙΙ. Οι ερευνητές είχαν εξετάσει στο εν λόγω σύστημα ΤΝ περιπτώσεις 18.000 ασθενών και ακόμα δεν μπορούν να κατανοήσουν τι είναι αυτό ακριβώς που  η ΤΝ αντιλαμβάνεται ως μεταβολή στον τόνο της φωνής το οποίο οφείλεται στην διαβήτη τύπου ΙΙ.

Όλα φαίνονται ιδανικά. Αλλά είναι όντως έτσι; Ο κίνδυνος είναι ότι τα συστήματα ΤΝ μπορούν να κάνουν λάθος διαγνώσεις χωρίς κανένας να το αντιληφθεί, θέτοντας έτσι σε κίνδυνο ζωές ασθενών. Πάνω σε όλες αυτές τις εξελίξεις, ένα πρέπει να είναι το δίδαγμα για την επιστημονική κοινότητα: ότι όσο φανταστικά και καινοτόμα και αν φαντάζουν τα συστήματα ΤΝ, δεν είναι αλάνθαστα. Χρειάζεται συνεχή και μόνιμη αξιολόγηση από καταρτισμένες και εξειδικευμένες ομάδες κλινικών ιατρών για την αποφυγή τυχών παρεκτροπών.

Η ΤΝ στις υπηρεσίες των χειρουργών

Μια από της μεγαλύτερες παρεξηγήσεις στο χώρο της εμπορευματοποίησης των ιατρικών υπηρεσιών αποτελεί ο ρόλος που έχουν τα ρομπότ σε ένα ορθοπεδικό χειρουργείο ψυχρού περιστατικού, όπως είναι για παράδειγμα οι αρθροπλαστικές. Είναι, πλέον, πολύ σύνηθες το φαινόμενο να καταφθάνουν ασθενείς στα ιατρεία και να ρωτάνε τον χειρουργό αν την επέμβαση θα την κάνει αυτός ή το ρομπότ. Δυστυχώς, το 2026 μ.Χ., η επιστήμη της ρομποτικής χειρουργικής δεν έχει εξελιχθεί τόσο ώστε να διαθέτουμε ανδροειδή ρομπότ χειρουργούς.

Αλλά τι εστί ρομπότ; Ποιος ο ρόλος του; Τα ρομπότ είναι μηχανήματα τα οποία καθοδηγούν τον χειρουργό στο πώς να περατώσει μια επέμβαση. Με βάση απεικονιστικές εξετάσεις του ασθενή, όπως μια αξονική τομογραφία της πάσχουσας περιοχής, μπορούν να παραγάγουν ένα εξατομικευμένο πλάνο επέμβασης γι’ αυτόν. Για να φανταστείτε, αυτή η ήδη υπάρχουσα δυνατότητα μπορεί να επαυξηθεί με την προσθήκη συστημάτων ΤΝ που θα προειδοποιούν τον χειρουργό για τυχόν ανατομικές παραλλαγές που μπορεί να έχει ο ασθενής, προλαμβάνοντας με αυτόν τον τρόπο ακούσια ιατρικά λάθη. Φανταστείτε το ίδιο ρομπότ, με προσαρμοσμένα συστήματα ΤΝ, να καθοδηγεί τον χειρουργό πώς θα αντιμετωπίσει έναν καταγματικό ασθενή. Θα κάνει ψηφιακή απεικόνιση της προεγχειρητικής εικόνας των οστικών τεμαχίων, θα επισημαίνει τυχόν εμπλοκή μαλακών μορίων στην καταγματική περιοχή, θα υποδεικνύει την καταλληλότερη προσπέλαση που θα πρέπει να ακολουθήσει ο χειρουργός, τον τρόπο ανάταξης των οπτικών τεμαχίων. Θα επισημαίνει τον κατάλληλο τρόπο οστεοσύνθεσης, αν θα πρέπει για παράδειγμα να τεθεί ενδομυελικός ήλος ή να γίνει ανάταξη με πλάκα και βίδες· και αν επιλεγεί το τελευταίο, το ρομπότ με ενσωματωμένη ΤΝ θα μας ενημερώνει για το είδος και το μέγεθος της πλάκας οστεοσύνθεσης και των βιδών που θα πρέπει να χρησιμοποιήσει κάθε φορά ο χειρουργός. Τέλος, αφού επεξεργαστεί το ατομικό αναμνηστικό του ασθενούς, καθώς και τις τελευταίες εργαστηριακές εξετάσεις του, θα μπορεί να προβλέπει τη μετεγχειρητική πορεία του και να προειδοποιεί έγκαιρα για τον κίνδυνο μετεγχειρητικών λοιμώξεων. Στο μέλλον, οι χειρουργικές επεμβάσεις θα μοιάζουν για τον χειρουργό σαν τη συναρμολόγηση επίπλων από την ΙΚΕΑ, όπου όλα εκτελούνται βάση προκαθορισμένων οδηγιών. Αυτά όλα μπορεί να φαντάζουν επιστημονική φαντασία αλλά δεν αφορούν ένα αρκετά μακρινό μέλλον!

Οι εταιρείες κολοσσοί στο χώρο των ορθοπεδικών υλικών, όπως η Straiker, έχουν αρχίσει να αναπτύσσουν τέτοια νέας γενιάς ρομπότ με προσαρμοσμένα συστήματα ΤΝ. Εδώ βέβαια εγείρεται ένα νομικό ζήτημα. Μπορούν αυτές οι εξατομικευμένες οδηγίες που θα παραγάγει το ρομπότ με ΤΝ να σταθούν ως νομικά επιχειρήματα σε δίκες που αφορούν ιατρικά λάθη κατά τις επεμβάσεις; Αυτά είναι εύλογα ερωτήματα που μόνο του μέλλοντος οι μέρες μπορούν να μας απαντήσουν.

Εν κατακλείδι

Το μέλλον αποκαλύπτεται μπροστά μας σιγά σιγά κάθε φορά. Η στατιστική, οι αλγόριθμοι, τα ενεστώτα δεδομένα, τα μέσα του παρόντος και οι δυνατότητες του μέλλοντος μας βοηθούν κάθε φορά να δούμε μέσα από μια κλειδαρότρυπα το σχήμα των πραγμάτων που θα έρθουν. Όπως έχουμε δει, στον τομέα της υγείας δεν υπάρχει το μεγάλο φόβητρο που φέρνει η εξάπλωση της ΤΝ, αυτό της απώλειας της ανθρώπινης εργασίας. Τα συστήματα υγείας διεθνώς θα συνεχίσουν να λειτουργούν με τις ανθρώπινες γνώσεις και το μόχθο των ιατρών και των νοσηλευτών.

Συνοψίζοντας, ο ρόλος της ΤΝ στον τομέα της υγείας θα είναι αρκούντως βοηθητικός. Θα συμβάλλει στην εξοικονόμηση πόρων, στην απλοποίηση διαγνωστικών διαδικασιών και, ώς έναν μεγάλο βαθμό, θα κάνει ασφαλέστερες σύνθετες ιατρικές πράξεις όπως οι χειρουργικές επεμβάσεις.

Οι μεγάλες αλλαγές εμφανίζονται και εγκαθίστανται σταδιακά στις ζωές μας.

Βιβλιογραφία

·      Dixon, P. (2024). How AI will change your life: A futurist’s guide to a super-smart world. Profile Books.

·      Business Daily. (2019, 1 Οκτωβρίου). Συνεχίζεται η «αιμορραγία» του ελληνικού πληθυσμού. https://www.businessdaily.gr/koinonia/1770_synehizetai-i-aimorragia-toy-ellinikoy-plithysmoy⁠

·      Healthmag. (2024, 27 Ιουνίου). ΕΛΣΤΑΤ: Έλλειψη ιατρικού προσωπικού στα Κέντρα Υγείας. https://healthmag.gr/elstat-elleipsi-iatrikou-prosopikou-sta-kentra-ygeias

·      Reddit. (2025). Greece set for rapid population aging as 34% will be over 65 by 2060. r/europe. https://www.reddit.com/r/europe/comments/1p1xvcx/greece_set_for_rapid_population_aging_as_34_will⁠

·      Ινστιτούτο Μελέτης Ουρολογικών Παθήσεων. (χ.χ.). Κλειστά Ενοποιημένα Νοσήλια (ΚΕΝ).

https://www.imop.gr/urotools-KEN?utm_source

·      Υπουργείο Υγείας. (2012). Κλειστά Ενοποιημένα Νοσήλια (ΚΕΝ) 2012–2017. https://www.moh.gov.gr/articles/health/domes-kai-draseis-gia-thn-ygeia/kwdikopoihseis/kleista-enopoihmena-noshlia/5483-fek-kleista-enopoihmena-noshlia-2012-2017

·      Panagiotopoulos, P., Maniadakis, N., Papatheodoridis, G., & Pektasidis, D. (2020). An evaluation of diagnosis-related group (DRG) implementation focused on cancer DRGs in Greek public hospitals. PharmacoEconomics - Open, 4, 61-69.  https://doi.org/10.1007/s41669-019-0146-z

Η ραγδαία τεχνολογική εξέλιξη των τελευταίων δεκαετιών έχει συμπαρασύρει την επιτάχυνση τής ονοματοθεσίας συναφών ιστορικών εποχών. Από το 1970 λέγεται πως ξεκίνησε η 3η Βιομηχανική Επανάσταση, η ψηφιακή, ενώ από τις αρχές τής δεκαετίας τού 2010 η τρέχουσα, 4η Βιομηχανική Επανάσταση, με χαρακτηριστικά την Τεχνητή Νοημοσύνη (ΤΝ), τη Ρομποτική, το «Internet of Things» (IoT), την τρισδιάστατη εκτύπωση (3D), τη Βιοτεχνολογία και τη Γενετική Μηχανική, τα Μεγάλα Δεδομένα (Big Data) και τη Μηχανική Μάθηση (Machine Learning).^[1] Παράλληλα, μετά το 2000, γίνεται λόγος για το Web 2.0 (το διαδίκτυο δεύτερης γενιάς), με χαρακτηριστικές εφαρμογές την ελεύθερη εγκυκλοπαίδεια Wikipedia και τις πλατφόρμες Facebook, YouTube, και Twitter (πλέον «X»). Τέλος, μάλλον πρόωρα, γίνεται επιπλέον  λόγος για το Web 3.0, το υποτιθέμενο ανοιχτό και αποκεντρωμένο διαδίκτυο, με έμφαση στο «σεβασμό» και με βάση τεχνολογίες όπως το blockchain^[2] και η ΤΝ. Καθώς τα όρια μεταξύ του 2.0 και τού 3.0, είναι, τόσο ποιοτικά όσο και ποσοτικά, ασαφή, έχει προταθεί ο όρος Web 2.5.^[3] Ο συγκεκριμένος όρος επιτρέπει να δούμε τα υπάρχοντα χαρακτηριστικά τού διαδικτύου ως μια εν εξελίξει, πλήρως δυναμική διαδικασία. Για παράδειγμα, το Facebook ήδη θεωρείται παλιομοδίτικο, οι αλγόριθμοι τού YouTube δεν βρίσκονται στην αιχμή τής τεχνολογίας, όμως αμφότερες οι πλατφόρμες εξακολουθούν να διατηρούν σημαντική θέση στον κυβερνοχώρο, ενώ η τεχνολογία blockchain και τα Μεγάλα Γλωσσικά Μοντέλα (Large Language Models) αποτελούν την επιτομή τής εποχικής τάσης, τόσο σε δημοτικότητα, όσο και σε επενδύσεις — όχι δίχως μια σημαντική δόση υπερβολής (hype) ως προς τις προσδοκίες.^[4]  

Ψευδολογία, προπαγάνδα και δολοφονία χαρακτήρα: Η ανάρτηση Τραμπ κατά του Πάπα Λέοντα ΙΔ΄

Στο τελευταίο τεύχος του Books Journal που κυκλοφορεί δημοσιεύεται συνέντευξη που παραχώρησε o senior  editor του σπουδαίου ιστορικού περιοδικού The Atlantic, David Frum. Σε αυτήν αναφέρεται, μεταξύ άλλων,  στην παραπληροφόρηση, την προπαγάνδα και τους τρόπους με τους οποίους ο αναγνώστης και οι θεατής μπορούν να διακρίνουν την ήρα από το στάρι, το ψέμα και την προπαγάνδα από την αλήθεια. Για να το πετύχουν είναι κρίσιμο να αναζητούν τις πηγές κάθε είδησης και να τις μαθαίνουν από οργανισμούς κύρους.

Διάλογος για τη βία, την αλήθεια και το όριο του διαλόγου ανάμεσα στον Ξενοφώντα Α. Μπρουντζάκη και την Τεχνητή Νοημοσύνη