Παρασκευή, 20 Οκτωβρίου 2017

Ένας γκέινταρ αλγόριθμος και τα χειρότερα επερχόμενα

Κατηγορία Γνώμες
Γράφτηκε από τον  Δημοσιεύθηκε στο Γνώμες web only
Η αποκάλυψη της σεξουαλικής ταυτότητας των προσώπων σε πολλά μέρη του κόσμου ενέχουν κινδύνους για την ελευθερία και για τη ζωή τους. Και σε σχεδόν όλο τον κόσμο μπορεί να θέτει σε κίνδυνο την καριέρα και τις κοινωνικές σχέσεις. Η αποκάλυψη της σεξουαλικής ταυτότητας των προσώπων σε πολλά μέρη του κόσμου ενέχουν κινδύνους για την ελευθερία και για τη ζωή τους. Και σε σχεδόν όλο τον κόσμο μπορεί να θέτει σε κίνδυνο την καριέρα και τις κοινωνικές σχέσεις.

Η Apple ανακοίνωσε ότι τα νέα της μοντέλα iPhone 8 και iPhone X θα ξεκλειδώνουν (και) με την τρισδιάστατη αναγνώριση του προσώπου του ιδιοκτήτη τους. Ο Michal Kosinski και ο Yilun Wang, δύο ερευνητές του πανεπιστημίου του Στάνφορντ ισχυρίζονται, ούτε λίγο ούτε πολύ, ότι ο «γκέινταρ» (από τα «γκέι» και «ραντάρ») αλγόριθμός τους μπορεί να προσδιορίσει τις σεξουαλικές προτιμήσεις κάποιου, και ειδικότερα αν είναι ομοφυλόφιλος ή όχι, αποκλειστικά από φωτογραφίες του. Η τεχνολογία καλπάζει, αλλά τα θέματα που προκύπτουν από αυτό τον καλπασμό επιβάλλουν την αναζήτηση ισορροπίας ανάμεσα στην τεχνολογική πρόοδο και στη διασφάλιση της ελευθερίας και της δημοκρατίας.

Επισκέπτεστε μια έκθεση αυτοκινήτου, χαζεύετε τα νέα μοντέλα, και επιστρέφετε στο σπίτι σας γοητευμένος από όσα είδατε. Μερικές μέρες αργότερα, βομβαρδίζεστε στα καλά καθούμενα με διαφημίσεις αυτοκίνητων στο Facebook. Ένας φίλος σας εξομολογείται ότι απέστειλε το βιογραφικό του σε μια εταιρεία για δουλειά, αλλά η αίτησή του απορρίφθηκε δίχως να προηγηθεί συνέντευξη εξαιτίας, όπως έμαθε από τρίτους, της ομοφυλοφιλίας του. Τι συμβαίνει; Τι κοινό έχουν οι δύο αυτές περιπτώσεις; Η απάντηση είναι μία και μοναδική: πίσω από αμφότερες βρίσκεται η τεχνολογία της αναγνώρισης προσώπου (ΑΠ).

Δεν είναι καινούργια τεχνολογία η ΑΠ. Εισέβαλλε, όμως, φουριόζα στην επικαιρότητα τους τελευταίους μήνες, όταν η Apple ανακοίνωσε πως τα νέα της μοντέλα iPhone 8 και iPhoneXθα ξεκλειδώνουν (και) με την τρισδιάστατη αναγνώριση του προσώπου του ιδιοκτήτη τους.

Παλιά μεν τεχνολογία, η οποία όπως βελτιώθηκε σημαντικά τα τελευταία χρόνια. Ήδη στη Ρωσία, οι χρήστες μπορούν να ανεβάζουν φωτογραφίες στον ιστότοπο FindFace προκειμένου να τις αντιστοιχίσει στο προφίλ μελών τού μέσου κοινωνικής δικτύωσης Vkontakte― η αξιοπιστία της ταυτοποίησης ενός προσώπου κυμαίνεται από 70% έως 99%. Παρομοίως στις ΗΠΑ, φωτογραφίες των μισών Αμερικανών έχουν αποθηκευτεί δίχως τη συναίνεσή τους σε βάσεις δεδομένων του FBI, η δε αξιοπιστία της ταυτοποίησης αγγίζει το 85%. Σημειωτέον, η ΑΠ είναι αποτελεσματική για τη δίωξη του εγκλήματος, δεδομένου ότι τα πρόσωπα απαθανατίζονται εξ αποστάσεως με κάμερες και εν συνεχεία ταυτοποιούνται μέσω συστημάτων ΑΠ ― το ίδιο ακριβώς γίνεται στο προαναφερθέν παράδειγμα της έκθεσης αυτοκινήτου.

Σε όλα αυτά η ΑΠ περιορίζεται στην ταύτιση δύο φωτογραφιών, όσα δε έπονται, καλά ή κακά, είναι ανθρώπινο έργο. Αλλά η εργασία των MichalKosinski και YilunWang, που έκανε ευρύτερα γνωστή ο Economistπριν από ένα μήνα, προκάλεσε δικαίως σάλο διότι η ΑΠ έχει πλέον να κάνει με την ψυχοσύνθεσή μας. Οι δύο ερευνητές του πανεπιστημίου του Στάνφορντ ισχυρίζονται, ούτε λίγο ούτε πολύ, ότι ο «γκέινταρ» (από τα «γκέι» και «ραντάρ») αλγόριθμός τους μπορεί να προσδιορίσει τις σεξουαλικές προτιμήσεις κάποιου, και ειδικότερα αν είναι ομοφυλόφιλος ή όχι, αποκλειστικά από φωτογραφίες του.[i]

Το νευρονικό τους σύστημα ―ένα πρόγραμμα υπολογιστή που εντοπίζει μοτίβα σε Μαζικά Δεδομένα (BigData)― εκπαιδεύθηκε σε 35.326 φωτογραφίες 14.776 ομοφυλόφιλων και ετεροφυλόφιλων ανδρών και γυναικών. Δεδομένου ότι οι φωτογραφίες ελήφθησαν από σάιτ σχέσεων, η σεξουαλική προτίμηση εκάστου προσδιορίστηκε από τις καταχωρισμένες πληροφορίες. Το λογισμικό αντιστοιχούσε αριθμούς στα στοιχεία του προσώπου (μήκος της μύτης, φρύδια, κ.λπ.), και τα συσχέτιζε με την ήδη γνωστή σεξουαλική του προτίμηση.

Κατόπιν, όταν του παρουσίαζαν δύο φωτογραφίες, ενός ομοφυλόφιλου και ενός ετεροφυλόφιλου, το λογισμικό εντόπιζε ποιος ήταν ο ομοφυλόφιλος και ποιος όχι. Στους άνδρες, η ακρίβεια έφθανε το 81% όταν το σύστημα ανέλυε μία φωτογραφία κάποιου, και στο 91% πέντε φωτογραφίες του. στις δε γυναίκες, τα αποτελέσματα ήταν μεν λιγότερο καλά, αλλά εξ ίσου εντυπωσιακά: 71% από μια φωτογραφία και 81% από πέντε. Σημειωτέον, ο ανθρώπινος εγκέφαλος δεν τα πάει τόσο καλά. Οι άνθρωποι έχουν χειρότερες επιδόσεις, 61% οι άνδρες και 54% οι γυναίκες.

Το άρθρο προκάλεσε αμέσως πολλές και έντονες αντιδράσεις, και αναθέρμανε τις διαμάχες σχετικά με τις βιολογικές ρίζες του σεξουαλικού προσανατολισμού, και γενικότερα τα ηθικά ζητήματα που απορρέουν από τη χρήση της τεχνολογίας της ΑΠ. Δύο από τις σημαντικότερες ενώσεις ΛΟΑΤ των ΗΠΑ κατήγγειλαν τη μελέτη ως «επικίνδυνη και προβληματική... σκουπιδοεπιστήμη», βασισμένη σε χονδροειδείς και ανακριβείς υποθέσεις σχετικά με τη σεξουαλικότητα, που «απειλεί εξίσου την ασφάλεια και την ιδιωτικότητα των ΛΟΑΤ και μη-ΛΟΑΤ ατόμων». Ορισμένοι μίλησαν για «ρατσισμό με αλγορίθμους», και άλλοι κατηγόρησαν τους ερευνητές ότι αντικατέστησαν με νευρονικά δίκτυα τα παχύμετρα του 19ου αιώνα, που μετρούσαν τις κλειτορίδες λεσβιών και τους γοφούς ομοφυλόφιλων ανδρών.

Όντως, το πρώτο που σκέπτεται κανείς είναι ότι ο «γκέινταρ» (από τα «γκέι» και «ραντάρ») αλγόριθμός τους αποτελεί τη σύγχρονη εκδοχή της παμπάλαιας και δημοφιλέστατης πεποίθησης ότι τα φυσιογνωμικά χαρακτηριστικά αντανακλούν τον χαρακτήρα ― ότι διαθέτουμε ένα είδος «ραντάρ», μια «έκτη αίσθηση» που μας επιτρέπει να διεισδύουμε από την εξωτερική εμφάνιση στα ενδόμυχα του άλλου. Αρχής γενομένης με τη δημοσίευση των δοκιμίων του Ελβετού ποιητή Johann Kaspar Lavater, αυτή η «έκτη αίσθηση» επενδύθηκε με επιστημονικό λούστρο τον 18ο και τον 19ο αιώνα. Οι φυσιογνωμιστές πήραν τo επάνω τους, τόσο ώστε λίγο έλειψε ο Δαρβίνος να μην είχε κάνει το ιστορικό του ταξίδι λόγω της μύτης του, διότι ο πλοίαρχος του Beagle, Ρόμπερτ Φιτζρόι, πίστευε πως έδειχνε έλλειψη ενέργειας και αποφασιστικότητας. ο δε θεμελιωτής της εγκληματολογικής ανθρωπολογίας Τσεζάρε Λομπρόζο δεν δίστασε να γράψει ότι οι εμπρηστές έχουν απαλό δέρμα και σχεδόν παιδικό πρόσωπο.

Η Φυσιογνωμική απορρίπτεται σήμερα καθολικά ως μείγμα ρατσισμού και προκαταλήψεων. Οι Kosinski και Wangκάνουν το ίδιο, σπεύδοντας ωστόσο να προσθέσουν ότι οι φυσιογνωμικές διαφορές συμφωνούν με την «ευρέως αποδεκτή προγενετική ορμονική θεωρία του σεξουαλικού προσανατολισμού», τουτέστιν οι ομοφυλόφιλοι εμφανίζουν μη τυπική προς το φύλο τους μορφολογία του προσώπου. Το «ευρέως αποδεκτή» στην καλύτερη των περιπτώσεων αμφισβητείται, διότι «οι περισσότεροι σεξολόγοι συμφωνούν ότι δεν υπάρχει μόνο μία αιτία που προκαλεί τον σεξουαλικό προσανατολισμό» (WilliamCox).[ii] Επιπλέον, ισχυρίζονται, ότι η μελέτη τους είναι «επιστημονική», διότι χρησιμοποιούν αποδεκτές επιστημονικές μεθόδους και τεχνικές. Ουδείς αμφισβήτησε τον επιστημονικό χαρακτήρα των μεθόδων τους. Παρά ταύτα, το επιχείρημα είναι ασθενές με την έννοια ότι οι μηχανές μαθαίνουν ό,τι μαθαίνουν οι άνθρωποι: τις διδάσκουμε τα επικρατούντα πολιτισμικά πρότυπα, και συνεπώς η ουδετερότητά τους είναι μύθος.[iii]

Ο WilliamCoxτου πανεπιστημίου του Wisconsin-Madisonεπισημαίνει στους ΝewΥorkΤimes  επίσης τις εσφαλμένες θετικές (falsepositives).[iv] Έστω ότι 5% ενός πληθυσμού είναι ομοφυλόφιλοι, ή 50 στα 1.000 άτομα. Ένα σύστημα ακρίβειας 91% θα ταυτοποιούσε εσφαλμένα το 9% των ετεροφυλόφιλων ως ομοφυλόφιλους, εν προκειμένω 85 (= 950 x9%) άτομα. Παρομοίως, θα ταυτοποιούσε σωστά το 91% των ομοφυλόφιλων, ήτοι 45 (= 50 x91%). Συνεπώς, σε 130 (= 85+45) άτομα ταυτοποιημένα ως ομοφυλόφιλοι, τα 85 θα ήταν ετεροφυλόφιλοι, δηλαδή περίπου τα δύο τρίτα από τους ταυτοποιημένους ως ομοφυλόφιλοι θα ταξινομούνταν εσφαλμένα.

Η κριτική εστιάστηκε, πάντως, στη δυνητική χρήση αυτής της τεχνολογίας και τους κινδύνους που εγκυμονεί σε χώρες με μηδαμινό σεβασμό στα ατομικά δικαιώματα. Η ομοφυλοφιλία διώκεται σε 72 χώρες, στις οκτώ από τις οποίες τιμωρείται με την ποινή του θανάτου, με πιο ακραία μάλλον περίπτωση την Τσετσενία όπου ομοφυλόφιλοι συγκεντρώνονται σε στρατόπεδα συγκέντρωσης, βασανίζονται και δολοφονούνται με φρικτό τρόπο.

Τα πράγματα, όμως, μπορούν να χειροτερέψουν ακόμη περισσότερο. Ορισμένοι προβλέπουν ότι σύντομα παρόμοια συστήματα ΑΠ θα μπορούν να εντοπίζουν με υψηλή αξιοπιστία την εγκληματική προδιάθεση ―το είδαμε στο MinorityReportτου Στήβεν Σπίλμπεργκ―, τις πολιτικές προτιμήσεις και το IQ των ατόμων από φωτογραφίες τους. Θα πρέπει μάλλον να μας πιάνει ρίγος στη σκέψη ότι η κοινωνική ιεραρχία θα καθορίζεται ουσιαστικά από τα γονίδια μας, λόγου χάριν, ποιοι θα είναι κατάλληλοι για ανώτερες σπουδές ― δυστοπία την οποία περιέγραψε ο επινοητής του όρου «αξιοκρατία» Μάικλ Γιανγκ ήδη από το 1958.

Δεν πρόκειται για επιστημονική φαντασία. H νεοφυής ισραηλινή εταιρεία Faception εμπορεύεται συστήματα ΑΠ τα οποία ισχυρίζεται ότι εντοπίζουν τρομοκράτες, πρόσωπα υψηλού IQ, νικητές σε τουρνουά πόκερ, κ.ά. Παρομοίως, η κινεζική εταιρεία CloudWalk ανέπτυξε λογισμικό ΑΠ, το οποίο χρησιμοποιείται από την κυβέρνηση προκειμένου να προβλέψει πιθανούς παραβάτες του νόμου.

Φαντάζομαι ότι οι προοδευτικοί πολίτες θα ξεσηκωθούν όταν ακούσουν ότι προηγούμενες μελέτες έδειξαν ότι οι συντηρητικοί είναι πιο ελκυστικοί από αυτούς... Τέτοια, όμως, και άλλα παρεμφερή κριτήρια θα χρησιμοποιούνται από ένα σύστημα για τον προσδιορισμό της πολιτικής τοποθέτησής μας. Η εταιρεία Cambridge Analytica χρησιμοποίησε παρόμοιες τεχνικές ανάλυσης των δεδομένων προκειμένου να προσδιορίσει τους πιθανούς ψηφοφόρους του Ντόναλντ Τραμπ στις αμερικανικές προεδρικές εκλογές. Πολλοί, μάλιστα, της πιστώνουν σημαντικό μέρος της επιτυχίας του Τραμπ.[v]

Εν πάση περιπτώσει, όταν επισημαίνονται τέτοιου μεγέθους κοινωνικές επιπτώσεις, συνήθως ακούγεται ότι δεν μπορούμε να σταματήσουμε την πρόοδο, ότι δεν θα γίνουμε λουδίτες στον 21ο αιώνα. Ασφαλώς, το επιχείρημα αυτό δεν στερείται βάσεως. Ωστόσο, θα πρέπει να φοβόμαστε πολύ περισσότερο τη δημιουργία μιας αλά Όργουελ ολοκληρωτικής κοινωνίας παρά τον λουδισμό, εκλεπτυσμένο ή μη. Από μιαν άποψη, δεν έχει μεγάλη σημασία η αξιοπιστία ή μη των συστημάτων ΑΠ που ανιχνεύουν τις συμπεριφορές μας. Αν υπάρχουν άνθρωποι που τα θεωρούν επαρκώς αξιόπιστα, θα τα χρησιμοποιήσουν. Με τούτη την έννοια, πρέπει να γίνουν κατανοητά τα όρια τέτοιων συστημάτων, να προβλεφθούν οι ενδεχόμενοι κίνδυνοι από τη χρήση τους, και να αδρανοποιηθούν. Δεν χρειάζεται εξαιρετική ευφυία για να καταλάβουμε ότι οι κοινωνίες θα πρέπει να επιδιώξουν να βρουν μιαν ισορροπία ανάμεσα στην τεχνολογική πρόοδο και στη διασφάλιση της ελευθερίας και της δημοκρατίας. Πριν χαθεί ο έλεγχος.[vi]



[i] Michal Kosinski & Yilun Wang (2017), “Deep Neural Networks are More Accurate than Humans at Detecting Sexual Orientation from Facial Images” (https://osf.io/zn79k/). Η δημοσίευσή της στο JournalofPersonalityandSocialPsychologyεγκρίθηκε, αλλά φαίνεται πως λόγω των αντιδράσεων επανεξετάζεται. Βλ., επίσης, ταεξής:https://goo.gl/X7SCqh (The Economist), https://goo.gl/WXa1FL (Psychology Today), https://goo.gl/zHsyVa (Science), https://goo.gl/wuHA3G (The New York Times), https://goo.gl/Thw9Nu (Forbes), https://goo.gl/6Le75i (The Verge), https://goo.gl/gsgNAo (The Guardian).

[ii]Σχετικά με τα ζητήματα σεξουαλικού προσανατολισμού, βλ. J. Michael Bailey et al. (2016), “Sexual Orientation, Controversy, and Science”, Psychological Science in the Public Interest, 17(2), 45–101. Ενδιαφέρον επίσης είναι το σχετικό με τα στερεότυπα άρθρο των WilliamT. L. Coxetal. (2016) (“Inferences About Sexual Orientation: The Roles of Stereotypes, Faces, and The Gaydar Myth”, The Journal of Sex Research, 53:2, 157-171).

[iii] Cathy O'Neil (2016), Weapons of Math Destruction, Penguin.

[iv]Στην Ιατρική, λόγου χάριν, ένα εσφαλμένως θετικό αποτέλεσμα ενός τεστ δείχνει ότι κάποιο πρόσωπο έχει μια ασθένεια, ενώ στην πραγματικότητα δεν την έχει. αντιστοίχως, ένα εσφαλμένως αρνητικό αποτέλεσμα ενός τεστ δείχνει ότι κάποιο πρόσωπο δεν έχει μια ασθένεια, ενώ στην πραγματικότητα την έχει. Οι εσφαλμένες θετικές είναι γενικότερο ζήτημα που αφορά όλα τα μοντέλα που επιδιώκουν να εντοπίσουν μειοψηφικές ομάδες.

[v]Προηγούμενες εργασίες του καθηγητή Kosinskiμε αντικείμενο τα ψυχομετρικά προφίλ χρηστών του Facebookβάσει των λάικς ενσωματώθηκαν στον αλγόριθμο «μαγικής σάλτσας», τον οποίο χρησιμοποίησε η εταιρεία Cambridge Analytica υποστηρικτικά για το Brexit και την εκλογή Ντ. Τραμπ.

[vi]Βλ. το «Predictive Policing Today: A Shared Statement of Civil Rights Concerns» (https://goo.gl/PX9T5R).

Κ.Π. Αναγνωστόπουλος

Καθηγητής ΔΠΘ. Τελευταία βιβλία του: Το αόρατο και το ορατό χέρι (2011), Ανάμεσα στο ρομάντζο της επανάστασης και το στερέωμα της αντίδρασης – Δοκίμια (2016).

Προσθηκη σχολιου

Τα πεδία με * είναι υποχρεωτικά