Πριν από μερικούς μήνες, Ρώσος φωτογράφος έκανε ένα απλό πείραμα. Τράβηξε φωτογραφίες αγνώστων που περνούσαν μπροστά του στο σταθμό της Αγίας Πετρούπολης και στη συνέχεια χρησιμοποίησε ένα λογισμικό πρόγραμμα αναγνώρισης προσώπων για να μάθει τα ονόματά τους.
Η σειρά φωτογραφιών την οποία ο Γιεγκόρ Τσβέτκοφ ονόμασε “Το πρόσωπό σου αποτελεί δεδομένο” αποδεικνύει ότι η περίφημη “ανωνυμία του πλήθους” πολύ σύντομα θα ανήκει στο παρελθόν. Η φθηνή εφαρμογή για κινητά τηλέφωνα που χρησιμοποίησε ο Τσβέτκοφ ονομάζεται FindFace και διατρέχει μέσα σε δευτερόλεπτα τα μέσα κοινωνικής δικτύωσης αναζητώντας φωτογραφίες που να ταιριάζουν στην πρωτότυπη.
Κάποιοι άλλοι εργάζονται πολύ πιο μεθοδικά και έχουν στα χέρια τους τεχνολογικά μέσα που ξεπερνούν κατά πολύ τις δυνατότητες του ρωσικού προγράμματος. Έρευνα που δόθηκε στη δημοσιότητα την προηγούμενη εβδομάδα αποδεικνύει ότι περίπου οι μισοί Αμερικανοί ενήλικες είναι σήμερα “φακελωμένοι” με αυτό τον τρόπο.
Η έρευνα του Κέντρου για την Ιδιωτική Ζωή και την Τεχνολογία της Νομικής Σχολής του Τζόρτζταουν καταλήγει στο εξαιρετικά ανησυχητικό συμπέρασμα ότι οι φωτογραφίες 117 εκατομμυρίων ατόμων χρησιμοποιούνται σήμερα σε μια “διαρκή αναγνώριση στοιχείων” από αστυνομικές αρχές που εκμεταλλεύονται τα νομικά κενά για να δημιουργήσουν μια τεράστια βάση φωτογραφικών δεδομένων.
Αστυνομικές δυνάμεις αρκετών αμερικανικών πολιτειών χρησιμοποιούν προγράμματα αναγνώρισης που τους επιτρέπουν να ανακαλύπτουν σε πραγματικό χρόνο τα στοιχεία των περαστικών η εικόνα των οποίων “συλλαμβάνεται” από κάμερες ασφαλείας. Η αστυνομία του Μέριλαντ έχει μάλιστα χρησιμοποιήσει το πρόγραμμα για να αναγνωρίσει πρόσωπα από φωτογραφίες διαδηλώσεων του κινήματος Black Lives Matter για τα δικαιώματα των μαύρων και να διευκρινίσει, υποτίθεται, αν εκκρεμούν εντάλματα για κάποιους διαδηλωτές, όπως καταγγέλλει η Αμερικανική Ένωση για τα Πολιτικά Δικαιώματα (ACLU).
Για τις αστυνομικές αρχές πρόκειται απλώς για ένα τεχνολογικό βήμα, το τελευταίο στάδιο της εξέλιξης των βιομετρικών δεδομένων που ξεκίνησε με τα δακτυλικά αποτυπώματα και συνεχίστηκε με τα γενετικά δεδομένα. Υπάρχει όμως μια βασική διαφορά. Η συλλογή δακτυλικών αποτυπωμάτων και γενετικού υλικού προϋποθέτουν κάποιο είδος συγκατάθεσης. Αντιθέτως, οι φωτογραφίες μπορούν να ληφθούν από κάμερες ασφαλείας ή ακόμη και κινητά τηλέφωνα χωρίς τα υποκείμενα της παρακολούθησης να έχουν καν επίγνωση. Βρίσκεσαι φακελωμένος χωρίς να ακουμπήσεις τίποτε...
“H αναγνώριση προσώπων, όταν χρησιμοποιείται με τόσο επιθετικό τρόπο μπορεί να αλλάξει τη φύση των δημόσιων χώρων” σχολιάζει ο Αλβάρο Μπεντόβα, διευθυντής του Κέντρου για την Ιδιωτική ζωή και την Τεχνολογία. “Αλλοιώνουν τη βασική ελευθερία τού να ζούμε χωρίς οι άλλοι να μας αναγνωρίζουν από μακριά" προσθέτει.
Και δεν είναι μόνο αυτό. Μέχρι σήμερα οι αρχές συνέλεγαν βιομετρικά στοιχεία μόνο σε υποθέσεις σοβαρών εγκλημάτων. Η έκθεση όμως καταλήγει στο συμπέρασμα ότι οι βάσεις δεδομένων της μονάδας αναγνώρισης προσώπων του FBI αποτελούνται στο μεγαλύτερο μέρος τους από στοιχεία που δεν σχετίζονται με τέτοιες υποθέσεις. Η υπηρεσία ενημερώνει απλώς τις βάσεις δεδομένων με ό,τι φωτογραφικό υλικό διαθέτει, από διπλώματα οδήγησης και διαβατήρια μέχρι αιτήσεις για χορήγηση ασύλου.
Και κάπου εδώ ο Οργουελ έρχεται να συναντήσει τον Κάφκα, καθώς η έρευνα υποστηρίζει ότι τα συστήματα αναγνώρισης προσώπων, πέρα από όλους τους άλλους κινδύνους που εγκυμονούν, συχνά πέφτουν έξω μετατρέποντας αθώους σε καταζητούμενους. Τα ίδια τα στατιστικά στοιχεία του FBI αποδεικνύουν ότι μια στις επτά έρευνες με βάση των αναγνώριση προσώπων αποτυγχάνει παράγοντας μόνο “πιθανές ταυτοποιήσεις”.
Το σύστημα, επομένως, δεν είναι αλάνθαστο. Και το χειρότερο είναι ότι δεν είναι καν ουδέτερο. Η έρευνα υπογραμμίζει ότι οι αλγόριθμοι που χρησιμοποιούν τα προγράμματα αναγνώρισης προσώπων είναι 10% λιγότερο ακριβείς για τους Αφροαμερικανούς, κάτι που πιθανότατα οφείλεται στην δυσανάλογη εκπροσώπηση μαύρων και λευκών στις βάσεις δεδομένων.
Πιο ανησυχητικό από όλα είναι όμως ότι όλα αυτά λειτουργούν ουσιαστικά ανεξέλεγκτα καθώς, όπως επισημαίνεται στην έκθεση, “δεν υπάρχει νομοθεσία που να ρυθμίζει την χρήση τεχνολογίας από την αστυνομία”. “Είναι όπως η Άγρια Δύση” σημειώνουν οι ερευνητές. Με τα εξάσφαιρα και τις αγχόνες να έχουν δώσει τη θέση τους σε κάμερες ασφαλείας και αλγόριθμους.
