Αντιστεκόμενοι στην επέλαση της τεχνολογίας αναγνώρισης προσώπου

Μετάφραση: Ενωμένη Ρωμηοσύνη

Γράφει η Antoaneta Roussi

Στην πλατεία Belgrade’s Republic θολωτές κάμερες αναρτώνται εμφανώς σε σταθερά φωτιστικά, σαρώνοντας αθόρυβα τους ανθρώπους που περπατούν από τη μια πλευρά της κεντρικής πλατείας στην άλλη. Είναι μια από τις 800 περιοχές της πόλης όπου η κυβέρνηση της Σερβίας ανακοίνωσε το περασμένο έτος ότι θα παρακολουθούσε χρησιμοποιώντας κάμερες εξοπλισμένες με λογισμικό αναγνώρισης προσώπου από την εταιρία ηλεκτρονικών ειδών Huawei στην Σεντσέν της Κίνας.

Η Σέρβικη κυβέρνηση δεν ρώτησε τους κατοίκους του Βελιγραδίου αν επιθυμούσαν τις κάμερες, δήλωσε ο Danilo Krivokapić, ο οποίος διευθύνει έναν οργανισμό ανθρωπίνων δικαιωμάτων, που ονομάζεται ίδρυμα SHARE και εδρεύει στην παλιά πόλη του Βελιγραδίου. Φέτος, παρουσίασε μια εκστρατεία με όνομα Hiljade Kamera – χιλιάδες κάμερες – προβληματισμένος για την νομιμότητα και την αποτελεσματικότητα του εγχειρήματος και λογομαχώντας κατά της απομακρυσμένης και αυτοματοποιημένης παρακολούθησης.

Το Βελιγράδι βιώνει μια αλλαγή η οποία έχει ήδη λάβει χώρα και αλλού. Η Τεχνολογία Αναγνώρισης Προσώπου (FRT) χρησιμοποιείται εδώ και καιρό στον έλεγχο των αεροδρομίων και στα κινητά τηλέφωνα. Αλλά τώρα διεισδύει περαιτέρω μέσα σε ιδιωτικούς και δημόσιους χώρους. Από το Κίτο (Πρωτεύουσα του Ισημερινού) μέχρι το Ναϊρόμπι (πρωτεύουσα της Κένυας), από τη Μόσχα μέχρι το Ντιτρόιτ χιλιάδες κοινότητες έχουν εγκαταστήσει κάμερες εξοπλισμένες με λογισμικό αναγνώρισης προσώπου,     οι οποίες μερικές φορές υπόσχονται να παρέχουν δεδομένα σε κέντρα διοίκησης ως μέρος της «ασφάλειας της πόλεως» ή της «έξυπνης πόλης» παρέχοντας λύσεις για την εγκληματικότητα. Η πανδημία του COVID-19 ίσως να επιταχύνει την εξάπλωσή τους.

Η τάση αυτή είναι περισσότερο αναπτυγμένη στην Κίνα, όπου περισσότερες από 100 πόλεις το προηγούμενο έτος, προμηθεύτηκαν συστήματα παρακολούθησης με αναγνώριση προσώπου, σύμφωνα με την Jessica Batke, η οποία έχει αναλύσει χιλιάδες προηγούμενες προειδοποιήσεις της κυβέρνησης για το ChinaFile, ένα περιοδικό που εκδίδεται από το κέντρο της Νέας Υόρκης για τις σχέσεις μεταξύ των Ηνωμένων Πολιτειών και της Κίνας.

Αλλά η αντίσταση αυξάνεται σε πολλές χώρες. Οι ερευνητές, καθώς επίσης και οι υποστηρικτές της ατομικής ελευθερίας και οι έννομοι σπουδαστές βρίσκονται ανάμεσα σε αυτούς που έχουν συγχυστεί με την επιτάχυνση της τεχνολογίας αναγνώρισης προσώπου. Αυτοί εντοπίζουν τη χρήση της αναγνώρισης προσώπου, εκθέτοντας τις απειλές της και διαδηλώνουν για προστατευτικά μέτρα ή για πλήρεις απαγορεύσεις. Ένα τμήμα της εργασίας ενέχει την έκθεση της τεχνολογίας για υπανάπτυξη: ακόμα έχει ανακρίβειες και φυλετική μεροληψία. Οι αντιτιθέμενοι επίσης ανησυχούν πως η αστυνομία και οι αρχές που ευθύνονται για την επιβολή του νόμου χρησιμοποιούν την τεχνολογία FRT με προκατειλημμένο τρόπο και ότι οι κυβερνήσεις μπορούν να τη μεταχειριστούν προκειμένου να απωθήσουν τους αντιπάλους, τους διαδηλωτές που βρίσκονται στο στόχαστρο ή διαφορετικά να περιορίσουν τη ελευθερία, όπως συνέβη με την παρακολούθηση του γεωγραφικού διαμερίσματος στο Σιντσιάνγκ της Κίνας.

Νόμιμες διαμάχες έχουν εμφανιστεί στην Ευρώπη και σε περιοχές των Ηνωμένων Πολιτειών, όπου οι επικριτές της τεχνολογίας έχουν καταθέσει αγωγές προκειμένου να εμποδίσουν τη χρήση της τεχνολογίας FRT στην αστυνόμευση. Πολλές πόλεις των Ηνωμένων Πολιτειών έχουν απαγορεύσει στις δημόσιες υπηρεσίες να χρησιμοποιούν την αναγνώριση προσώπου – τουλάχιστον προσωρινά – ή υπερψήφισαν νομοθεσία με την οποία απαιτούν περισσότερη διαφάνεια σχετικά με τον τρόπο που χρησιμοποιεί η αστυνομία τα εργαλεία παρακολούθησης. Η Ευρώπη και οι Ηνωμένες Πολιτείες σκέφτονται τώρα προτάσεις για να ελέγξουν την τεχνολογία αυτή, ώστε μέσα στα επόμενα χρόνια να μπορούν να ορίσουν ότι η χρήση της τεχνολογίας FRT είναι αναγκαστική ή κατοχυρωμένη. «Αυτό που ενώνει το παρόν κύμα της απώθησης είναι η επιμονή ότι αυτές οι τεχνολογίες είναι αναπόφευκτες», έγραψε η Amba Kak φοιτήτρια στο ίδρυμα τεχνητής νοημοσύνης AI Now του Πανεπιστημίου της Νέας Υόρκης, σε μια έρευνα που έκανε το Σεπτέμβριο σχετικά με τον έλεγχο της βιομετρίας.

Η παρακολούθηση προβληματίζει

Μέχρι το 2019, 64 χώρες χρησιμοποίησαν την τεχνολογία FRT για παρακολούθηση, αναφέρει ο Steven Feldstein, ένας πολιτικός ερευνητής στο ίδρυμα χορηγιών για διεθνής Ειρήνη στο Κάρνεγκι στην Ουάσιγκτον, ο οποίος έχει αναλύσει την παγκόσμια εξάπλωση της τεχνολογίας. Ο Feldstein ανακάλυψε ότι πόλεις σε 56 χώρες υιοθέτησαν πλατφόρμες «έξυπνης πόλης». Πολλές από αυτές προμηθεύτηκαν τις κάμερες από κινέζικες εταιρίες, συχνά ενθαρρύνονται προφανώς από τα επιδοτούμενα δάνεια των Κινεζικών τραπεζών. (O Feldstein σημείωσε πως Αμερικανικές, Ευρωπαϊκές, Ιαπωνικές και Ρωσικές εταιρίες πωλούν επίσης κάμερες και λογισμικό.)

Το εγχείρημα του Βελιγραδίου αποτυπώνει προβληματισμούς τους οποίους πολλοί έχουν σχετικά με την αύξηση των συστημάτων των «έξυπνων πόλεων»: δεν υπάρχει καμία ένδειξη ότι η χρήση των συστημάτων αυτών μειώνει την εγκληματικότητα περισσότερο από ότι οι συνηθισμένες βιντεοκάμερες και ότι οι πολίτες γνωρίζουν πολύ λίγα σχετικά με τα συστήματα τα οποία φαινομενικά χρησιμοποιούνται προς όφελός τους. Ο Krivokapić αναφέρει ότι ανησυχεί καθώς η τεχνολογία μοιάζει να είναι περισσότερο κατάλληλη για να προσφέρει ένα εργαλείο στην ολοένα και περισσότερο αυταρχική κυβέρνηση προκειμένου να ελέγξει την πολιτική εναντίωση.

«Έχοντας τριγύρω κάμερες σε μια νέα δημοκρατία όπως είναι η Σερβία, αυτό μπορεί να είναι προβληματικό εξαιτίας της δυνατότητας για πολιτική κατάχρηση», αναφέρει ο Ljubiša Bojić, συντονιστής στο Εργαστήριο Ψηφιακής Κοινωνιομετρίας στο Πανεπιστήμιο του Βελιγραδίου, το οποίο μελετά τις συνέπειες της Τεχνητής Νοημοσύνης (AI) σε μια κοινωνία. «Αν και η κατάσταση έχει αλλάξει από την αναστάτωση της δεκαετίας του ‘90, η θεωρία ενός αστυνομοκρατούμενου κράτους και ο φόβος των υπηρεσιών πληροφοριών καθιστούν την Σερβία ένα ακατάλληλο μέρος για να εφαρμόσουν κάμερες τεχνητής νοημοσύνης».

Όταν η κυβέρνηση ανακοίνωσε το εγχείρημα, έδωσε πολύ λίγες λεπτομέρειες. Αλλά το ίδρυμα SHARE βρήκε στην ιστοσελίδα της Huawei μια δήλωση τύπου το 2018 (την οποία διέγραψε η εταιρία) όπου ανακοίνωνε δοκιμές σε υψηλής ανάλυσης κάμερες στο Βελιγράδι. Το έγγραφο ανέφερε ότι οι κάμερες έχουν βοηθήσει την Σέρβικη αστυνομία να επιλύσει πολλές και μεγάλες εγκληματικές υποθέσεις και ότι βελτίωσε την ασφάλεια σε μεγάλα αθλητικά αγωνίσματα. Φέτος, η κυβέρνηση αποκάλυψε πως το σχέδιο περιλαμβάνει την αγορά 8.000 καμερών για χρήση στα περιπολικά – ως κάμερες που προειδοποιούν αν υπάρχει ανθρώπινο σώμα – και στα κτήρια.

«Υπάρχουν πολλές ερωτήσεις που παραμένουν αναπάντητες», δήλωσε ο Krivokapić. «Για παράδειγμα, που θα αποθηκεύονται τα δεδομένα; Στην Σερβία ή στην Κίνα; Η εταιρία Huawei θα έχει πρόσβαση στα δεδομένα; Αφού  η SHARE και άλλα ιδρύματα άσκησαν πίεση για περισσότερες λεπτομέρειες, η Σερβική κυβέρνηση ανέφερε πως τα δεδομένα δε θα συλλέγονται ούτε θα φυλάσσονται από την Huawei. Αλλά ο Lee Tien, ένα ανώτερο δικηγορικό στέλεχος του ιδρύματος Ηλεκτρονικών Συνόρων στο Σαν Φρανσίσκο της Καλιφόρνιας, αναφέρει ότι ο κύριος λόγος για τον οποίο μεγάλες εταιρείες τεχνολογίας – είτε στην Κίνα είτε αλλού – εμπλέκονται προκειμένου να παρέχουν σε κυβερνήσεις την τεχνολογία για τεχνητής νοημοσύνης παρακολούθηση, είναι ότι αναμένουν να συλλέξουν έναν όγκο δεδομένων με τα οποία θα μπορούν να βελτιώσουν τους αλγόριθμούς τους.

Η Σερβία μοντελοποιεί τους νόμους της περί προστασίας των δεδομένων σύμφωνα με τη Ρύθμιση Προστασίας Γενικών Δεδομένων της Ευρωπαϊκής Ένωσης (GDPR), αλλά δεν είναι ξεκάθαρο αν τα σχέδια του υπουργείου εσωτερικών ικανοποιήσουν τους νόμους της χώρας, όπως δήλωσε τον Μάιο ο επίτροπος της Σερβίας για την προστασία των δεδομένων. (Το υπουργείο εσωτερικών αρνήθηκε να κάνει κάποια παρατήρηση σχετικά με αυτό το άρθρο και η Huawei δεν ανταποκρίθηκε στις ερωτήσεις). 

Σε γενικές γραμμές, δεν έχουν υπάρξει μελέτες που να αποδεικνύουν ότι οι «ασφαλείς» και «έξυπνες» πόλεις μειώνουν την εγκληματικότητα, αναφέρει ο Pete Fussey, ένας κοινωνιολόγος στο Πανεπιστήμιο του Έσσεξ στο Κόλτσεστερ της Αγγλίας, ο οποίος πραγματοποιεί έρευνες σχετικά με τα ανθρώπινα δικαιώματα, την παρακολούθηση και την αστυνόμευση. Ο ίδιος δήλωσε ότι ανεπίσημοι ισχυρισμοί αξιοποιούνται ως αποδεικτικά στοιχεία για τη θεμελιώδη αρχή της τεχνολογίας παρακολούθησης η οποία ακόμα είναι πολύ καινούρια. «Η ιστορία της τεχνολογίας και της εφαρμογής του νόμου καλύπτεται με παραδείγματα ύβρεων και εκκεντρικούς ισχυρισμούς», ανέφερε. «Είναι λογικά μη αμφιλεγόμενο το να αναφέρουμε ότι γενικά οι κάμερες παρακολούθησης είναι πιο αποτελεσματικές στον εντοπισμό αδικημάτων εις βάρος πραγμάτων, παρά ανθρώπων. Μόλις αρχίσεις να μαθαίνεις την αυτοματοποιημένη παρακολούθηση, γίνεται πιο δύσκολο, εν μέρει επειδή δεν είναι τόσο συνηθισμένο.» 

Πανδημική ώθηση

Τον Μάρτιο, ο Vladimir Bykovsky, ένας κάτοικος της Μόσχας ο οποίος είχε πρόσφατα επιστρέψει από την Νότια Κορέα, άφησε για λίγα λεπτά το διαμέρισμά του για πετάξει έξω τα σκουπίδια. Μισή ώρα αργότερα, η αστυνομία βρισκόταν στην πόρτα του. Οι υπάλληλοι είπαν ότι ο ίδιος είχε παραβιάσει του κανονισμούς καραντίνας για τον COVID-19 και ότι θα λάμβανε ένα πρόστιμο και την ημερομηνία της δίκης. Ο Bykovsky ρώτησε πως γνώριζαν ότι είχε φύγει. Οι υπάλληλοι του είπαν ότι το γνώριζαν εξαιτίας μιας κάμερας που βρισκόταν έξω από την πολυκατοικία του, η οποία όπως του είπαν ήταν συνδεμένη με ένα σύστημα παρακολούθησης και αναγνώρισης προσώπου το οποίο λειτουργεί σε ολόκληρη την Μόσχα από άκρη σε άκρη.

«Οι υπάλληλοι της αστυνομίας ανέφεραν ότι θα λάμβαναν μια ειδοποίηση ότι η καραντίνα παραβιάστηκε από τον Vladimir Bykovsky», δήλωσε ο Bykovsky. «Ήμουν σοκαρισμένος».

Η Ρωσική πρωτεύουσα παρουσίασε πρώτη τον Ιανουάριο ένα σύστημα βιντεοπαρακολούθησης που εκτείνεται σε όλη την πόλη, χρησιμοποιώντας λογισμικό το οποίο προμηθεύτηκε από την τεχνολογική εταιρία NtechLab η οποία εδρεύει στη Μόσχα. Ο πρώην επικεφαλής της εταιρίας, Alexey Minin, μίλησε για το διάστημα που η εταιρεία διέθετε το μεγαλύτερο σύστημα ζωντανής αναγνώρισης προσώπου παγκοσμίως. Ο συνιδρυτής της NtechLab Artem Kukharenko αναφέρει πως η εταιρεία προσφέρει το λογισμικό της και σε άλλες πόλεις, αλλά δεν θα ονομάσει τις περιοχές λόγω απόρρητων συμφωνιών. Όταν ρωτήθηκε αν η τεχνολογία αυτή ελαττώνει την εγκληματικότητα, ο Kukharenko υπέδειξε τα δελτία από τα ΜΜΕ της Μόσχας για τους άτακτους (χούλιγκανς) οι οποίοι προφυλακίστηκαν κατά το Πρωτάθλημα Παγκοσμίου Κυπέλου το 2018, όταν το σύστημα βρισκόταν σε κατάσταση δοκιμής. Άλλα δελτία αναφέρουν πως το σύστημα εντόπισε 200 ανθρώπους οι οποίοι «έσπασαν» την καραντίνα κατά τη διάρκεια των πρώτων εβδομάδων του εγκλεισμού στη Μόσχα για τον COVID-19.

 Παρόμοια με τη Ρωσία, οι κυβερνήσεις στην Κίνα, την Ινδία και τη Νότια Κορέα έχουν χρησιμοποιήσει την αναγνώριση προσώπου ώστε να βοηθήσει να εντοπίζουν τις επαφές και να επιβάλλουν την καραντίνα‧ άλλες χώρες πιθανόν να  χρησιμοποιούν επίσης την αναγνώριση προσώπου. Το Μάιο, ο διευθύνων σύμβουλος του αεροδρομίου Heathrow στο Λονδίνο δήλωσε ότι θα δοκιμαστούν θερμικοί σαρωτές με κάμερες αναγνώρισης προσώπου ώστε να αναγνωρίζουν τους δυνητικούς φορείς του ιού. Επίσης πολλές εταιρίες αναφέρουν πως έχουν ήδη προσαρμόσει τις τεχνολογίες τους προκειμένου να εντοπίζουν τους ανθρώπους που φορούν μάσκες (αν και με τις πολλές απαιτήσεις για απόδοση, δεν υπάρχει ανεξάρτητη εξακρίβωση).

Οι ερευνητές ανησυχούν ότι η χρήση των τεχνολογιών περί ζωντανής παρακολούθησης ενδέχεται να παραμείνει και μετά την πανδημία. Αυτό μπορεί να έχει τρομακτικές συνέπειες στην κοινωνική ελευθερία. Το προηγούμενο έτος, μια ομάδα που δημιουργήθηκε προκειμένου να παρέχει ηθικές συμβουλές για την αστυνόμευση ρώτησε περισσότερους από 1.000 Λονδρέζους σχετικά με τη χρήση της ζωντανής αναγνώρισης προσώπου από την αστυνομία στο Λονδίνο‧ το 38% ηλικίας από 16-24 ετών και το 28% των Ασιατών, των Αφρικανών και ανθρώπων μικτής καταγωγής που έλαβαν μέρος στη δημοσκόπηση δήλωσαν ότι θα απέφευγαν τις εκδηλώσεις που θα παρακολουθούνταν με  ζωντανή αναγνώριση προσώπου. Μερικοί άνθρωποι που παρίστανται σε ράλι ξεκινούν να φορούν μάσκες ή μεταμφιέζονται – προκειμένου να καμουφλάρονται προσπαθώντας έτσι να μπερδέψουν τα συστήματα αναγνώρισης προσώπου. Αλλά η μόνη τους «επιλογή να εξαιρεθούν» από αυτά τα συστήματα είναι να μην πηγαίνουν σε αυτά.

Όλοι βρισκόμαστε στη βάση δεδομένων

Μια άλλη ανησυχία, ειδικά στις Ηνωμένες Πολιτείες, είναι ότι οι λίστες παρακολούθησης τις οποίες χρησιμοποιεί η αστυνομία για να συγκρίνει τις φωτογραφίες μπορεί να είναι τεράστιες και μπορεί να περιλαμβάνουν ανθρώπους εν αγνοία τους. Οι ερευνητές στο Κέντρο προσωπικών δεδομένων και Τεχνολογίας στο Πανεπιστήμιο Τζόρτζταουν στην Ουάσιγκτον εκτίμησαν ότι το 2016 περίπου οι μισοί από όλους τους Αμερικανούς βρίσκονταν σε δίκτυα αναγνώρισης προσώπου σύμφωνα με τον νόμο, επειδή σε πολλές πολιτείες επιτρέπεται στην αστυνομία να αναζητήσει στις βάσεις δεδομένων το δίπλωμα οδήγησης του οδηγού.

Νωρίτερα αυτό το έτος, η εφημερίδα New York Times αποκάλυψε πως η εταιρία λογισμικού τεχνητής νοημοσύνης Clearview στην πόλη της Νέας Υόρκης αντέγραψε το περιεχόμενο δισεκατομμυρίων φωτογραφιών από τις ιστοσελίδες των κοινωνικών δικτύων και το συγκέντρωσε σε μια βάση δεδομένων αναγνώρισης προσώπου. Η εταιρία πρόσφερε τις υπηρεσίες της στην αστυνομία εντός και εκτός των Ηνωμένων Πολιτειών.   

«Το σκάνδαλο της Clearview προκάλεσε μια ανακούφιση σε ότι ερευνητές εδώ και καιρό θεωρούσαν πως είναι πιθανό να γίνει», αναφέρει ο Ben Sobel, ο οποίος σπουδάζει ηθική και διακυβέρνηση της τεχνητής νοημοσύνης στο Berkman Klein Center στο Πανεπιστήμιο του Χάρβαρντ στο Κέιμπριτζ της Μασαχουσέτης. «Η τεχνολογία που είναι ικανή να αναγνωρίζει πρόσωπα γίνεται περισσότερο προσιτή και απαιτεί λιγότερη πολυπλοκότητα για να λειτουργήσει».

Ιστοσελίδες κοινωνικής δικτύωσης όπως το Twitter, το Facebook και το YouTube έχουν ανακοινώσει στην Clearview να σταματήσει να αντιγράφει τις ιστοσελίδες τους, υποστηρίζοντας πως παραβιάζει τους όρους χρήσης των υπηρεσιών τους. Αρκετές αγωγές έχουν κατατεθεί εις βάρος της εταιρίας, συμπεριλαμβάνοντας έναν νόμο του Ιλινόις ο οποίος επιτρέπει σε μεμονωμένους ανθρώπους σε αυτή την πολιτεία να μηνύουν εταιρίες οι οποίες αποθηκεύουν τις δικές τους βιομετρικές πληροφορίες- συμπεριλαμβανομένου και του προσώπου χωρίς τη συγκατάθεσή τους. Τον Ιούνιο το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων δημοσίευσε μια εκτίμηση ότι η υπηρεσία της Clearview παραβιάζει τον GDPR αλλά καμία ενέργεια ακόμα δεν έλαβε χώρα. Η Clearview, η οποία έπαψε να πουλάει μερικές από τις υπηρεσίες αυτή τη χρονιά μετά την κάλυψη των ΜΜΕ, ανέφερε στο περιοδικό Nature ότι «οι μηχανές αναζήτησης φωτογραφιών από την πλευρά της χρησιμοποιούνται εντός των ορίων των νόμων που εφαρμόζονται.»

Η Clearview δεν είναι η μόνη εταιρία που συλλέγει φωτογραφίες προσώπων διαδικτυακά. Μια εταιρία που ονομάζεται PimEyes στο πόλη Βρότσλαβ της Πολωνίας, έχει μια ιστοσελίδα που επιτρέπει σε όλους να βρίσκουν φωτογραφίες διαδικτυακά που ταιριάζουν και η εταιρία ισχυρίζεται να έχει αποθηκεύσει 900 εκατομμύρια φωτογραφίες- αν και λέει πως, δεν είναι οι φωτογραφίες από τις ιστοσελίδες κοινωνικών δικτύων. Και η NtechLab παρουσίασε το 2016 την εφαρμογή FindFace (εύρεση προσώπου) που επιτρέπει το ταίριασμα του προσώπου στο ρωσικό κοινωνικό δίκτυο VK. Η εταιρία αργότερα απέσυρε την εφαρμογή.   

Τώρα φαίνεται απίθανο να σταματήσει οποιοσδήποτε από την κατ’ ιδίαν ανάπτυξη μεγάλων βάσεων δεδομένων αναγνώρισης προσώπου από διαδικτυακές φωτογραφίες. Αλλά τον Ιούλιο, ερευνητές στο Πανεπιστήμιο του Σικάγο στο Ιλινόις αποκάλυψαν ένα μέρος λογισμικού που ονομάζεται Fawkes το οποίο προσθέτει αμυδρές μικροδιορθώσεις σε φωτογραφίες έτσι ώστε να μοιάζουν ίδιες στο ανθρώπινο μάτι, αλλά σε ένα μηχάνημα που έχει μάθει σε ένα συγκεκριμένο μοντέλο, το πρόσωπο μοιάζει διαφορετικό. Αν οι άνθρωποι «κάλυπταν» αρκετά τα χαρακτηριστικά των προσώπων τους δια μέσου του λογισμικού Fawkes, αναφέρουν, πως προσπάθειες όπως αυτή της Clearview, το μηχάνημα θα μάθει τα λάθος χαρακτηριστικά και έτσι θα αποτύγχανε να ταιριάξει τις καινούριες, αμετάβλητες φωτογραφίες στα μοντέλα του. Οι ερευνητές ελπίζουν ότι η κοινοποίηση των φωτογραφιών ή οι πλατφόρμες των κοινωνικών δικτύων ίσως να προσφέρουν την υπηρεσία αυτή προκειμένου να προστατέψουν τους χρήστες, με την χρησιμοποίηση του λογισμικού πριν να παρουσιάσουν τις φωτογραφίες στο διαδίκτυο. 

Απαίτηση για ρύθμιση

Τον Σεπτέμβριο του 2019, το ίδρυμα της Ada Lovelace που έχει ως έδρα του το Λονδίνο, μια φιλανθρωπική οργάνωση ερευνών -που ελέγχει εξονυχιστικά την τεχνητή νοημοσύνη και την κοινωνία- δημοσίευσε μια αντιπροσωπευτική έρευνα σε εθνικό επίπεδο που αφορά την άποψη που έχουν για την τεχνολογία FRT περισσότεροι από 4.000  Βρετανοί. Η έρευνα αποκάλυψε ότι η πλειονότητα των ανθρώπων υποστήριζε την αναγνώριση προσώπου όταν οι ίδιοι μπορούσαν να καταλάβουν την κοινή ωφέλεια, όπως για παράδειγμα σε εγκληματικές έρευνες, για να ξεκλειδώσουν τα έξυπνα τηλέφωνα ή να ελέγχουν τα διαβατήρια στα αεροδρόμια. Αλλά το 29% ένιωθε άβολα με την χρήση της τεχνολογίας από την αστυνομία, υποστηρίζοντας πως παραβιάζει την ιδιωτικότητα και εξομαλύνει την παρακολούθηση και πως οι ίδιοι δεν εμπιστεύονται την αστυνομία για να χρησιμοποιεί την τεχνολογία αυτή σύμφωνα με τους κανόνες ηθικής. Δεν υπήρχε σχεδόν καθόλου υποστήριξη για τη χρήση της τεχνολογίας στα σχολεία, στον εργασιακό χώρο και στις υπεραγορές. «Το κοινό αναμένει να συνδέεται η τεχνολογία αναγνώρισης προσώπου στην αστυνόμευση με προστατευτικά μέτρα και να έχει σχέση με το κοινό όφελος», συμπέρανε η έρευνα.

Πολλοί ερευνητές και μερικές εταιρίες, συμπεριλαμβανομένων της Google, της Amazon, της IBM και της Microsoft, έχουν απαιτήσει απαγορεύσεις στην αναγνώριση προσώπου- τουλάχιστον να χρησιμοποιείται η τεχνολογία στην αστυνομία- μέχρι να τεθούν σε εφαρμογή αυστηρότεροι κανονισμοί. Μερικοί υποδεικνύουν με θαυμασμό το GDPR, το οποίο απαγορεύει την επεξεργασία των βιομετρικών δεδομένων χωρίς συναίνεση – αν και προσφέρει ακόμα πολλές εξαιρέσεις, όπως αν, για παράδειγμα, τα δεδομένα είναι «εμφανώς δημόσια», ή αν η χρήση είναι «απαραίτητη για λόγους σημαντικού δημόσιου  συμφέροντος.»

Όταν πρόκειται για την εμπορική χρήση της αναγνώρισης προσώπου, μερικοί ερευνητές ανησυχούν πως οι νόμοι που εστιάζουν μόνο στην απόκτηση συγκατάθεσης για χρήση, δεν είναι αρκετά αυστηροί, αναφέρει ο Woodrow Hartzog, μηχανικός ηλεκτρονικών υπολογιστών και καθηγητής νομικής στο Βορειοανατολικό Πανεπιστήμιο της Βοστώνης, στη Μασαχουσέτη, ο οποίος μελετάει την παρακολούθηση προσώπου. Είναι πολύ δύσκολο για έναν μεμονωμένο άνθρωπο να καταλάβει τους κινδύνους της συγκατάθεσης στην παρακολούθηση προσώπου, υποστηρίζει. Και αυτοί οι ίδιοι συχνά δεν έχουν έναν ουσιαστικό τρόπο ώστε να πουν «όχι».

Ο Hartzog, ο οποίος θεωρεί την τεχνολογία ως «το πιο επικίνδυνο που έχει ποτέ εφευρεθεί», υποστηρίζει ότι αν οι νομοθέτες των Ηνωμένων Πολιτειών επιτρέπουν στις εταιρίες να χρησιμοποιούν την αναγνώριση προσώπου «παρά τις αναπόφευκτες κακομεταχειρίσεις της», πρέπει να συντάξουν κανόνες που να απαγορεύουν την συλλογή και την αποθήκευση των «αποτυπωμάτων προσώπου» από μέρη όπως γυμναστήρια και εστιατόρια και να απαγορεύει τη χρήση της τεχνολογίας FRT σε συνδυασμό με την αυτοματοποιημένη λήψη αποφάσεων όπως την προγνωστική αστυνόμευση, την στοχευμένη διαφήμιση και την εργασία.

Η οργάνωση του αλγοριθμικού Υπουργείου Δικαιοσύνης- οργάνωση διεξαγωγής εκστρατειών που καθοδηγείται από μια ερευνήτρια- ιδρύθηκε από την μηχανικό ηλεκτρονικών υπολογιστών Joy Buolamwini στο Ινστιτούτο Τεχνολογίας του Κέιμπριτζ στην Μασαχουσέτη, έχει διακριθεί για την έκκλησή της προς την Αμερικανική κυβέρνηση σχετικά με την αναστολή της αναγνώρισης προσώπου. Το 2018, η Buolamwini συνέταξε ένα άρθρο μαζί με άλλους ερευνητές, παρουσιάζοντας πως τα συστήματα αναγνώρισης προσώπου είναι πιθανότερο να μην αναγνωρίζουν σωστά το φύλο σε μαυρισμένα και γυναικεία πρόσωπα. Και τον Μάιο, η ίδια και άλλοι ερευνητές συζήτησαν σε μια αναφορά ότι οι Ηνωμένες Πολιτείες θα έπρεπε να είχαν δημιουργήσει ένα ομοσπονδιακό γραφείο προκειμένου να διαχειρίζεται τις εφαρμογές της FRT τεχνολογίας- όπως αντίστοιχα η Αμερικανική Διοίκηση Τροφίμων και Φαρμάκων εγκρίνει τα φάρμακα ή τις ιατρικές μεθόδους.

«Αυτό που θα αναλάμβανε να κάνει το ομοσπονδιακό γραφείο είναι να παρέχει πολλαπλά επίπεδα αδειών πριν το προϊόν να μπορέσει να εισέλθει στην αγορά. Αν οι κίνδυνοι υπερέχουν περισσότερο από τα οφέλη, ίσως δε θα χρησιμοποιήσεις το προϊόν αυτό», αναφέρει ο Erik Learned-Miller, μηχανικός ηλεκτρονικών υπολογιστών στο Πανεπιστήμιο της Μασαχουσέτης στο Άμχερστ, ο οποίος είναι ένας από τους συντάκτες του άρθρου.

Επίσης, στην Κίνα οι άνθρωποι έχουν εκφράσει τη δυσφορία τους με τη διάδοση της χρήσης της αναγνώρισης προσώπου τουλάχιστον από ιδιωτικές εταιρείες. Μια διαδικτυακή έρευνα με περισσότερους από 6.000 ανθρώπους τον Δεκέμβριο του 2019 από το Ερευνητικό Κέντρο Προστασίας των Προσωπικών Δεδομένων Nandu, ένα επιστημονικό επιτελείο που συνεργάζεται με την εφημερίδα Southern Metropolis Daily στην Κουανγκτσόου, ανακάλυψε ότι το 80% των ανθρώπων ανησυχεί για την ανεπαρκή ασφάλεια στα συστήματα αναγνώρισης προσώπου και το 83% επιθυμούσε περισσότερο έλεγχο στα δεδομένα του προσώπου τους, συμπεριλαμβανομένης της εναλλακτικής επιλογής να τα διαγράψουν. Οι κινέζικες εφημερίδες έχουν δημοσιεύσει άρθρα αμφισβητώντας τη χρήση της τεχνολογίας FRT και η κυβέρνηση θέτει σε εφαρμογή αυστηρότερους νόμους για την προστασία των δεδομένων. Αλλά στη δημόσια συζήτηση συνήθως δεν αμφισβητείται η χρήση της κάμερας από την αστυνομία και την κυβέρνηση και οι νόμοι προστασίας δεδομένων δεν θέτουν όρια στην κυβερνητική παρακολούθηση, υποστηρίζει ο Graham Webster, ο οποίος σπουδάζει ψηφιακές πολιτικές της Κίνας στο Πανεπιστήμιο Στάνφορντ στην Καλιφόρνια.

Οι Ευρωπαϊκοί κανονισμοί προστασίας δεδομένων αναφέρουν πως η αστυνομία μπορεί να επεξεργαστεί τα δεδομένα για βιομετρικούς σκοπούς αν αυτό κριθεί απαραίτητο καθώς και να λάβει τα κατάλληλα μέτρα διασφάλισης. Ένα βασικό ερώτημα εδώ, αναφέρει ο Fussey, είναι αν αυτό θα είναι ανάλογο με το να τεθούν, για παράδειγμα, δεκάδες χιλιάδες άνθρωποι υπό βιντεο παρακολούθηση προκειμένου να πιάσουν έναν εγκληματία.

Μέχρι στιγμής, Βρετανοί δικαστές έχουν υποδηλώσει ότι ίσως αυτό να συμβεί, (δηλαδή, να τεθούν υπό βιντεο παρακολούθηση δεκάδες χιλιάδες άνθρωποι προκειμένου να πιάσουν έναν εγκληματία) αλλά μόνο αν η χρήση της τεχνολογίας από την αστυνομία έχει αυστηρότερα συστήματα ελέγχου. Το προηγούμενο έτος, ένας άνθρωπος που ονομάζεται Ed Bridges άσκησε αγωγή κατά της αστυνομίας της Νότιας Ουαλίας υποστηρίζοντας πως τα δικαιώματά του στην προσωπική του ζωή παραβιάστηκαν επειδή ο ίδιος σαρώθηκε από κάμερες ζωντανής αναγνώρισης προσώπου σε δυο εκδηλώσεις στο Κάρντιφ της Μ. Βρετανίας, όταν η αστυνομία ερευνούσε τα πλήθη για να βρει ανθρώπους σε μια λίστα υπόπτων υπό παρακολούθηση. Τον Αύγουστο, ένα δικαστήριο της Μ. Βρετανίας αποφάσισε ότι οι ενέργειες ήταν αθέμιτες: η αστυνομία δεν είχε αρκετή καθοδήγηση και αρκετούς κανονισμούς σχετικά με το πότε μπορούσαν να χρησιμοποιήσουν το σύστημα και ποιος θα ήταν στη βάση δεδομένων τους και δεν είχαν επαρκώς ελέγξει την μεροληψία του λογισμικού για τη φυλή και το φύλο. Αλλά οι δικαστές δεν συμφώνησαν πως οι κάμερα παραβίασε τα δικαιώματα στην προσωπική του ζωή του Bridges: ήταν μια «ανάλογη» επέμβαση, δήλωσαν.

Η Ευρωπαϊκή Ένωση αναλογίζεται ένα γενικό πλαίσιο τεχνητής νοημοσύνης το οποίο θα μπορεί να θέτει κανονισμούς για τη βιομετρία. Φέτος, ένα επίσημο έγγραφο – μια προαναγγελία για την προτεινόμενη νομοθεσία – υποδήλωσε πως ειδικές ρυθμίσεις ίσως να είναι απαραίτητες για «υψηλού κινδύνου» τεχνητή νοημοσύνη, η οποία θα περιλαμβάνει αναγνώριση προσώπου. Οι περισσότεροι άνθρωποι και οι εταιρίες που συνέταξαν τη διαβούλευση που συνόδευε το έγγραφο αισθάνθηκαν ότι επιπλέον κανονισμοί ήταν αναγκαίοι για τη χρήση της τεχνολογίας FRT σε δημόσιους χώρους.

Εν κατακλείδι, οι άνθρωποι που επηρεάστηκαν από την τεχνολογία FRT χρειάζεται να συζητήσουν σχετικά με αυτό που θεωρούν αποδεκτό, ανέφερε ο Aidan Peppin, κοινωνιολόγος στο ίδρυμα της Ada Lovelace. Αυτό το έτος, ο ίδιος βοηθάει στη διοίκηση ενός βιομετρικού συμβουλίου των πολιτών παρουσιάζει αναλυτικά σεμινάρια με περίπου 60 ανθρώπους σε όλη τη χώρα. Οι συμμετέχοντες παρέχουν τις απόψεις τους για τη βιομετρία, οι οποίες θα δικαιολογήσουν μια Βρετανική αξιολόγηση της νομοθεσίας για την περιοχή αυτή. «Η φωνή των πολιτών χρειάζεται να είναι η αρχή και το κέντρο αυτής της δημόσιας συζήτησης», δήλωσε.

Μετάφραση: Ενωμένη Ρωμηοσύνη

 

https://www.nature.com/articles/d41586-020-03188-2?utm_source=facebook&utm_medium=social&utm_content=organic&utm_campaign=NGMT_USG_JC01_GL_Nature