Περίληψη άρθρου:

Πρόσφατη έκθεση του Γραφείου Λογοδοσίας της Κυβέρνησης (GAO) αποκαλύπτει ότι μόνο το 5% των 200 πρακτόρων του FBI που έχουν πρόσβαση στην τεχνολογία αναγνώρισης προσώπου έχουν λάβει εκπαίδευση για τον τρόπο χρήσης της. Το FBI δεν διαθέτει επίσης πολιτική για την προστασία της ιδιωτικής ζωής, των πολιτικών δικαιωμάτων και των ατομικών ελευθεριών σε σχέση με τη χρήση της αναγνώρισης προσώπου. Έχουν εκφραστεί ανησυχίες σχετικά με την ακατάλληλη χρήση και τα λάθη, αν και ορισμένοι εμπειρογνώμονες υποστηρίζουν ότι η εκπαίδευση μπορεί να δημιουργήσει μια ψευδή αίσθηση ασφάλειας. Στις ΗΠΑ έχουν ήδη αναφερθεί περιπτώσεις λανθασμένων συλλήψεων λόγω εσφαλμένης αναγνώρισης από μοντέλα αναγνώρισης προσώπου. Η έκθεση του GAO επικεντρώνεται σε εξωτερικά εργαλεία αναγνώρισης προσώπου που χρησιμοποιεί το FBI, όπως τα Clearview AI και Thorn, και όχι στην εσωτερική του πλατφόρμα. Το Υπουργείο Δικαιοσύνης δεν έχει ακόμη ορίσει ημερομηνία για την εφαρμογή μιας πολιτικής για την αναγνώριση προσώπου σε ολόκληρο το υπουργείο. Έχει διαπιστωθεί ότι τα εμπορικά εργαλεία αναγνώρισης προσώπου αναγνωρίζουν λανθασμένα ορισμένες δημογραφικές ομάδες σε υψηλότερα ποσοστά και οι ψευδείς συλλήψεις αφορούν συχνά μαύρους άνδρες. Παράγοντες όπως η λανθασμένη αναγνώριση μαρτύρων και η κακή ερευνητική εργασία μπορούν να συμβάλουν σε αυτά τα λάθη. Το FBI αντιμετωπίζει εδώ και χρόνια πιέσεις για να αξιολογήσει την ακρίβεια και τις επιπτώσεις του λογισμικού αναγνώρισης προσώπου στην ιδιωτική ζωή και να εφαρμόσει διασφαλίσεις. Έχουν επίσης γίνει εκκλήσεις για μια πολιτική ηθικής χρήσης της αναγνώρισης προσώπου, αλλά η πρόοδος είναι αργή. Προτείνεται ένα ομοσπονδιακό μορατόριουμ για την τεχνολογία ώστε να επιτραπεί η περαιτέρω μελέτη των πολιτικών εκπαίδευσης και χρήσης που μπορούν να μετριάσουν την πιθανή παραβίαση των πολιτικών δικαιωμάτων.

Κύρια σημεία του άρθρου:

• Το FBI έχει χρησιμοποιήσει τεχνολογία αναγνώρισης προσώπου από εξωτερικούς παρόχους σε δεκάδες χιλιάδες έρευνες, αλλά μόνο το 5% των πρακτόρων που έχουν πρόσβαση σε αυτήν έχουν εκπαιδευτεί για τον τρόπο χρήσης της.
• Το FBI δεν εφαρμόζει καμία πολιτική για την προστασία της ιδιωτικής ζωής, των πολιτικών δικαιωμάτων ή των ατομικών ελευθεριών κατά τη χρήση της τεχνολογίας αναγνώρισης προσώπου.
• Υπήρξαν περιπτώσεις ψευδών συλλήψεων λόγω ελαττωματικής τεχνολογίας αναγνώρισης προσώπου και το Υπουργείο Δικαιοσύνης δεν έχει ακόμη εφαρμόσει πολιτική για τη χρήση της.
• Οι εμπειρογνώμονες και οι νομοθέτες ζητούν καλύτερη εκπαίδευση και πολιτικές για την προστασία από την πιθανή κακή χρήση της τεχνολογίας αναγνώρισης προσώπου.

Αναλυτικά το άρθρο:

Το FBI χρησιμοποιεί σε μεγάλο βαθμό υπηρεσίες αναγνώρισης προσώπου, όπως αυτή της αμφιλεγόμενης νεοφυούς εταιρείας Clearview AI, αλλά το 95% των πρακτόρων που τις χρησιμοποιούν δεν έχουν ολοκληρώσει την εκπαίδευσή τους στην τεχνολογία

ΤΟ ΟΜΟΣΠΟΝΔΙΑΚΟ Γραφείο Ερευνών των ΗΠΑ (FBI) έχει πραγματοποιήσει τα τελευταία χρόνια δεκάδες χιλιάδες αναζητήσεις αναγνώρισης προσώπου χρησιμοποιώντας λογισμικό από εξωτερικούς παρόχους. Ωστόσο, μόνο το 5% των 200 πρακτόρων που έχουν πρόσβαση στην τεχνολογία αυτή έχουν παρακολουθήσει το τριήμερο εκπαιδευτικό σεμινάριο του γραφείου για τον τρόπο χρήσης της, αποκαλύπτει έκθεση του Γραφείου Κυβερνητικής Λογοδοσίας (GAO) αυτόν τον μήνα. Το γραφείο δεν έχει εφαρμόσει καμία πολιτική για τη χρήση της αναγνώρισης προσώπου για την προστασία της ιδιωτικής ζωής, των πολιτικών δικαιωμάτων ή των ατομικών ελευθεριών.

Οι νομοθέτες και άλλοι που ανησυχούν για την αναγνώριση προσώπου έχουν πει ότι απαιτείται επαρκής εκπαίδευση σχετικά με την τεχνολογία και τον τρόπο ερμηνείας των αποτελεσμάτων της, ώστε να μειωθεί η ακατάλληλη χρήση ή τα λάθη, αν και ορισμένοι ειδικοί λένε ότι η εκπαίδευση μπορεί να παραπλανήσει τις αρχές επιβολής του νόμου και το κοινό να πιστέψουν ότι η αναγνώριση προσώπου είναι χαμηλού κινδύνου.

Μετά τη λανθασμένη σύλληψη του Ρόμπερτ Γουίλιαμς κοντά στο Ντιτρόιτ το 2020, έχουν εμφανιστεί στις ΗΠΑ πολλές περιπτώσεις συλλήψεων μετά από λανθασμένη αναγνώριση προσώπου από ένα μοντέλο αναγνώρισης προσώπου. Ο Αλόνζο Σόγιερ, η περιπέτεια του οποίου έγινε γνωστή αυτή την άνοιξη, πέρασε εννέα ημέρες στη φυλακή για ένα έγκλημα που δεν διέπραξε.

Η έλλειψη εκπαίδευσης για την αναγνώριση προσώπου στο FBI ήρθε στο φως σε έκθεση της GAO που εξετάζει την προστασία που ισχύει όταν η ομοσπονδιακή επιβολή του νόμου χρησιμοποιεί την τεχνολογία. Η έκθεση συντάχθηκε κατόπιν αιτήματος επτά Δημοκρατικών μελών του Κογκρέσου.

Η συγγραφέας της έκθεσης και διευθύντρια του GAO Εσωτερικής Ασφάλειας και Δικαιοσύνης Gretta Goodwin αναφέρει, μέσω ηλεκτρονικού ταχυδρομείου, ότι δεν βρήκε κανένα στοιχείο για ψευδείς συλλήψεις λόγω της χρήσης της αναγνώρισης προσώπου από ομοσπονδιακή υπηρεσία επιβολής του νόμου. Εκπρόσωπος του FBI αρνήθηκε να απαντήσει σε ερωτήσεις σχετικά με την έκθεση του GAO για το θέμα αυτό.

Η έκθεση της GAO επικεντρώνεται σε εργαλεία αναγνώρισης προσώπου που κατασκευάζονται από εμπορικές και μη κερδοσκοπικές οντότητες. Αυτό σημαίνει ότι δεν καλύπτει την εσωτερική πλατφόρμα αναγνώρισης προσώπου του FBI, την οποία η GAO επέκρινε προηγουμένως για ανεπαρκή προστασία της ιδιωτικής ζωής. Το Υπουργείο Δικαιοσύνης των ΗΠΑ έλαβε πέρυσι εντολή από τον Λευκό Οίκο να αναπτύξει βέλτιστες πρακτικές για τη χρήση της αναγνώρισης προσώπου και να αναφέρει τυχόν αλλαγές πολιτικής που θα προκύψουν.

Τα εξωτερικά εργαλεία αναγνώρισης προσώπου που χρησιμοποιούνται από το FBI και άλλες ομοσπονδιακές αρχές επιβολής του νόμου που καλύπτονται από την έκθεση προέρχονται από εταιρείες όπως η Clearview AI, η οποία ανέσυρε δισεκατομμύρια φωτογραφίες προσώπων από το διαδίκτυο για να εκπαιδεύσει το σύστημα αναγνώρισης προσώπου της, και η Thorn, μια μη κερδοσκοπική εταιρεία που καταπολεμά την εμπορία προσώπων μέσω της εφαρμογής της αναγνώρισης προσώπου για τον εντοπισμό θυμάτων και εμπόρων προσώπων από εικόνες της διαδικτυακής εμπορικής αγοράς σεξ.

Το FBI κατέχει την πρώτη θέση μεταξύ των ομοσπονδιακών υπηρεσιών επιβολής του νόμου που εξετάστηκαν από το GAO όσον αφορά την κλίμακα της χρήσης του συστήματος αναγνώρισης προσώπου. Περισσότερες από 60.000 αναζητήσεις πραγματοποιήθηκαν από επτά υπηρεσίες μεταξύ Οκτωβρίου 2019 και Μαρτίου 2022. Πάνω από τις μισές έγιναν από πράκτορες του FBI, περίπου 15.000 με τη χρήση του Clearview AI και 20.000 με τη χρήση του Thorn.

Κανένας υφιστάμενος νόμος δεν απαιτεί από το ομοσπονδιακό προσωπικό επιβολής του νόμου να εκπαιδευτεί πριν από τη χρήση της αναγνώρισης προσώπου ή να ακολουθεί συγκεκριμένα πρότυπα όταν χρησιμοποιεί την αναγνώριση προσώπου σε μια ποινική έρευνα.

Σύμφωνα με την έκθεση, το Υπουργείο Δικαιοσύνης σχεδιάζει να εκδώσει μια πολιτική για τα πολιτικά δικαιώματα και τις πολιτικές ελευθερίες για την αναγνώριση προσώπου, αλλά δεν έχει ακόμη ορίσει ημερομηνία για την προγραμματισμένη εφαρμογή της. Λέει ότι οι αξιωματούχοι του DOJ, κάποια στιγμή το 2022, εξέτασαν το ενδεχόμενο να επικαιροποιήσουν την πολιτική τους ώστε να επιτρέπουν μόνο την ταύτιση αναγνώρισης προσώπου για να δικαιολογείται η αίτηση για ένταλμα έρευνας.

Τα εμπορικά εργαλεία αναγνώρισης προσώπου που χρησιμοποιούνται από το FBI και άλλες ομοσπονδιακές υπηρεσίες προσπαθούν να αντιστοιχίσουν μια φωτογραφία ενός υπόπτου ή θύματος με εικόνες προσώπων σε βάσεις δεδομένων που μπορεί να περιέχουν εκατομμύρια εικόνες. Αφού το λογισμικό προσφέρει έναν κατάλογο πιθανών αντιστοιχιών, οι άνθρωποι αποφασίζουν ποιος θα υποβληθεί σε περαιτέρω έρευνα.

Σύμφωνα με έκθεση του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας, τα μοντέλα αναγνώρισης προσώπου που κατασκευάζονται από εμπορικούς προμηθευτές στις ΗΠΑ έχουν αναγνωρίσει λανθασμένα τους Αμερικανούς της Ασίας και τις γυναίκες με σκούρο δέρμα σε υψηλότερα ποσοστά από ό,τι ο υπόλοιπος πληθυσμός. Παρόλο που οι κυβερνητικές αξιολογήσεις της αναγνώρισης προσώπου συνεχίζουν να δείχνουν βελτιώσεις στην αναγνώριση ανθρώπων σε διάφορες δημογραφικές ομάδες, εξακολουθούν να γίνονται λανθασμένες συλλήψεις, συχνά αποτέλεσμα ενός συνδυασμού ελαττωματικής τεχνολογίας και κακής ερευνητικής εργασίας από τους αστυνομικούς, και αφορούν σχεδόν αποκλειστικά μαύρους άνδρες. Τον περασμένο μήνα, επίσης, κυκλοφόρησε η είδηση για την Porcha Woodruff, η οποία συνελήφθη ψευδώς παρά το γεγονός ότι ήταν εμφανώς έγκυος, σε αντίθεση με έναν ύποπτο που εθεάθη σε υλικό από κάμερες ασφαλείας.

Η λανθασμένη αναγνώριση από μάρτυρα ή αστυνομικό μπορεί επίσης να οδηγήσει σε λανθασμένη σύλληψη. Έρευνες δείχνουν ότι οι άνθρωποι είναι γενικά κακοί στο να αναγνωρίζουν άλλους ανθρώπους που δεν γνωρίζουν και ιδιαίτερα κακοί στο να αναγνωρίζουν ανθρώπους διαφορετικής φυλής. Η ποιότητα της φωτογραφίας και η χρονική διαφορά μεταξύ μιας φωτογραφίας του ανιχνευτή και μιας φωτογραφίας σε μια βάση δεδομένων μπορούν επίσης να επηρεάσουν τα αποτελέσματα.

Το FBI δέχεται εδώ και χρόνια πιέσεις από την κυβέρνηση και τους νομοθέτες να προστατεύσει καλύτερα τα δικαιώματα των κατοίκων των ΗΠΑ έναντι της δύναμης της αναγνώρισης προσώπου. Το GAO άρχισε να ζητά από το FBI να αξιολογήσει την ακρίβεια και τις επιπτώσεις στην ιδιωτική ζωή του εσωτερικού λογισμικού αναγνώρισης προσώπου το 2016. Ανανέωσε αυτές τις εκκλήσεις το 2019, όταν οι διακομματικοί νομοθέτες πίεσαν επίσης το FBI να προσθέσει εγγυήσεις.

Το 2022, μια επιτροπή του Κογκρέσου έδωσε εντολή στο Υπουργείο Δικαιοσύνης να δημιουργήσει μια πολιτική δεοντολογικής χρήσης της αναγνώρισης προσώπου, αλλά η υπηρεσία δεν έχει ακόμη εφαρμόσει μια τέτοια πολιτική στην πράξη. Την ίδια χρονιά, ο πρόεδρος Τζο Μπάιντεν υπέγραψε εκτελεστική εντολή με την οποία ανέθεσε στο υπουργείο να αναθέσει σε μια Εθνική Ακαδημία Επιστημών τη μελέτη των επιπτώσεων της αναγνώρισης προσώπου στην ιδιωτική ζωή, τα πολιτικά δικαιώματα και τις ατομικές ελευθερίες. Απαιτούσε επίσης από το Υπουργείο Δικαιοσύνης να συμμετάσχει σε μια διυπηρεσιακή διαδικασία για την ανάπτυξη βέλτιστων πρακτικών για τη χρήση της αναγνώρισης προσώπου από τις υπηρεσίες επιβολής του νόμου.

Η Sneha Revanur, ιδρύτρια του Encode Justice, ενός μη κερδοσκοπικού οργανισμού για τη νεολαία που επιθυμεί μορατόριουμ στη χρήση της αναγνώρισης προσώπου από τις αρχές επιβολής του νόμου, λέει ότι η τεχνολογία μπορεί να αγνοηθεί εν μέσω του πρόσφατου ενθουσιασμού και φόβου σχετικά με τη γεννητική τεχνητή νοημοσύνη, όπως το ChatGPT. "Είναι ζωτικής σημασίας να μην αφήσουμε πίσω ημιτελείς υποθέσεις γύρω από ζητήματα όπως η αναγνώριση προσώπου", λέει. Η Revanur λέει ότι ένα ομοσπονδιακό μορατόριουμ για την τεχνολογία θα έδινε χρόνο για να μελετηθεί τι είδους εκπαίδευση και πολιτικές χρήσης θα μπορούσαν ενδεχομένως να μειώσουν τη δύναμη ενός εργαλείου παρακολούθησης που μπορεί να παραβιάσει τα πολιτικά δικαιώματα.

Πηγή: FBI Agents Are Using Face Recognition Without Proper Training