Η ΕΕ θέλει την απαγόρευση της αναγνώρισης προσώπου σε δημόσιους χώρους

Οι ρυθμιστικές αρχές της Ευρωπαϊκής Ένωσης για την προστασία των δεδομένων ζήτησαν γενική απαγόρευση της χρήσης τεχνητής νοημοσύνης για την αναγνώριση προσώπου και άλλων χαρακτηριστικών, «βιομετρικών και συμπεριφοράς», σε δημόσιους χώρους. Στην κοινή τους γνωμοδότηση, οι European Data Protection Board (EDPB) και European Data Protection Supervisor (EDPS) ανακοίνωσαν επίσης ότι η χρήση τεχνητής νοημοσύνης για κοινωνική αξιολόγηση θα πρέπει να θεωρείται παράνομη.

Πιο αναλυτικά, οι EDPB και EDPS συμφώνησαν στο να απαγορεύσουν στην τεχνητή νοημοσύνη να «αναγνωρίζει πρόσωπα, είδος βαδίσματος, δακτυλικά αποτυπώματα, DNA, φωνή, κτυπήματα πλήκτρων και άλλα βιομετρικά ή συμπεριφορικά χαρακτηριστικά», σε περιοχές που είναι δημόσια προσβάσιμες. Οι δύο ρυθμιστικές αρχές θεωρούν ότι θα πρέπει να είναι παράνομο για συστήματα τεχνητής νοημοσύνης να χρησιμοποιούν βιομετρικά χαρακτηριστικά για να κατηγοριοποιούν ανθρώπους «σε ομάδες βασισμένες στην εθνότητα, το φύλο, τον πολιτικό ή σεξουαλικό προσανατολισμό» ή άλλους τύπου κατηγοριοποίησης κάτω από τους οποίους θα μπορούσαν να υποστούν διακρίσεις.

Υπεράνω όλων, οι EDPB και EDPS συμφώνησαν ότι θα πρέπει να υπάρχουν κυρώσεις σε περίπτωση χρήσης τεχνητής νοημοσύνης για να «συμπεραίνει τα συναισθήματα ενός φυσικού προσώπου». Αυτό θα μπορεί να επιτρέπεται μόνο σε ειδικές περιπτώσεις, όπως για πολύ συγκεκριμένους ιατρικούς λόγους.

Οι ρυθμιστικές αρχές ανταποκρίθηκαν με τις παραπάνω θέσεις στο ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη που είχε προταθεί από την Ευρωπαϊκή Επιτροπή. Στη σχετική ανακοίνωση προτείνονται επίσης η απαγόρευση σε ποικιλία εφαρμογών τεχνητής νοημοσύνης, συμπεριλαμβανομένου του λεγόμενου social scoring και «τη χρήση σε πραγματικό χρόνο συστημάτων απομακρυσμένης βιομετρικής ταυτοποίησης σε δημόσιους χώρους για λόγους επιβολής του νόμου». Προβλέπονται πάντως και ορισμένες εξαιρέσεις, όπως για να βοηθηθούν οι αρχές στην εύρεση παιδιών που αγνοούνται και για να προλαμβάνονται «συγκεκριμένες, ουσιώδεις και άμεσες απειλές», όπως συμβαίνει στην περίπτωση τρομοκρατικών επιθέσεων.

Στα μέλη του EDPB περιλαμβάνονται σαν μέλη οι αντίστοιχες ρυθμιστικές αρχές από κάθε μέλος της Ευρωπαϊκής Ένωσης, ενώ το EDPS αναλαμβάνει να εξασφαλίσει ότι τα θεσμικά όργανα της ΕΕ σέβονται τα ανθρώπινα δικαιώματα σε επίπεδο προστασίας δεδομένων και ιδιωτικότητας όταν χειρίζονται προσωπικά δεδομένα.

Η πρόταση της Επιτροπής ορίζει τον EDPS ως «αρμόδια αρχή και αρχή εποπτείας της αγοράς» για τον έλεγχο των οργανισμών της ΕΕ. Ωστόσο, οι δύο ρυθμιστικές αρχές ζήτησαν περισσότερη διαφάνεια στους ρόλους και τα καθήκοντα που τους αποδίδει το προτεινόμενο ρυθμιστικό πλαίσιο. Επιπλέον, εκφράστηκαν ανησυχίες ότι οι προτάσεις εξαιρούν «τη συνεργασία σε επίπεδο διεθνούς επιβολής του νόμου».