Σχόλιο: Το κάτωθι κείμενο αποτελεί την επίσημη τοποθέτηση του EDRI (European Digital Rights), ίσως της πιο γνωστής πανευρωπαϊκά οργάνωσης ειδικών επιστημόνων πάνω στα ζητήματα του δικαίου των προσωπικών δεδομένων και εν γένει των ρυθμίσεων για τις νέες ψηφιακές τεχνολογίες. Αξίζει να το μελετήσουμε για να αντιληφθούμε τον ευρύτερο προβληματισμό σε σχέση με την τεχνητή νοημοσύνη που τον τελευταίο καιρό μονοπωλεί τις δημόσιες συζητήσεις…
Στις 8 Δεκεμβρίου 2023, μετά από περισσότερες από 36 ώρες διαπραγματεύσεων, οι νομοθέτες της ΕΕ έφτασαν τελικά σε συμφωνία σχετικά με τον νόμο περί τεχνητής νοημοσύνης. Ωστόσο, ενώ έχει κερδηθεί η προστασία ορισμένων θεμελιωδών δικαιωμάτων, ο συνολικός νόμος δεν ανταποκρίθηκε στις δυνατότητές του να θέσει τους ανθρώπους και τα δικαιώματά τους στο επίκεντρο.
Στις 8 Δεκεμβρίου, μετά από περισσότερες από 36 ώρες διαπραγματεύσεων, επιτεύχθηκε η πολιτική συμφωνία σχετικά με τον νόμο της ΕΕ για την τεχνητή νοημοσύνη (AI).
Το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο και η Επιτροπή έχουν πετύχει έναν υψηλού επιπέδου συμβιβασμό σχετικά με τους βασικούς κανόνες για την τεχνητή νοημοσύνη στην Ευρώπη.
Ωστόσο, ενώ οι διαπραγματευτές της ΕΕ γιορτάζουν την ολοκλήρωση μιας από τις πιο αμφιλεγόμενες ψηφιακές νομοθεσίες στην ιστορία της ΕΕ, το πρόβλημα κρύβεται στις λεπτομέρειες.
Ο βαθμός στον οποίο ο νόμος περί τεχνητής νοημοσύνης προστατεύει τους ανθρώπους στην Ευρώπη από τις χειρότερες υπερβολές παρακολούθησης, τις διακρίσεις και τις βλάβες που βασίζονται στην τεχνητή νοημοσύνη θα απαιτήσει πληρέστερη αξιολόγηση των τεχνικών σχεδίων, τα οποία θα εμφανιστούν τις επόμενες εβδομάδες.
«Οι κυβερνήσεις της ΕΕ αναγκάστηκαν να παραδεχτούν ότι τα συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται όλο και περισσότερο για μαζική παρακολούθηση, δημιουργία φυλετικού προφίλ και άλλους επιβλαβείς και επεμβατικούς σκοπούς. Ενώ η συμφωνία περιέχει μερικά περιορισμένα οφέλη για τα ανθρώπινα δικαιώματα, θα είναι ως επί το πλείστον ένα περίβλημα του νόμου που πραγματικά χρειάζεται η Ευρώπη για την τεχνητή νοημοσύνη». ( Sarah Chander, Senior Policy Adviser, European Digital Rights)
Μέχρι στιγμής, γνωρίζουμε ότι η συμφωνία περιλαμβάνει:
- Απαγόρευση της ζωντανής δημόσιας αναγνώρισης προσώπου, αλλά με αρκετές εξαιρέσεις για την αναζήτηση ορισμένων θυμάτων, υπόπτων και για την πρόληψη τρομοκρατικών επιθέσεων. Αν και αυτές οι συνθήκες είναι στενότερες από ό,τι είχαν πιέσει τα κράτη μέλη της ΕΕ, εντούτοις ανοίγουν το δρόμο για τη χρήση αυτών των συστημάτων με επικίνδυνους, μεροληπτικούς και μαζικούς τρόπους παρακολούθησης.
- Περιορισμός στη μεταγενέστερη (αναδρομική) δημόσια αναγνώριση προσώπου μόνο στην αναζήτηση υπόπτων για σοβαρά εγκλήματα, αν και το όριο για το τι συνιστά «σοβαρό» έγκλημα είναι επί του παρόντος απροσδιόριστο.
- Μερική απαγόρευση της προγνωστικής αστυνόμευσης, συμπεριλαμβανομένων προβλέψεων σχετικά με την πιθανότητα διάπραξης ποινικού αδικήματος με βάση «χαρακτηριστικά ή στοιχεία της προσωπικότητας», αλλά όχι της πλειοψηφίας των συστημάτων προγνωστικής αστυνόμευσης.
- Πλήρης απαγόρευση των συστημάτων αναγνώρισης συναισθημάτων, αλλά μόνο σε χώρους εργασίας και εκπαιδευτικούς χώρους. Αυτό παραλείπει παράλογα τις πιο επιβλαβείς χρήσεις από όλες: κατά την αστυνόμευση, στα σύνορα και στη μετανάστευση.
- Μια υποτιθέμενη απαγόρευση των βιομετρικών συστημάτων κατηγοριοποίησης, ωστόσο το αν αυτή η απαγόρευση θα έχει νόημα ή όχι είναι ακόμα ασαφές.
- Περιορισμένες διασφαλίσεις με βάση τα δικαιώματα, συμπεριλαμβανομένης της υποχρεωτικής αξιολόγησης του αντίκτυπου των θεμελιωδών δικαιωμάτων και κάποιου επιπέδου δημόσιας διαφάνειας σχετικά με τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που αναπτύσσονται στην Ευρώπη.
- Πολύ μεγάλα κενά στο συνολικό επίπεδο προστασίας, συμπεριλαμβανομένης της ευρείας διακριτικής ευχέρειας των προγραμματιστών τεχνητής νοημοσύνης να αποφασίσουν ότι τα συστήματά τους δεν είναι «υψηλού κινδύνου», καθώς και διάφορες εξαιρέσεις από τους κανόνες για το πότε οι αρχές επιβολής του νόμου, μετανάστευσης και εθνικής ασφάλειας αναπτύσσουν τεχνητή νοημοσύνη «υψηλού κινδύνου». Αυτή είναι μια σημαντική απώλεια για τη δημόσια εποπτεία των πιο ανησυχητικών συστημάτων τεχνητής νοημοσύνης.
«Είναι δύσκολο να είμαστε ενθουσιασμένοι με έναν νόμο που, για πρώτη φορά στην ΕΕ, έχει λάβει μέτρα για να νομιμοποιήσει τη ζωντανή δημόσια αναγνώριση προσώπου σε ολόκληρο το μπλοκ. Ενώ το Κοινοβούλιο αγωνίστηκε σκληρά για να περιορίσει τη ζημιά, το συνολικό πακέτο για τη βιομετρική επιτήρηση και τη δημιουργία προφίλ είναι στην καλύτερη περίπτωση χλιαρό. Ο αγώνας μας ενάντια στη βιομετρική μαζική επιτήρηση πρόκειται να συνεχιστεί». (Ella Jakubowska, Senior Policy Advisor, European Digital Rights)