Habemus papam στην τεχνητή νοημοσύνη: Tι σημαίνει για τη χώρα μας

Πριν από λίγες μέρες το Συμβούλιο Υπουργών της ΕΕ ενέκρινε την Πράξη για την Τεχνητή Νοημοσύνη, ένα κείμενο το οποίο αναμένεται να θέσει τους νομικούς κανόνες του παιχνιδιού στο δυναμικό αυτό τεχνολογικό πεδίο στην Ευρώπη και όχι μόνο. Προτού στεγνώσει το μελάνι, θα αποπειραθούμε να επισημάνουμε τι καινά δαιμόνια κομίζει για την Ελλάδα που τώρα εισέρχεται σε αυτό το νέο τεχνολογικό περιβάλλον.

Πρώτον, σύμφωνα με τους νέους αυτούς κανόνες οποιαδήποτε χρήση τέτοιων συστημάτων θα βρίσκεται υπό την στενή επιτήρηση της Ευρωπαϊκής Επιτροπής και ιδιαίτερα του Γραφείου ΤΝ που μόλις ιδρύθηκε και το οποίο θα αξιολογεί τακτικά τις ‘επιδόσεις’ των Κρατών Μελών στο δυναμικό αυτό πεδίο. Ιδιαίτερα δε ο σχεδιασμός και η χρήση συστημάτων και εφαρμογών ΤΝ στην εκπαίδευση, στους χώρους εργασίας και στην πρόσβαση των πολιτών σε υπηρεσίες δημόσιου χαρακτήρα που θεωρούνται πλέον πεδία εφαρμογών υψηλής επικινδυνότητας σύμφωνα με τους νέους κανόνες. Επόμενως η χώρα μας θα πρέπει, για παράδειγμα, πριν από την εγκατάσταση τέτοιων συστημάτων σε σχολεία και σε δημόσιες αρχές, να αξιολογεί τον αντίκτυπο της χρήσης τους στα ίδια τα θεμελιώδη δικαιώματα καθώς και τον γενικότερο βαθμός επικινδυνότητας τους και να γίνουν αντικείμενο ανάλυσης μια σειρά παράμετροι για τις οποίες δεν υπάρχει ακόμα σχετική τεχνογνωσία στην Ελλάδα.

Δεύτερον, το νέο ευρωπαϊκό νομοθέτημα προβλέπει την δημιουργία αρχών που θα διαθέτουν επαρκείς τεχνικούς, οικονομικούς και ανθρώπινους πόρους και υποδομή για να εκπληρώσουν τα καθήκοντά τους. Επομένως η χώρα μας πρέπει να συστήσει άμεσα μια ειδική αρχή που θα είναι επιφορτισμένη για την αξιολόγηση της επικινδυνότητας των αλγοριθμικών αυτών συστημάτων και μια άλλη αρχή που θα είναι υπεύθυνη για την εποπτεία της αγοράς και την επιβολή των σχετικών προστίμων.

Για να επιτύχουν τους σκοπούς τους, οι αρχές αυτές θα πρέπει να είναι λειτουργικά ανεξάρτητες και κυρίως στελεχωμένες με ειδικούς του χώρου που θα έχουν αποδεδειγμένη πρακτική εμπειρία και εγνωσμένο έργο στο πεδίο των ανθρωπίνων δικαιωμάτων και στην δημιουργία εφαρμοσμένων αλγοριθμικών συστημάτων.

Τρίτον, η χώρα μας, όπως κάθε Κράτος Μέλος έχει την δυνατότητα του sandboxing ή με άλλα λόγια την δυνατότητα δημιουργίας ενός ελεγχόμενου ρυθμιστικού περιβάλλοντος για την δοκιμή και την ανάπτυξη καινοτόμων συστημάτων τεχνητής νοημοσύνης. Ήδη αρκετές ευρωπαικές χώρες έχουν προχωρήσει στις σχετικές προετοιμασίες ενισχύοντας σημαντικά τον ρόλο των οργανισμών τυποποίησης και των ανεξάρτητων αρχών για την προστασία των προσωπικών δεδομένων που είναι απαραίτητη προϋπόθεση για την επιτυχημένη λειτουργία αυτών των οικοσυστημάτων.

Όλες αυτές οι νέες ρυθμίσεις δημιουργούν ευκαιρίες αλλά και πολλαπλές υποχρεώσεις: την ουσιαστική ενίσχυση των δημόσιων τεχνολογικών υποδομών και κυρίως πολιτική βούληση για τον διαρκή και αυστηρό έλεγχο της αξιοπιστίας αυτών των συστημάτων συλλογής δεδομένων, ουσιαστική ενίσχυση των σχετικών Ανεξάρτητων Αρχών αλλά και για αυστηρές παρεμβάσεις στην χρήση αυτών των συστημάτων.

Ο βαθμός ετοιμότητας και ωριμότητας της χώρας μας να καταστεί υπολογίσιμο μέγεθος σε αυτό το νέο τεχνολογικό περιβάλλον θα εξαρτηθεί εν πολλοίς όχι μόνο από την στόχευση της πολυαναμενομενης εθνικής στρατηγικής για την τεχνητή νοημοσύνη αλλά και από την ίδια την αρχιτεκτονική της διαδικασίας προετοιμασίας για την λειτουργική μας ενσωμάτωση στο νέο αυτό ευρωπαϊκό πλαίσιο.

O Δρ. Μιχάλης Kρητικός είναι ερευνητής του ΕΛΙΑΜΕΠ και Επίκουρος Καθηγητής σε θέματα Τεχνητής Νοημοσύνης και Ψηφιακής Μετάβασης στη Σχολή Διακυβέρνησης του Πανεπιστημίου των Βρυξελλών και συγγραφεας του βιβλιου Ethical AI Surveillance in the Workplace