![Mπορεί η AI να μάθει να υπακούει στον νόμο;](https://www.ot.gr/wp-content/uploads/2024/01/Artificial-General-Intelligence-768x432-1.jpg)
Project Syndicate
Αν η δουλειά του Βρετανού επιστήμονα υπολογιστών Άλαν Τούρινγκ για τις «μηχανές σκέψης» ήταν το prequel σε αυτό που σήμερα ονομάζουμε τεχνητή νοημοσύνη, το μπεστ σέλερ Thinking, Fast and Slow του αείμνηστου ψυχολόγου Daniel Kahneman μπορεί να είναι η συνέχεια, δεδομένης της γνώσης του πώς σκεφτόμαστε οι ίδιοι. Η κατανόηση του «εμείς» θα είναι ζωτικής σημασίας για τη ρύθμιση «αυτών».
Αυτή η προσπάθεια έχει περάσει γρήγορα στην κορυφή της ατζέντας των υπευθύνων χάραξης πολιτικής. Στις 21 Μαρτίου, τα Ηνωμένα Έθνη υιοθέτησαν ομόφωνα ένα ψήφισμα ορόσημο (με επικεφαλής τις Ηνωμένες Πολιτείες) καλώντας τη διεθνή κοινότητα «να κυβερνήσει αυτήν την τεχνολογία αντί να την αφήσει να μας κυβερνήσει».
Και αυτό ήρθε μετά τον νόμο AI της Ευρωπαϊκής Ένωσης και τη Διακήρυξη Bletchley για την ασφάλεια της τεχνητής νοημοσύνης, την οποία υπέγραψαν περισσότερες από 20 χώρες (οι περισσότερες προηγμένες οικονομίες) τον περασμένο Νοέμβριο. Επιπλέον, οι προσπάθειες σε επίπεδο χώρας συνεχίζονται, συμπεριλαμβανομένων των ΗΠΑ, όπου ο Πρόεδρος Τζο Μπάιντεν έχει εκδώσει εκτελεστικό διάταγμα για την «ασφαλή, και αξιόπιστη ανάπτυξη και χρήση» της τεχνητής νοημοσύνης.
Αυτές οι προσπάθειες είναι μια απάντηση στον αγώνα εξοπλισμών AI που ξεκίνησε με τη δημόσια κυκλοφορία του ChatGPT από το OpenAI στα τέλη του 2022. Η βασική ανησυχία είναι το ολοένα και πιο γνωστό «πρόβλημα ευθυγράμμισης»: το γεγονός ότι οι στόχοι μιας τεχνητής νοημοσύνης και τα επιλεγμένα μέσα για την επιδίωξή τους μπορεί να μην σέβονται ή ακόμα και να μην είναι συμβατά με εκείνα των ανθρώπων. Τα νέα εργαλεία τεχνητής νοημοσύνης έχουν επίσης τη δυνατότητα να επιτρέπουν την κατάχρηση από κακούς παράγοντες (από απατεώνες μέχρι προπαγανδιστές), να εμβαθύνουν και να ενισχύσουν προϋπάρχουσες μορφές διακρίσεων και μεροληψίας, να παραβιάσουν το απόρρητο και να εκτοπίσουν εργαζομένους.
Η πιο ακραία μορφή του προβλήματος ευθυγράμμισης είναι ο υπαρξιακός κίνδυνος που δημιουργείται από την τεχνητή νοημοσύνη. Τα διαρκώς εξελισσόμενα AI που μπορούν να διδάξουν τον εαυτό τους θα μπορούσαν να γίνουν απατεώνες και να αποφασίσουν να δημιουργήσουν μια οικονομική κρίση, να επηρεάσουν τις εκλογές ή ακόμα και να δημιουργήσουν ένα βιολογικό όπλο.
Όμως, ένα αναπάντητο ερώτημα αποτελεί τη βάση της θέσης της τεχνητής νοημοσύνης ως πιθανής υπαρξιακής απειλής: Με ποιες ανθρώπινες αξίες πρέπει να ευθυγραμμιστεί η τεχνολογία; Θα έπρεπε να είναι φιλοσοφικά ωφελιμιστικό (κατά την παράδοση των John Stuart Mill και Jeremy Bentham), ή δεοντολογικό (στην παράδοση του Emmanuel Kant και του John Rawls); Θα έπρεπε να είναι πολιτιστικά ΠΕΡΙΕΡΓΟ (Δυτικό, μορφωμένο, βιομηχανοποιημένο, πλούσιο, δημοκρατικό) ή μη ΠΑΡΑΞΕΝΟ; Πρέπει να είναι πολιτικά συντηρητικό ή φιλελεύθερο; Θα έπρεπε να είναι σαν εμάς ή να είναι καλύτερο από εμάς;
Αυτά τα ερωτήματα δεν είναι απλώς υποθετικά. Έχουν ήδη βρεθεί στο επίκεντρο των πραγματικών συζητήσεων, συμπεριλαμβανομένων εκείνων που ακολούθησαν την κυκλοφορία ενός ρατσιστή, μισογυνιστή, υπερσεξουαλικού chatbot από τη Microsoft το 2016. Ο παράξενα χειριστικός, σαγηνευτικός Σίδνεϊ του Bing (που προσπάθησε να πείσει έναν ρεπόρτερ τεχνολογίας να αφήσει τη γυναίκα του) και, πιο πρόσφατα, ο Gemini της Google, του οποίου ο «ξύπνιος» χαρακτήρας την οδήγησε να δημιουργήσει ιστορικά παράλογα αποτελέσματα όπως εικόνες μαύρων στρατιωτών των Ναζί.
Ευτυχώς, οι σύγχρονες κοινωνίες έχουν επινοήσει έναν μηχανισμό που επιτρέπει σε διαφορετικές ηθικές φυλές να συνυπάρχουν: το κράτος δικαίου. Όπως έχω σημειώσει σε προηγούμενα σχόλια, το δίκαιο, ως θεσμός, αντιπροσωπεύει την αποθέωση της συνεργασίας. Η εμφάνισή του ήταν μια βαθιά ανακάλυψη μετά από αιώνες ανθρωπότητας που αγωνίστηκε να λύσει το δικό της πρόβλημα ευθυγράμμισης: πώς να οργανώσει τη συλλογική δράση.
Γνωστικά, το δίκαιο αντιπροσώπευε μια ριζοσπαστική νέα τεχνολογία. Μόλις εσωτερικεύτηκε, ευθυγράμμισε την ατομική δράση με την κοινοτική συναίνεση. Ο νόμος τηρούνταν ως νόμος, ανεξάρτητα από την υποκειμενική κρίση ενός ατόμου για οποιονδήποτε δεδομένο κανόνα. Αρκετοί εξέχοντες φιλόσοφοι έχουν καταφύγει σε αυτό το μοναδικό χαρακτηριστικό. Ο νομικός θεωρητικός του εικοστού αιώνα HLA Hart περιέγραψε το δίκαιο ως έναν μηχανισμό που επιτρέπει τη διαμόρφωση των κανόνων αλλάζοντας τις υποκείμενες μετα-νόρμες συμπεριφοράς.
Πιο πρόσφατα, ο Ronald Dworkin χαρακτήρισε το δίκαιο με όρους «ακεραιότητας», επειδή ενσωματώνει τους κανόνες ολόκληρης της κοινότητας, αντί να μοιάζει με «σκακιέρα». Εάν το δίκαιο ήταν ένα συνονθύλευμα, θα μπορούσε να αντιπροσωπεύει καλύτερα μεμονωμένες εκλογικές ομάδες πεποιθήσεων και απόψεων, αλλά σε βάρος της συνοχής. Ο νόμος λοιπόν χρησιμεύει ως κουμπί παράκαμψης έναντι της ατομικής ανθρώπινης συμπεριφοράς. Απορροφά πολύπλοκες συζητήσεις για τα ήθη και τις αξίες και τις μετατρέπει σε δεσμευτικούς κανόνες.
Το μεγαλύτερο μέρος της τρέχουσας συζήτησης σχετικά με την τεχνητή νοημοσύνη και τη νομοθεσία επικεντρώνεται στο πώς η τεχνολογία μπορεί να αμφισβητήσει τα κυρίαρχα ρυθμιστικά παραδείγματα. Μια ανησυχία είναι το «φαινόμενο της κόκκινης βασίλισσας» (μια νύξη στην Αλίκη στη Χώρα των Θαυμάτων), το οποίο περιγράφει την εγγενή δυσκολία διατήρησης της τρέχουσας ρύθμισης με μια τεχνολογία που κινείται γρήγορα. Ένα άλλο ζήτημα είναι η πρόκληση της ρύθμισης μιας πραγματικά παγκόσμιας τεχνολογίας σε εθνικό επίπεδο. Και μετά υπάρχει το τέρας του Φρανκενστάιν πρόβλημα μιας νέας τεχνολογίας που αναπτύσσεται σε μεγάλο βαθμό από μερικές εταιρείες του ιδιωτικού τομέα των οποίων οι προτεραιότητες (κέρδη) διαφέρουν από εκείνες του κοινού.
Είναι πάντα δύσκολο να επιτευχθεί η σωστή ισορροπία μεταξύ της προώθησης της καινοτομίας και του μετριασμού των δυνητικά τεράστιων κινδύνων που συνδέονται με μια νέα τεχνολογία. Καθώς η τεχνητή νοημοσύνη αναμένεται να αλλάξει όλο και περισσότερο την ίδια τη νομική πρακτική, μπορεί ο νόμος να αλλάξει ακόμα την τροχιά της τεχνητής νοημοσύνης; Πιο συγκεκριμένα, εάν οι «μηχανές σκέψης» είναι ικανές να μαθαίνουν, μπορούν να μάθουν να υπακούουν στο νόμο;
Καθώς οι τεχνολογικοί γίγαντες σπεύδουν να επιδιώξουν την τεχνητή γενική νοημοσύνη – μοντέλα που μπορούν να ξεπεράσουν τους ανθρώπους σε οποιαδήποτε γνωστική εργασία – το πρόβλημα του «μαύρου κουτιού» της τεχνητής νοημοσύνης παραμένει. Ούτε οι δημιουργοί της τεχνολογίας γνωρίζουν πώς ακριβώς λειτουργεί.
Δεδομένου ότι οι προσπάθειες να εκχωρηθεί η τεχνητή νοημοσύνη σε μια «αντικειμενική λειτουργία» θα μπορούσαν να προκαλέσουν ακούσιες συνέπειες (για παράδειγμα, μια τεχνητή νοημοσύνη που έχει επιφορτιστεί με την κατασκευή συνδετήρων θα μπορούσε να αποφασίσει ότι η εξάλειψη της ανθρωπότητας είναι απαραίτητη για τη μεγιστοποίηση της παραγωγής της), θα χρειαστούμε μια πιο εξελιγμένη προσέγγιση.
Για το σκοπό αυτό, θα πρέπει να μελετήσουμε τη γνωστική εξέλιξη που επέτρεψε στις ανθρώπινες κοινωνίες να αντέξουν για όσο διάστημα έχουν. Το εάν οι ανθρώπινοι νόμοι μπορούν να επιβληθούν ως περιορισμός σχεδιασμού (ίσως με τους φύλακες της τεχνητής νοημοσύνης να παίζουν το ρόλο των διακοπτών, το αντίστοιχο των αξιωματικών επιβολής του νόμου στις ανθρώπινες κοινωνίες) είναι ένα ερώτημα για τους μηχανικούς. Αλλά αν μπορεί να γίνει, μπορεί να αντιπροσωπεύει τη σωτηρία μας.
Μέσω του νόμου, μπορούμε να απαιτήσουμε από την τεχνητή νοημοσύνη να πληρώσει το τίμημα της εισδοχής στην κοινωνία μας: την υπακοή στον συλλογικό κώδικα δεοντολογίας μας. Εάν τα νευρωνικά δίκτυα τεχνητής νοημοσύνης μιμούνται τον εγκέφαλό μας και ο νόμος είναι, όπως πιστεύεται ευρέως, ένα σε μεγάλο βαθμό γνωστικό φαινόμενο, αυτό θα πρέπει να είναι δυνατό. Εάν όχι, το πείραμα θα ρίξει τουλάχιστον φως στον ρόλο των συναισθηματικών και κοινωνικών παραγόντων στη διατήρηση του ανθρώπινου νόμου. Αν και μπορεί να χρειαστεί να επανεξετάσουμε και να βελτιώσουμε ορισμένα στοιχεία της υπάρχουσας νομοθεσίας, αυτή η προοπτική τουλάχιστον μας αναγκάζει να εξετάσουμε τις κρίσιμες διαφορές μεταξύ «εμείς» και «αυτοί». Εκεί πρέπει να ξεκινήσουν οι προσπάθειές μας για τη ρύθμιση της τεχνητής νοημοσύνης.
Η Antara Haldar, Αναπληρώτρια Καθηγήτρια Εμπειρικών Νομικών Σπουδών στο Πανεπιστήμιο του Κέιμπριτζ, είναι επισκέπτρια στο Πανεπιστήμιο του Χάρβαρντ και η κύρια ερευνήτρια για μια επιχορήγηση του Ευρωπαϊκού Συμβουλίου Έρευνας για το δίκαιο και τη γνώση.
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
Latest News
![Τράπεζες, επενδυτικές υπηρεσίες και καθήκον διαφώτισης πελατών](https://www.ot.gr/wp-content/uploads/2024/04/ot_banking37-1024x600-1-600x352.png)
Τράπεζες, επενδυτικές υπηρεσίες και καθήκον διαφώτισης πελατών
H τράπεζα οφείλει να παρέχει συμβουλές προσαρμοσμένες στο προφίλ του πελάτη
![Οι μεγάλες προκλήσεις για την οικονομία της Κίνας](https://www.ot.gr/wp-content/uploads/2024/02/Kina-sangkai-600x399.jpg)
Οι μεγάλες προκλήσεις για την οικονομία της Κίνας
Η εμπειρία δείχνει ότι η κινεζική ηγεσία τείνει να δίνει υπερβολικές υποσχέσεις
![Πώς θα προσδιοριστεί το ελάχιστο φορολογητέο εισόδημα των ατομικών επιχειρήσεων (Γ’ Μέρος)](https://www.ot.gr/wp-content/uploads/2023/05/ot_greek_epixeir-1024x600-2-600x352.png)
Πώς θα προσδιοριστεί το ελάχιστο φορολογητέο εισόδημα των ατομικών επιχειρήσεων
Τι θα πρέπει να γνωρίζετε
![Habemum papam στην τεχνητή νοημοσύνη: Tι σημαίνει για τη χώρα μας](https://www.ot.gr/wp-content/uploads/2023/05/1509353852964_texniti_noimosini-H793-768x446-1-600x348.jpg)
Habemum papam στην τεχνητή νοημοσύνη: Tι σημαίνει για τη χώρα μας
Τι σημαίνει για την Ελλάδα η Πράξη για την Τεχνητή Νοημοσύνη που ενέκρινε το Συμβούλιο Υπουργών της ΕΕ
![Δημοσιονομικά προβλήματα ενόψει](https://www.ot.gr/wp-content/uploads/2024/07/FranceFlagStatue-600x400.jpg)
Δημοσιονομικά προβλήματα ενόψει
Οι καιροί είναι δύσκολοι, τα συναισθήματα είναι έντονα – και η Γαλλία δεν έχει παράδοση στη δημιουργία συνασπισμών μεταξύ κομμάτων με πολύ διαφορετικές πολιτικές πεποιθήσεις
![Ρύθμιση χρεών στο δημόσιο – Οδηγίες για την υποβολή της αίτησης](https://www.ot.gr/wp-content/uploads/2023/02/xrei_dimosio-600x337.jpg)
Πώς να ρυθμίσετε τα χρέη στο Δημόσιο - Οι δόσεις και η αίτηση
Σε πόσες δόσεις μπορώ να πληρώσω – Συμπλήρωση της αίτησης – υπεύθυνης δήλωσης
![Εργατικό δυναμικό, απασχόληση και ποιότητα της εργασίας στην Ελλάδα](https://www.ot.gr/wp-content/uploads/2024/06/ergasia-ergazomenos-600x300.jpg)
Εργατικό δυναμικό, απασχόληση και ποιότητα της εργασίας στην Ελλάδα
Σύμφωνα με τα στοιχεία της Eurostat, το ποσοστό συμμετοχής στο εργατικό δυναμικό στην Ελλάδα είναι 75,4%
![Εξαήμερη απασχόληση με τον νόμο 5053/2023 – Ποιους αφορά](https://www.ot.gr/wp-content/uploads/2023/05/ergasia-grafei-1-768x431-1-600x337.jpg)
Εξαήμερη απασχόληση με τον νόμο 5053/2023 – Ποιους αφορά
Σε ποιες περιπτώσεις είναι νόμιμη η 6ήμερα εργασία
![Ανακοπή κατά της δήλωσης συνέχισης πλειστηριασμού – Τι ισχύει](https://www.ot.gr/wp-content/uploads/2021/06/πλειστηριασμοι-600x359.jpg)
Ανακοπή κατά της δήλωσης συνέχισης πλειστηριασμού – Τι ισχύει
Αντιρρήσεις για οποιοδήποτε λόγο που αφορά το κύρος της δήλωσης συνέχισης και υποκατάστασης, ασκούνται με ανακοπή μέσα σε προθεσμία τριάντα ημερών από την ημέρα της κατά την παράγραφο 1 ανάρτησης
![Εξωστρέφεια, καινοτομία και ευρωπαϊκοί πόροι](https://www.ot.gr/wp-content/uploads/2024/04/business1-600x338.jpg)
Εξωστρέφεια, καινοτομία και ευρωπαϊκοί πόροι
Σημαντική στην ενίσχυση της εξωστρέφειας των ελληνικών επιχειρήσεων είναι και η αξιοποίηση των πόρων του Ταμείου Ανάκαμψης