ChatGPT: Στο στόχαστρο της ΕΕ για αυστηρότερους κανόνες στην τεχνητή νοημοσύνη

Οι νέοι προτεινόμενοι κανόνες για την τεχνητή νοημοσύνη θα στοχεύουν στην αντιμετώπιση των ανησυχιών σχετικά με τους κινδύνους που εγείρει το chatbot ChatGPT και η τεχνολογία AI, δήλωσε ο Ευρωπαίος Επίτροπος αρμόδιος για την εσωτερική αγορά Τιερί Μπρετόν, με αφορμή τους προβληματισμούς που διατυπώνονται το τελευταίο διάστημα σχετικά με το νέο αυτό επίτευγμα της τεχνητής νοημοσύνης και της εταιρείας OpenAI.

ChatGPT και Μοντέλα Δημιουργικής Τεχνητής Νοημοσύνης: Απειλή ή Πηγή Καινοτομίας

Μόλις δύο μήνες μετά την κυκλοφορία του, έχει χαρακτηριστεί ως η ταχύτερα αναπτυσσόμενη εφαρμογή καταναλωτών στην ιστορία. Το ChatGPT είναι ένα μοντέλο γλώσσας που έχει την ικανότητα να επεξεργάζεται φυσική γλώσσα και να διεξάγει διάλογο με το χρήστη. Ο/Η χρήστης μπορεί να πραγματοποιεί ερωτήσεις και το ChatGPT παράγει κείμενα σε δευτερόλεπτα, τα οποία πολλοί μπορούν εύκολα να πιστέψουν ότι τα έχει γράψει άνθρωπος. Θα έλεγε κανείς ότι το ChatGPT είναι ένα chatbot, το οποίο έχει τροφοδοτηθεί με έναν μεγάλο αριθμό δεδομένων και παραμέτρων και ως αποτέλεσμα, είναι σε θέση να δίνει λεπτομερείς απαντήσεις σε αρκετά δύσκολα ερωτήματα αλλά και να μπορεί να συμμετέχει σε διάλογο και να επεξηγεί μέρος των απαντήσεών του σε περίπτωση που ο/η χρήστης καταχωρήσει επιπλέον ερωτήσεις.

Τεχνολικό άλμα ή δρόμος για λογοκλοπή και παρακληροφόρηση;

Ορισμένοι ειδικοί έχουν εκφράσει φόβους ότι τα συστήματα που χρησιμοποιούνται από τέτοιες εφαρμογές θα μπορούσαν να χρησιμοποιηθούν για λογοκλοπή, απάτη και διάδοση παραπληροφόρησης, ακόμη και όταν οι «πρωταθλητές» της τεχνητής νοημοσύνης το χαιρετίζουν ως τεχνολογικό άλμα.

Ο Μπρετόν επισήμανε ότι οι κίνδυνοι που ενέχουν το ChatGPT και τα συστήματα τεχνητής νοημοσύνης υπογραμμίζουν την επείγουσα ανάγκη για θέσπιση κανόνων που πρότεινε πέρυσι σε μια προσπάθεια να διατυπωθεί και να τεθεί το παγκόσμιο πρότυπο για το τεχνολογία. Οι κανόνες συζητούνται επί του παρόντος στις Βρυξέλλες.

«Όπως προκύπτει από το ChatGPT, οι λύσεις τεχνητής νοημοσύνης μπορούν να προσφέρουν μεγάλες ευκαιρίες για τις επιχειρήσεις και τους πολίτες, αλλά μπορούν επίσης να προκαλέσουν και κινδύνους. Γι’ αυτό χρειαζόμαστε ένα σταθερό ρυθμιστικό πλαίσιο για να διασφαλίσουμε αξιόπιστη τεχνητή νοημοσύνη βασισμένη σε δεδομένα υψηλής ποιότητας», δήλωσε στο Reuters.

Η OpenAI, σύμφωνα με όσα αναγράφει στον ιστότοπό της, στοχεύει να παράγει τεχνητή νοημοσύνη που «ωφελεί όλη την ανθρωπότητα», καθώς προσπαθεί να δημιουργήσει ασφαλή και ωφέλιμη τεχνητή νοημοσύνη.

Σύμφωνα με το προσχέδιο κανόνων της ΕΕ, το ChatGPT θεωρείται ένα σύστημα τεχνητής νοημοσύνης γενικού σκοπού που μπορεί να χρησιμοποιηθεί για πολλαπλούς σκοπούς, συμπεριλαμβανομένων εκείνων υψηλού κινδύνου, όπως η επιλογή υποψηφίων για θέσεις εργασίας και η βαθμολογία πιστώσεων.

Ο Μπρετόν θέλει το OpenAI να συνεργάζεται στενά με μεταγενέστερους προγραμματιστές συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου για να επιτρέψει τη συμμόρφωσή τους με τον προτεινόμενο νόμο περί τεχνητής νοημοσύνης (AI Act).

«Το γεγονός ότι η γενετική τεχνητή νοημοσύνη συμπεριλήφθηκε πρόσφατα στον ορισμό δείχνει την ταχύτητα με την οποία αναπτύσσεται η τεχνολογία και ότι οι ρυθμιστικές αρχές αγωνίζονται να συμβαδίσουν με αυτόν τον ρυθμό», σχολίασε ένας συνεργάτης σε μια δικηγορική εταιρεία των ΗΠΑ.

Ανησυχία για τον ορισμό του «υψηλού κινδύνου»

Οι εταιρείες ανησυχούν για την ταξινόμηση της τεχνολογίας τους στην κατηγορία τεχνητής νοημοσύνης «υψηλού κινδύνου», κάτι που θα οδηγούσε σε αυστηρότερες απαιτήσεις συμμόρφωσης και υψηλότερο κόστος, σύμφωνα με στελέχη πολλών εταιρειών που εμπλέκονται στην ανάπτυξη τεχνητής νοημοσύνης.

Μια έρευνα από τον κλάδο εφαρμοσμένης τεχνητής νοημοσύνης έδειξε ότι το 51% των ερωτηθέντων αναμένει επιβράδυνση των δραστηριοτήτων ανάπτυξης της τεχνητής νοημοσύνης ως αποτέλεσμα του νόμου περί τεχνητής νοημοσύνης.

Οι αποτελεσματικοί κανονισμοί για την τεχνητή νοημοσύνη θα πρέπει να επικεντρώνονται στις εφαρμογές υψηλότερου κινδύνου, έγραψε ο Πρόεδρος της Microsoft Μπραντ Σμιθ σε μια ανάρτησή του την Τετάρτη.

«Υπάρχουν μέρες που είμαι αισιόδοξος και στιγμές που είμαι απαισιόδοξος για το πώς η ανθρωπότητα θα χρησιμοποιήσει την τεχνητή νοημοσύνη», είπε.

Ο Μπρετόν σημείωσε ότι η Ευρωπαϊκή Επιτροπή συνεργάζεται στενά με το Συμβούλιο της ΕΕ και το Ευρωπαϊκό Κοινοβούλιο για να αποσαφηνιστούν περαιτέρω οι κανόνες του νόμου περί τεχνητής νοημοσύνης για συστήματα τεχνητής νοημοσύνης γενικού σκοπού.

«Οι άνθρωποι θα πρέπει να ενημερωθούν ότι έχουν να κάνουν με ένα chatbot και όχι με έναν άνθρωπο. Η διαφάνεια είναι επίσης σημαντική όσον αφορά τον κίνδυνο μεροληψίας και ψευδών πληροφοριών», πρόσθεσε.

Τα μοντέλα τεχνητής νοημοσύνης που δημιουργούνται πρέπει να εκπαιδεύονται σε τεράστιο όγκο κειμένου ή εικόνων για τη δημιουργία κατάλληλης απάντησης που οδηγεί σε καταγγελίες για παραβιάσεις πνευματικών δικαιωμάτων.

Ο Μπρετόν είπε ότι οι προσεχείς συζητήσεις με τους νομοθέτες σχετικά με τους κανόνες τεχνητής νοημοσύνης θα κάλυπταν αυτές τις πτυχές.

Οι ανησυχίες σχετικά με τη λογοκλοπή από μαθητές έχουν ωθήσει ορισμένα δημόσια σχολεία των ΗΠΑ και το γαλλικό πανεπιστήμιο Sciences Po να απαγορεύσουν τη χρήση του ChatGPT.