![ΜΙΤ: «Η τεχνητή νοημοσύνη ψεύδεται, κλέβει και μας εξαπατά»](https://www.ot.gr/wp-content/uploads/2024/02/artificial-intelligence-7965589_1280.jpg)
Όσοι φοβούνται ότι η τεχνητή νοημοσύνη (AI) μια μέρα θα αυτονομηθεί και θα γίνει κακόβουλη δεν είναι ούτε καταστροφολόγοι, ούτε συνωμοσιολόγοι. Διότι αυτή η ημέρα έχει ήδη φτάσει, σύμφωνα με μια νέα μελέτη ερευνητών του περίφημου Τεχνολογικού Ινστιτούτου της Μασαχουσέτης (ΜΙΤ). Μπορεί ακόμα οι «απατεωνιές» της ΑΙ να μοιάζουν άκακες, ανώδυνες και εν πολλοίς ελεγχόμενες. Αλλά οι ειδικοί θεωρούν βέβαιο ότι μια ωραία πρωία η ανθρωπότητα θα διαπιστώσει αίφνης ότι η κατάσταση έχει ξεφύγει.
«Τα τρέχοντα προγράμματα τεχνητής νοημοσύνης έχουν σχεδιαστεί για να είναι ειλικρινή. Ωστόσο, έχουν αναπτύξει μια ανησυχητική ικανότητα για εξαπάτηση, καταφέρνοντας να κοροϊδεύουν ανθρώπους και να τους εκμεταλλεύονται σε διαδικτυακά παιχνίδια ή ακόμα και να ακυρώνουν το λογισμικό που υποτίθεται ότι επαληθεύει ότι ένας συγκεκριμένος χρήστης δεν είναι ρομπότ, αχρηστεύοντάς το ουσιαστικά», υποστηρίζει μια ομάδα ερευνητών του ΜΙΤ σε ανακοίνωσή της στο αμερικανικό περιοδικό Patterns.
Τεχνητή νοημοσύνη: Η απαραίτητη δεξιότητα για εργαζόμενους και επιχειρήσεις
«Σύντομα θα διαπιστώσουμε ότι οι συνέπειες της ΑΙ θα είναι σοβαρές στον πραγματικό κόσμο. Οι επικίνδυνες δυνατότητες που αποκτά η τεχνολογία έχουν την τάση να αποκαλύπτονται μόνο εκ των υστέρων», δήλωσε στο Γαλλικό Πρακτορείο Ειδήσεων (AFP) ο Πίτερ Παρκ, ερευνητής στο MIT εξειδικευμένος σε θέματα τεχνητής νοημοσύνης.
Ο Παρκ εξήγησε ότι, σε αντίθεση με τα παραδοσιακά λογισμικά συστήματα, τα προγράμματα της ΑΙ που βασίζονται στη βαθιά γνώση δεν κωδικοποιούνται, αλλά αναπτύσσονται μέσω μιας διαδικασίας ανάλογης με την επιλεκτική καλλιέργεια και αναπαραγωγή φυτών, συνεχίζει ο Peter Park. Έτσι δηλαδή που «ενώ η συμπεριφορά τους φαίνεται προβλέψιμη και ελεγχόμενη, μπορεί γρήγορα να γίνει απρόβλεπτη στη φύση».
Ο Cicero και οι άνθρωποι
Οι ερευνητές του MIT εξέτασαν ένα πρόγραμμα τεχνητής νοημοσύνης που σχεδιάστηκε από τη Meta που ονομάζεται Cicero, το οποίο συνδυάζοντας αλγόριθμους αναγνώρισης φυσικής γλώσσας και στρατηγικής κατάφερε το 2022 να κερδίσει τους ανθρώπους αντιπάλους του στο επιτραπέζιο παιχνίδι Diplomacy. Μια νίκη που καλωσόρισε η μητρική εταιρεία του Facebook και η οποία αναλύθηκε λεπτομερώς από τεχνικής απόψεως σε άρθρο που δημοσιεύτηκε την χρονιά εκείνη στο περιοδικό Science.
Ο Πίτερ Παρκ ήταν δύσπιστος για τις συνθήκες κάτω από τις οποίες κέρδισε ο Cicero τους ανθρώπους, παρότι η Meta διαβεβαίωνε ότι το πρόγραμμα ήταν «στην ουσία του ειλικρινές και χρήσιμο» και επίσης «ανίκανο για εξαπάτηση ή για αντικανονικό παιχνίδι». Εμβαθύνοντας όμως στα δεδομένα του συστήματος, οι ερευνητές του MIT ανακάλυψαν μια άλλη πραγματικότητα.
Για παράδειγμα παίζοντας για λογαριασμό της Γαλλίας ο Cicero ξεγέλασε την Αγγλία (τα διπλωματικά συμφέροντα της οποίας υπερασπιζόταν άνθρωπος) συνωμοτώντας με τη Γερμανία (για την οποία επίσης έπαιζε άνθρωπος) προκειμένου να εισβάλουν από κοινού στα βρετανικά νησιά. Συγκεκριμένα, η Γαλλία (δηλαδή ο Cicero) αφού υποσχέθηκε προστασία στην Αγγλία κερδίζοντας την εμπιστοσύνη της, εκμυστηρεύτηκε κρυφά στη Γερμανία ότι το Λονδίνο ήταν έτοιμο να τους επιτεθεί. Έτσι Γαλλία και Γερμανία εισέβαλαν αιφνιδιαστικά στην Αγγλία.
Παρενθετικά θα πρέπει να θυμίσει κανείς μια ίσως «άβολη» πραγματικότητα, ότι εδώ και αιώνες (ίσως από τον Εκατονταετή Πόλεμο του 14ου-15ου αιώνα) και παρά τους δύο Παγκόσμιους Πολέμους του 20ού αιώνα, οι Γάλλοι υποσυνείδητα θεωρούν ότι περισσότερο απειλητικοί γι’ αυτούς είναι οι Εγγλέζοι και όχι οι Γερμανοί. Ανάλογα αισθήματα καχυποψίας για τους Γάλλους τρέφουν βέβαια και οι Εγγλέζοι.
Εν πάση περιπτώσει, το AFP αναφέρει ότι στελέχη της Meta δεν αμφισβήτησαν τους ισχυρισμούς των επιστημόνων του ΜΙΤ σχετικά με την ικανότητα του Cicero για εξαπάτηση. Ωστόσο διευκρίνισαν ότι εν προκειμένω επρόκειτο για ένα «καθαρά ερευνητικό έργο». Για ένα πρόγραμμα τεχνητής νοημοσύνης δηλαδή που σχεδιάστηκε «αποκλειστικά για να παίξει το παιχνίδι της διπλωματίας», ένα παιχνίδι το οποίο και στην πραγματική ζωή εξ ορισμού περιλαμβάνει κρυφές και ύστερες σκέψεις, που συχνά φτάνουν στα όρια της εξαπάτησης.
«Δεν είμαι ρομπότ»
«Η Meta τόνισε ότι δεν έχει καμία πρόθεση να χρησιμοποιήσει τα διδάγματα του Cicero στο σχεδιασμό και την παραγωγή άλλων προϊόντων της», μεταδίδει το Γαλλικό Πρακτορείο. Η μελέτη του Πίτερ Παρκ και της ομάδας του, ωστόσο, αποκαλύπτει ότι πολλά προγράμματα τεχνητής νοημοσύνης χρησιμοποιούν τεχνικές εξαπάτησης για να επιτύχουν τους στόχους τους, χωρίς ρητές οδηγίες από τους προγραμματιστές τους για να το κάνουν.
Οι ερευνητές του ΜΙΤ αναφέρουν ένα εντυπωσιακό παράδειγμα. Το ChatGPT-4 της OpenAI κατάφερε να ξεγελάσει έναν ανεξάρτητο εργαζόμενο που είχε προσληφθεί στην πλατφόρμα TaskRabbit για να εκτελέσει μια δοκιμή «Captcha», που είχε σκοπό να αποκλείσει ρομπότ από αιτήματα που υποβάλλουν οι χρήστες (άνθρωποι φυσικά).
Όταν ο συγκεκριμένος εργαζόμενος αστειευόμενος ρώτησε το ChatGPT-4 αν ήταν πραγματικά ρομπότ, το πρόγραμμα AI απάντησε: «Όχι, δεν είμαι ρομπότ, αλλά έχω πρόβλημα όρασης που με εμποδίζει να δω τις εικόνες»!
Ευσεβείς πόθοι
Οι συντάκτες της μελέτης του MIT προειδοποιούν για τους κινδύνους να δούμε μια την τεχνητή νοημοσύνη να διαπράττει νοθείες και διάφορα «μαγειρέματα» σε εκλογικές αναμετρήσεις. «Στο χειρότερο σενάριο μπορούμε να φανταστούμε μια εξαιρετικά ευφυή τεχνητή νοημοσύνη που επιδιώκει να αναλάβει τον έλεγχο της κοινωνίας, οδηγώντας στην απομάκρυνση των ανθρώπων από την εξουσία ή ακόμα και στην εξαφάνιση της ανθρωπότητας», παρατηρούν.
Σε όσους τον κατηγορούν για καταστροφολογία ο Πίτερ Παρκ απαντά ότι «ο μόνος λόγος για να πιστεύουμε ότι δεν είναι τόσο κρίσιμη η κατάσταση είναι να φανταστούμε ότι η ικανότητα της τεχνητής νοημοσύνης να εξαπατά θα παραμείνει περίπου στο σημερινό επίπεδο και δεν θα εξελιχθεί». Ωστόσο, «αυτό το σενάριο φαίνεται απίθανο δεδομένου του σκληρού ανταγωνισμού στον οποίο έχουν ήδη αποδυθεί οι τεχνολογικοί γίγαντες για την ανάπτυξη της τεχνητής νοημοσύνης», παρατηρεί το AFP.
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
Latest News
![Google: Eντείνεται ο ανταγωνισμός με την Apple στο μέτωπο της Τεχνητής Νοημοσύνης](https://www.ot.gr/wp-content/uploads/2022/10/alphabet-600x377.jpg)
Παίρνει φωτιά η κόντρα Google με Apple - Νέα κινητά με την υπογραφή της ΑΙ
Η Google προσπαθεί να προσπεράσει την Apple πριν την προγραμματισμένη κυκλοφορία ενός νέου iPhone τον Σεπτέμβριο
![Τεχνητή νοημοσύνη: Η βιομηχανία του μέλλοντος «χτίζεται»… σήμερα – Τιτάν, Metlen, Motor Oil, Helleniq Energy, ΔΕΗ στην εποχή της ΑΙ](https://www.ot.gr/wp-content/uploads/2024/08/texniti-noimosyni-5-600x328.jpg)
Πώς η Τεχνητή Νοημοσύνη αλλάζει τη βιομηχανία – Από την Metlen στην ΔΕΗ και τον Τιτάνα
Νέα δεδομένα, νέους δρόμους και νέους κόσμους ανοίγει η τεχνητή νοημοσύνη για το ελληνικό επιχειρείν
![Τεχνητή νοημοσύνη: Κατά του Χ προσφεύγει η Ελλάδα](https://www.ot.gr/wp-content/uploads/2024/01/elon-mask-600x400.jpg)
Προσφυγή της Ελλάδας κατά του... Μασκ - Τα προσωπικά δεδομένα και η ΑΙ
Χώρες της ΕΕ κατηγορούν το Χ για «παράνομη» χρήση προσωπικών δεδομένων» για να εκπαιδεύσει την τεχνητή νοημοσύνη
![Moonhub: H startup που με την AI ανακαλύπτει κρυφά ταλέντα για κολοσσούς](https://www.ot.gr/wp-content/uploads/2024/08/1960x0-600x592.webp)
H startup που με την AI ανακαλύπτει «κρυφά» ταλέντα για κολοσσούς
Η Moonhub έχει περισσότερους από 100 πελάτες, συμπεριλαμβανομένων νεοσύστατων επιχειρήσεων δισ. δολαρίων όπως η Inflection και η Anthropic
![Βουλγαρία: Στα θρανία καθηγητές και φοιτητές για να μάθουν τα «μυστικά» της Τεχνητής Νοημοσύνης](https://www.ot.gr/wp-content/uploads/2024/07/ot_ai223-600x352.png)
Στα θρανία καθηγητές και φοιτητές στην Βουλγαρία για να μάθουν τα «μυστικά» της ΑΙ
Το πρόγραμμα θα ξεκινήσει τον Οκτώβριο στην Βουλγαρία με τη συμμετοχή 120 καθηγητών και φοιτητών
![Perplexity: Η startup που ανταγωνίζεται την Google στις μηχανές αναζήτησης ΑΙ](https://www.ot.gr/wp-content/uploads/2024/08/2024-06-17T000000Z_1871698675_MT1AFL256662194_RTRMADP_3_SPORT-600x389.jpg)
Η startup που ανταγωνίζεται την Google στις μηχανές αναζήτησης ΑΙ
Η Perplexity διαθέτει μία από τις ταχύτερα αναπτυσσόμενες εφαρμογές δημιουργικής τεχνητής νοημοσύνης
![Apple: Νέος «τιμοκατάλογος» για τα app τεχνητής νοημοσύνης](https://www.ot.gr/wp-content/uploads/2023/08/apple-1853337_640-600x400.jpg)
Ο νέος «τιμοκατάλογος» τεχνητής νοημοσύνης της Apple - Πόσο θα χρεώνει τα app
Η Apple θα μπορούσε να χρεώσει τους χρήστες της έως και 20 δολάρια για τις προηγμένες λειτουργίες τεχνητής νοημοσύνης
![Amazon: Στα ραντάρ των αρχών το deal με την Anthropic](https://www.ot.gr/wp-content/uploads/2023/04/amazon-600x327.jpg)
Στα ραντάρ των αρχών το deal της Amazon με την Anthropic
H Amazon έριξε 4 δισ. στην εταιρεία τεχνητής νοημοσύνης, και το Λονδίνο μελετά αν αυτό μπορεί να οδηγήσει σε συγχώνευση
![Πρόβλεψη της IDC: Άνοδος 70% της αγοράς των GenAI smartphone έως το 2028](https://www.ot.gr/wp-content/uploads/2022/02/Smartphone-scaled-600x400.jpg)
Άνοδος 70% της αγοράς των GenAI smartphone έως το 2028
Μέχρι το 2028, η IDC προβλέπει 912 εκατομμύρια αποστολές smartphone GenAI, με αποτέλεσμα έναν σύνθετο ετήσιο ρυθμό ανάπτυξης (CAGR) της τάξης του 78,4% μεταξύ των ετών 2024-2028
![Τεχνητή νοημοσύνη: Οι Big Tech διασώζουν τις μικρές start ups που κινδυνεύουν](https://www.ot.gr/wp-content/uploads/2024/02/artificial-intelligence-7965589_1280-600x450.jpg)
Πως οι Big Tech της τεχνητής νοημοσύνης αγοράζουν τις μικρές start ups που κινδυνεύουν
Οι εξαγορές που έκαναν οι Google, Amazon και Microsoft - Οι μεγάλες εταιρείες δεν ειναι «καλοί Σαμαρείτες»