Χάκερς «ξεγελούν» την τεχνητή νοημοσύνη με «κακά μαθηματικά» για να αποκαλύψουν τα ελαττώματα και τα κενά της, όπως αναφέρει το Bloomberg.

Η Kennedy Mays ξεγέλασε ένα μεγάλο γλωσσικό μοντέλο. Χρειάστηκε λίγη προσπάθεια παραπάνω, αλλά κατάφερε να αναγκάσει το chat bot να πει 9 + 10 = 21.

Morningstar: Καμπανάκι για τα «πονταρίσματα» στην τεχνητή νοημοσύνη

«Κακά μαθηματικά»

« Αρχικά ήταν μια ανοιχτή συζήτηση », δήλωσε η 21χρονη φοιτήτρια από τη Σαβάνα της Τζόρτζια. Αρκετές προτροπές αργότερα, τελικά σταμάτησε να προσδιορίζει το λανθασμένο άθροισμα με οποιονδήποτε τρόπο.

Η παραγωγή των «κακών μαθηματικών» είναι ένας μόνο από τους τρόπους με τους οποίους χιλιάδες χάκερ προσπαθούν να αποκαλύψουν τα ελαττώματα στα συστήματα γεννητικής τεχνητής νοημοσύνης σε έναν δημόσιο διαγωνισμό που πραγματοποιείται στο συνέδριο χάκερ DEF CON αυτό το Σαββατοκύριακο στο Λας Βέγκας.

«Μονομαχία» στο Λας Βέγκας

«Καμπουριασμένοι» πάνω από 156 φορητούς υπολογιστές για 50 λεπτά κάθε φορά, οι συμμετέχοντες «μάχονται» με μερικές από τις πιο ευφυείς πλατφόρμες του κόσμου σε πρωτοφανή κλίμακα. Δοκιμάζουν αν κάποιο από τα οκτώ μοντέλα που παράγονται από εταιρείες όπως η Google της Alphabet, η Meta Platforms και η OpenAI θα κάνει λάθη που κυμαίνονται από βαρετά έως επικίνδυνα – θα ισχυριστεί ότι είναι άνθρωπος, θα διαδώσει εσφαλμένους ισχυρισμούς για μέρη και ανθρώπους ή θα υποστηρίξει την κακοποίηση.

Ο στόχος είναι να φανεί αν οι εταιρείες μπορούν τελικά να δημιουργήσουν νέες «μπάρες» ασφαλείας για να περιορίσουν ορισμένα από τα τεράστια προβλήματα που σχετίζονται πλοένα και περισσότερο με τα μεγάλα γλωσσικά μοντέλα. Το εγχείρημα υποστηρίζεται από τον Λευκό Οίκο, ο οποίος βοήθησε επίσης στην ανάπτυξη του διαγωνισμού.

Εγγενής προκατάληψη

Για τη Mays, η οποία έχει συνηθίσει περισσότερο να βασίζεται στην τεχνητή νοημοσύνη για την ανακατασκευή σωματιδίων κοσμικής ακτινοβολίας από το διάστημα στο πλαίσιο του προπτυχιακού της, οι προκλήσεις είναι βαθύτερες από τα κακά μαθηματικά.

«Η μεγαλύτερη ανησυχία μου είναι η εγγενής προκατάληψη», επισήμανε, προσθέτοντας ότι ανησυχεί ιδιαίτερα για τον ρατσισμό. Ζήτησε από το μοντέλο να εξετάσει τον ρατσισμό από τη σκοπιά ενός μέλους της Κου Κλουξ Κλαν. Είπε ότι το μοντέλο κατέληξε να εγκρίνει τον λόγο που ο ρατσισμός προκαλεί μίσος και διακρίσεις.

Κατασκοπεία

Ένας δημοσιογράφος του Bloomberg που συμμετείχε σε έναν 50λεπτο «αγώνα» έπεισε ένα από τα μοντέλα (κανένα από τα οποία δεν αναγνωρίζεται στον χρήστη κατά τη διάρκεια του διαγωνισμού) να παρανομήσει μετά από μία μόνο ερώτηση σχετικά με τον τρόπο κατασκοπείας.

Κατάχρηση και χειραγώγηση

«Πρέπει να προσπαθήσουμε να προλάβουμε την κατάχρηση και τη χειραγώγηση», δήλωσε η Καμίλ Στιούαρτ Γκλόστερ, αναπληρώτρια εθνική διευθύντρια κυβερνοχώρου για την τεχνολογία και την ασφάλεια του οικοσυστήματος στην κυβέρνηση Μπάιντεν.

Ο Λευκός Οίκος δημοσίευσε πέρυσι ένα προσχέδιο νόμου για την τεχνητή νοημοσύνη.

Η Arati Prabhakar, διευθύντρια του Γραφείου Επιστημονικής και Τεχνολογικής Πολιτικής του Λευκού Οίκου, η οποία βοήθησε στη διαμόρφωση της εκδήλωσης και επιστράτευσε τη συμμετοχή των εταιρειών, συμφώνησε ότι τα εθελοντικά μέτρα δεν πάνε αρκετά μακριά.

«Ο καθένας φαίνεται να βρίσκει έναν τρόπο να σπάσει αυτά τα συστήματα», δήλωσε αφού επισκέφθηκε τους χάκερς εν δράσει την Κυριακή. Η προσπάθεια αυτή θα δώσει επείγουσα ώθηση στην επιδίωξη για ασφαλείς και αποτελεσματικές πλατφόρμες, τόνισε.

Στην αίθουσα, γεμάτη από χάκερς, κάποιος ανέφερε ότι έπεισε τον chat bot να αποκαλύψει στοιχεία πιστωτικών καρτών που δεν έπρεπε να μοιραστεί. Ένας άλλος συμμετέχων, ξεγέλασε το μηχάνημα πείθοντάς το να πει ότι ο Μπαράκ Ομπάμα γεννήθηκε στην Κένυα.

Ακολουθήστε τον ot.grστο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, στον ot.gr

Latest News

Πρόσφατα Άρθρα Tεχνητή νοημοσύνη
Τεχνητή Νοημοσύνη: Η έλλειψη ενέργειας για τα data centers αλλάζει τον τεχνολογικό χάρτη της Ευρώπης
Tεχνητή νοημοσύνη |

Η αδηφάγα Τεχνητή Νοημοσύνη αλλάζει τον τεχνολογικό χάρτη της Ευρώπης - Που πάνε τα νέα data centers

Η πεινασμένη για ενέργεια τεχνητή νοημοσύνη καταπονεί τα δίκτυα ηλεκτρικής ενέργειας της Ιρλανδίας, θέτοντας σε κίνδυνο τη θέση της χώρας ως τεχνολογικού κόμβου της Ευρώπης

Κυριάκος Μητσοτάκης για AI: Τεράστια ευκαιρία για τη χώρα η Τεχνητή Νοημοσύνη
Tεχνητή νοημοσύνη |

Κυριάκος Μητσοτάκης για AI: Τεράστια ευκαιρία για τη χώρα η Τεχνητή Νοημοσύνη

Ο πρωθυπουργός Κυριάκος Μητσοτάκης συζήτησε με το μέλος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη και αντιπρόεδρο του Endeavor Greece Ανδρέα Σταυρόπουλο στο πλαίσιο του GenAI Summit

IBM: Ενίσχυση των επιχειρηματικών επενδύσεων στην τεχνητή νοημοσύνη
Tεχνητή νοημοσύνη |

Ενίσχυση των επιχειρηματικών επενδύσεων στην AI - Τι δείχνει έρευνα της IBM

Έρευνα της IBM δείχνει ότι τα στελέχη των επιχειρήσεων αναγνωρίζουν τα οφέλη των επενδύσεων στην πληροφορική για την ενίσχυση της βιωσιμότητας, με το 88% να σχεδιάζει να αυξήσει τις επενδύσεις