ΗΠΑ: Πώς τα deepfake απειλούν τις αμερικανικές εκλογές

«Στην πραγματικότητα μου αρέσει πολύ ο Ρον ΝτεΣάντις», αποκαλύπτει η Χίλαρι Κλίντον σε ένα διαδικτυακό βίντεο-έκπληξη. «Είναι ακριβώς ο τύπος που χρειάζεται αυτή η χώρα και το εννοώ πραγματικά αυτό».

Ο Τζο Μπάιντεν αποκαλύπτεται, εξαπολύοντας μια σκληρή ατάκα σε ένα τρανς άτομο. «Δεν θα είσαι ποτέ αληθινή γυναίκα», γρυλίζει ο πρόεδρος.

Έτσι φαίνεται ότι θα κυλήσει η προεδρική κούρσα της Αμερικής για το 2024, όπου η πραγματικότητα δεν είναι αυτό που φαίνεται.

Τα deepfake των Κλίντον και Μπάιντεν, πολύ ρεαλιστικά αλλά κατασκευασμένα βίντεο που δημιουργήθηκαν από αλγόριθμους τεχνητής νοημοσύνης που έχουν εκπαιδευτεί σε άφθονο διαδικτυακό υλικό – είναι μεταξύ χιλιάδων που εμφανίζονται στα μέσα κοινωνικής δικτύωσης, θολώνοντας τα όρια πραγματικότητας και φαντασίας στον πολωμένο κόσμο της αμερικανικής πολιτικής.

Ενώ τέτοια μέσα υπάρχουν εδώ και αρκετά χρόνια, έχουν εκτοξευτεί μέσα σε ένα χρόνο μέσα  από μια σειρά νέων εργαλείων «γεννητικής τεχνητής νοημοσύνης», όπως το Midjourney που καθιστούν φθηνή και εύκολη τη δημιουργία πειστικών deepfake, σύμφωνα με ειδικούς που μίλησαν στο Reuters.

Πλέον θα είναι πολύ δύσκολο για τους ψηφοφόρους να ξεχωρίσουν το αληθινό από το ψεύτικο, καθώς οι υποστηρικτές των υποψηφίων θα μπορούσαν να χρησιμοποιήσουν την τεχνολογία για να αμαυρώσουν τους αντιπάλους. Κάποια μάλιστα μπορεί να εμφανιστούν αμέσως πριν από τις εκλογές στερώντας τον χρόνο απόσυσρησς τους.

Εργαλεία που μπορούν να δημιουργήσουν deepfakes κυκλοφορούν με λίγα ή ατελή προστατευτικά «δίχτυα» για την αποφυγή επιβλαβούς παραπληροφόρησης καθώς ο τεχνολογικός τομέας εμπλέκεται σε έναν αγώνα εξοπλισμών τεχνητής νοημοσύνης.

Ο ίδιος ο Ντόναλντ Τραμπ μοιράστηκε ένα ψεύτικο βίντεο του παρουσιαστή του CNN Άντερσον Κούπερ νωρίτερα αυτό το μήνα στην πλατφόρμα κοινωνικής δικτύωσης Truth Social, στο οποίο ο παρουσιαστής βρίζει τον πρώην πρόεδρο, αν και οι λέξεις δεν ταιριάζουν με την κίνηση των χειλιών του. Το CNN είπε ότι το βίντεο ήταν ψεύτικο, αλλά η πλευρά Τραμπ δεν σχολίασε.

I’m told this is real… it seems real and it’s surprisingly honest and accurate for CNN… but who knows these days. #cnn pic.twitter.com/J0YCuX13Od

— Donald Trump Jr. (@DonaldJTrumpJr) May 11, 2023

Ενώ μεγάλες πλατφόρμες μέσων κοινωνικής δικτύωσης όπως το Facebook, το Twitter και το YouTube έχουν καταβάλει προσπάθειες για την απαγόρευση και την κατάργηση των deepfakes, η αποτελεσματικότητά τους στην αστυνόμευση τέτοιου περιεχομένου ποικίλλει.

Έχουν δημοσιευτεί τρεις φορές περισσότερα deepfakes βίντεο όλων των ειδών και οκτώ φορές περισσότερα deepfakes φωνής στο διαδίκτυο φέτος σε σύγκριση με την ίδια χρονική περίοδο το 2022, σύμφωνα με την DeepMedia, μια εταιρεία που εργάζεται σε εργαλεία για τον εντοπισμό συνθετικών μέσων.

Συνολικά, περίπου 500.000 deepfake βίντεο και φωνής θα κοινοποιηθούν σε ιστότοπους μέσων κοινωνικής δικτύωσης παγκοσμίως το 2023, εκτιμά η DeepMedia. Η κλωνοποίηση μιας φωνής κόστιζε 10.000 δολάρια σε διακομιστή και εκπαίδευση τεχνητής νοημοσύνης μέχρι τα τέλη του περασμένου έτους, αλλά τώρα οι νεοσύστατες εταιρείες το προσφέρουν για λίγα δολάρια, ανέφερε η εταιρεία στο Reuters.

Ο ηγέτης του κλάδου OpenAI, ο οποίος άλλαξε το παιχνίδι τους τελευταίους μήνες με την κυκλοφορία του ChatGPT και το ενημερωμένο μοντέλο GPT-4, αντιμετωπίζει το ζήτημα. Ο Διευθύνων Σύμβουλος Σαμ Άλτμαν είπε στο Κογκρέσο αυτόν τον μήνα ότι η ακεραιότητα των εκλογών ήταν ένας «σημαντικός τομέας ανησυχίας» και προέτρεψε την ταχεία ρύθμιση του τομέα.

Σε αντίθεση με ορισμένες μικρότερες νεοφυείς επιχειρήσεις, η OpenAI έχει λάβει μέτρα για να περιορίσει τη χρήση των προϊόντων της στην πολιτική, σύμφωνα με ανάλυση του Reuters για τους όρους χρήσης μισής ντουζίνας κορυφαίων εταιρειών που προσφέρουν υπηρεσίες γενετικής τεχνητής νοημοσύνης.

Τα προστατευτικά δίχτυα έχουν κενά.

Για παράδειγμα, η OpenAI λέει ότι απαγορεύει στη μηχανή δημιουργίας εικόνων DALL-E να αναπαράγει δημόσια πρόσωπα – και πράγματι, όταν το Reuters προσπάθησε να δημιουργήσει εικόνες του Τραμπ και του Μπάιντεν, το αίτημα μπλοκαρίστηκε και εμφανίστηκε ένα μήνυμα που έλεγε ότι «μπορεί να μην ακολουθεί την πολιτική περιεχομένου μας».

Ωστόσο, το Reuters μπόρεσε να δημιουργήσει εικόνες τουλάχιστον δώδεκα άλλων πολιτικών των ΗΠΑ, συμπεριλαμβανομένου του πρώην αντιπροέδρου Μάικ Πενς, ο οποίος εξετάζει επίσης να είναι υποψήφιος το 2024.

Η OpenAI περιορίζει επίσης οποιαδήποτε «κλιμακωτή» χρήση των προϊόντων της για πολιτικούς σκοπούς. Αυτό απαγορεύει τη χρήση της τεχνητής νοημοσύνης του για την αποστολή μαζικών εξατομικευμένων email σε ψηφοφόρους, για παράδειγμα.

Αρκετές μικρότερες νεοφυείς επιχειρήσεις δεν έχουν ρητούς περιορισμούς στο πολιτικό περιεχόμενο.

Το Midjourney, το οποίο κυκλοφόρησε πέρυσι, είναι ο κορυφαίος παίκτης στις εικόνες που δημιουργούνται από AI, με 16 εκατομμύρια χρήστες στον επίσημο διακομιστή Discord. Η εφαρμογή, η οποία κυμαίνεται από δωρεάν έως $ 60 το μήνα. Η ποσότητα και η ταχύτητα της εικόνας, το έχουν καταστήσει αγαπημένο των σχεδιαστών και καλλιτεχνών AI λόγω της ικανότητάς του να δημιουργεί υπερρεαλιστικές εικόνες διασημοτήτων και πολιτικών.

Η Midjourney θέλει να συνεργαστεί σε μια βιομηχανική λύση που θα επιτρέψει την ιχνηλασιμότητα των εικόνων που δημιουργούνται από AI με ένα ψηφιακό ισοδύναμο υδατοσήμανσης και θα εξετάσει το ενδεχόμενο αποκλεισμού εικόνων πολιτικών υποψηφίων.

Οι πολιτικοί δεν αποκηρύσσουν την ΑΙ

Ακόμη και όταν η βιομηχανία παλεύει με το πώς να αποτρέψει την κακή χρήση, ορισμένοι πολιτικοί παράγοντες επιδιώκουν να εκμεταλλευτούν τη δύναμη της γενετικής τεχνητής νοημοσύνης για να δημιουργήσουν καμπάνιες.

Μέχρι στιγμής, η μόνη υψηλού προφίλ πολιτική διαφήμιση που δημιουργήθηκε από την τεχνητή νοημοσύνη στις ΗΠΑ ήταν αυτή που δημοσιεύτηκε από την Εθνική Επιτροπή των Ρεπουμπλικανών στα τέλη Απριλίου. Η διαφήμιση διάρκειας 30 δευτερολέπτων, που δημιουργήθηκε εξ ολοκλήρου από τεχνητή νοημοσύνη, χρησιμοποίησε ψεύτικες εικόνες για να προτείνει ένα φρικιαστικό σενάριο σε περίπτωση επανεκλογής του Μπάιντεν, με την Κίνα να εισβάλει στην Ταϊβάν και το Σαν Φρανσίσκο να κλείνει λόγω εγκλήματος.

NIGHTMARE: What if Joe Biden, the weakest president we’ve ever had, is re-elected? pic.twitter.com/b5HvY9GEr0

— GOP (@GOP) April 25, 2023

Το Reuters έκανε δημοσκόπηση σε όλες τις προεδρικές εκστρατείες των Ρεπουμπλικανών σχετικά με τη χρήση της τεχνητής νοημοσύνης. Οι περισσότεροι δεν απάντησαν, αν και η ομάδα της Νίκι Χέιλι είπε ότι δεν χρησιμοποιούσε την τεχνολογία και η καμπάνια του υποψηφίου Πέρι Τζόνσον είπε ότι χρησιμοποιεί AI για “δημιουργία αντιγράφων και επανάληψη”, χωρίς να δώσει περισσότερες λεπτομέρειες.

Η δυνατότητα της τεχνητής νοημοσύνης να παράγει email καμπάνιας, αναρτήσεις και διαφημίσεις είναι ακαταμάχητη για ορισμένους ακτιβιστές που πιστεύουν ότι η τεχνολογία χαμηλού κόστους θα μπορούσε να εξισώσει τους όρους ανταγωνισμού στις εκλογές.

Οι πολιτικοί σύμβουλοι επιδιώκουν επίσης να αξιοποιήσουν την τεχνητή νοημοσύνη, θολώνοντας περαιτέρω τη γραμμή μεταξύ πραγματικού και εξωπραγματικού.

Η εταιρεία πολιτικών δεδομένων Numinar Analytics, που εστιάζει σε Ρεπουμπλικάνους πελάτες, έχει αρχίσει να πειραματίζεται με τη δημιουργία περιεχομένου τεχνητής νοημοσύνης για ήχο και εικόνες, καθώς και τη δημιουργία φωνής για τη δημιουργία εξατομικευμένων μηνυμάτων με τη φωνή ενός υποψηφίου, δήλωσε ο ιδρυτής Ουίλ Λονγκ.

Η δημοκρατική ομάδα δημοσκοπήσεων και στρατηγικής Honan Strategy Group προσπαθεί εν τω μεταξύ να αναπτύξει ένα bot έρευνας τεχνητής νοημοσύνης. Ελπίζει να ξεδιπλώσει ένα θηλυκό bot εγκαίρως για τις δημοτικές εκλογές του 2023, δήλωσε ο διευθύνων σύμβουλος Μπράντλει Χόναν, επικαλούμενος έρευνα ότι τόσο οι άνδρες όσο και οι γυναίκες είναι πιο πιθανό να μιλήσουν σε μια γυναίκα.