Τεχνητή νοημοσύνη: Προσοχή στις προεκλογικές εικόνες συστήνουν ερευνητές

Εργαλεία δημιουργίας εικόνων που υποστηρίζονται από τεχνητή νοημοσύνη από εταιρείες όπως η OpenAI και η Microsoft ενδέχεται να χρησιμοποιηθούν για την παραγωγή φωτογραφιών που προάγουν την παραπληροφόρηση σχετικά με τις εκλογές ή την εκλογική διαδικασία.

Αυτό μπορεί να συμβεί παρά το γεγονός ότι και οι δύο εταιρείες εφαρμόζουν πολιτικές κατά της δημιουργίας παραπλανητικού περιεχομένου, ανέφεραν ερευνητές σε έκθεσή τους.

Πώς οι επιχειρήσεις χρησιμοποιούν πραγματικά τη δημιουργική AI [γραφήματα]

Το Centre for Countering Digital Hate (CCDH), ένας μη κερδοσκοπικός οργανισμός που παρακολουθεί τη ρητορική μίσους στο διαδίκτυο, χρησιμοποίησε εργαλεία παραγωγής τεχνητής νοημοσύνης για να δημιουργήσει εικόνες του προέδρου των ΗΠΑ Τζο Μπάιντεν ξαπλωμένο σε ένα κρεβάτι νοσοκομείου και εργαζομένων σε εφορευτικές επιτροπές να σπάνε εκλογικές μηχανές

Με τον τρόπο αυτό κατέδειξαν τα ψεύδη που ενδέχεται να κυκλοφορήσουν ενόψει των αμερικανικών προεδρικών εκλογών τον Νοέμβριο.

«Η δυνατότητα τέτοιων εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη να χρησιμεύσουν ως “φωτογραφικά αποδεικτικά στοιχεία” θα μπορούσε να επιδεινώσει τη διάδοση ψευδών ισχυρισμών, θέτοντας μια σημαντική πρόκληση για τη διατήρηση της ακεραιότητας των εκλογών», ανέφεραν οι ερευνητές του CCDH στην σχετική έκθεση.

Το CCDH δοκίμασε το ChatGPT Plus της OpenAI, το Image Creator της Microsoft, το Midjourney και το DreamStudio του Stability AI, τα οποία μπορούν να δημιουργήσουν εικόνες από μηνύματα κειμένου.

Η έκθεση ακολουθεί μια ανακοίνωση τον περασμένο μήνα ότι η OpenAI, η Microsoft και η Stability AI ήταν μεταξύ μιας ομάδας 20 εταιρειών τεχνολογίας που υπέγραψαν συμφωνία για να συνεργαστούν για να αποτρέψουν το παραπλανητικό περιεχόμενο τεχνητής νοημοσύνης να παρεμβαίνει στις εκλογές που πραγματοποιούνται παγκοσμίως φέτος. Το Midjourney δεν ήταν μεταξύ της αρχικής ομάδας των υπογραφόντων, σημειώνει το Reuters.

Το CCDH ανέφερε ότι τα εργαλεία τεχνητής νοημοσύνης παρήγαγαν εικόνες στο 41% ​​των δοκιμών των ερευνητών και ήταν πιο ευαίσθητα σε προτροπές που ζητούσαν φωτογραφίες που απεικονίζουν εκλογική νοθεία, όπως ψηφοδέλτια στα σκουπίδια, αντί για εικόνες του Μπάιντεν ή του Τραμπ.

Το ChatGPT Plus και το Image Creator κατάφεραν να μπλοκάρουν όλα τα μηνύματα όταν του ζητήθηκαν εικόνες υποψηφίων, σύμφωνα με την αναφορά.

Οι χειρότερες επιδόσεις

Ωστόσο, το Midjourney είχε τις χειρότερες επιδόσεις από όλα τα εργαλεία, δημιουργώντας παραπλανητικές εικόνες στο 65% των δοκιμών των ερευνητών, σύμφωνα με το CCDH.

Ορισμένες εικόνες Midjourney είναι διαθέσιμες δημόσια σε άλλους χρήστες και η CCDH είπε ότι υπάρχουν ενδείξεις ότι κάποιοι χρησιμοποιούν ήδη το εργαλείο για να δημιουργήσουν παραπλανητικό πολιτικό περιεχόμενο. Μια επιτυχημένη προτροπή που χρησιμοποίησε ένας χρήστης του Midjourney ήταν «ο Ντόναλντ Τραμπ συνελήφθη, φωτογραφία υψηλής ποιότητας, παπαράτσι».

Οι απαντήσεις των εταιρειών

Σε ένα απαντητικό email προς το Reuters, ο ιδρυτής του Midjourney, Ντέιβιντ Χολτς, δηλώνει ότι «ενημερώσεις που σχετίζονται ειδικά με τις επερχόμενες εκλογές στις ΗΠΑ θα έρθουν σύντομα», προσθέτοντας ότι οι εικόνες που δημιουργήθηκαν πέρυσι δεν αντιπροσωπεύουν τις τρέχουσες πρακτικές του ερευνητικού εργαστηρίου.

Ένας εκπρόσωπος της Stability AI δήλωσε ότι η startup ενημέρωσε τις πολιτικές της την Παρασκευή για να απαγορεύσει «την απάτη ή τη δημιουργία ή την προώθηση παραπληροφόρησης».

Τέλος, εκπρόσωπος του OpenAI είπε ότι η εταιρεία εργάζεται για να αποτρέψει την κατάχρηση των εργαλείων της, ενώ η Microsoft δεν απάντησε στο αίτημα για σχόλιο.