Η αμερικανική OpenAI ανακοίνωσε ότι ανέπτυξε εργαλείο τεχνητής νοημοσύνης που αντιγράφει οποιαδήποτε ανθρώπινη φωνή, δεσμεύεται όμως να μην το λανσάρει άμεσα λόγω του κινδύνου κατάχρησης.
Το μοντέλο Voice Engine («Μηχανή Φωνής») χρειάζεται μόνο 15 δευτερόλεπτα ηχογράφησης για να κλωνοποιήσει τη φωνή του ομιλητή, ανέφερε η εταιρεία σε ιστολόγιό της, επικαλούμενη δοκιμές μικρής κλίμακας.
«Αναγνωρίζουμε ότι η παραγωγή ομιλίας που μιμείται τις φωνές ανθρώπους ενέχει σοβαρούς κινδύνους, τους οποίους λαμβάνουμε ιδιαίτερα υπόψη αυτή την εκλογική χρονιά» ανέφερε η OpenAI, η οποία έγινε διάσημη χάρη στη μηχανή διαλόγου ChatGPT και έχει εξασφαλίσει επενδύσεις δισεκατομμυρίων από τη Microsoft.
Ειδικοί σε θέματα παραπληροφόρησης προειδοποιούν ότι η λεγόμενη παραγωγική ΑΙ, η οποία παράγει κείμενα, εικόνες, βίντεο και άλλο περιεχόμενο με βάση τις οδηγίες του χρήστη, μπορεί να χρησιμοποιηθεί για καμπάνιες παραπληροφόρησης και χειραγώγησης της κοινής γνώμης.
Αναγνωρίζοντας τον κίνδυνο, η OpenAI δηλώνει ότι ακολουθεί μια «προσεκτική και ενήμερη προσέγγιση για την ευρύτερη διάθεση [του Voice Engine] λόγω ενδεχόμενης κατάχρησης των συνθετικών φωνών».
«Είμαι ο Τζο Μπάιντεν»
Σε μια χρονιά που ένα μεγάλο μέρος του παγκόσμιου πληθυσμού προσέρχεται στις κάλπες, από τις ΗΠΑ και την Ινδία μέχρι τη Νότια Αφρική, ο κίνδυνος δεν είναι μόνο θεωρητικός.
Στα τέλη Ιανουαρίου, χιλιάδες πολίτες του Νιου Χάμπσαϊρ άκουσαν στο τηλέφωνο τον Τζο Μπάιντεν να τους ζητά να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας.
«Είναι σημαντικό να κρατήσετε την ψήφο σας για τις [τελικές] εκλογές του Νοεμβρίου … Η ψήφος αυτή την Κυριακή απλά διευκολύνει τους Ρεπουμπλικανούς στην προσπάθειά τους να αναδείξουν και πάλι τον Ντόναλντ Τραμπ» έλεγε η φωνή.
Οι ρομποτικές κλήσεις διαπιστώθηκε ότι προέρχονταν από την άγνωστη εταιρεία Life Corp. στο Τέξας.
Λίγο αργότερα, η αμερικανική Ομοσπονδιακή Επιτροπή Τηλεπικοινωνιών (FCC) αποφάνθηκε ότι αυτοματοποιημένες κλήσεις με φωνές που παράγονται με τεχνητή νοημοσύνη είναι παράνομες.
Η OpenAI διαβεβαιώνει πως οι συνεργάτες της που συμμετέχουν στις δοκιμές του Voice Engine συμφώνησαν σε όρους, όπως το να ζητούν τη ρητή συγκατάθεση οποιουδήποτε ανθρώπου του οποίου η φωνή κλωνοποιείται. Ακόμα, οι ακροατές τέτοιου υλικού πρέπει να ενημερώνονται ότι οι φωνές που ακούγονται είναι συνθετικές.
«Συνεργαζόμαστε με τους αμερικανούς και διεθνείς εταίρους μας από κυβερνήσεις, μέσα ενημέρωσης, υπηρεσίες ψυχαγωγίας, την εκπαίδευση και φορείς της κοινωνίας των πολιτών για να εξασφαλίσουμε ότι ενσωματώνουμε τις συστάσεις τους» ανέφερε η OpenAI.
Διαβεβαίωσε ακόμα ότι εφαρμόζει «μια σειρά από μέτρα ασφάλειας, συμπεριλαμβανομένης της υδατογράφησης προκειμένου να ιχνηλατείται η προέλευση ηχητικού υλικού που παράγεται με το Voice Engine, καθώς και προληπτική παρακολούθηση του πώς χρησιμοποιείται».
Latest News
Κι ύστερα ήρθαν οι μέλισσες - Πώς ένα σπάνιο είδος ματαιώνει data center της Meta
Η Meta βρίσκεται υπό πίεση να αποδείξει στους επενδυτές ότι το στοίχημά της στην τεχνητή νοημοσύνη θα αποφέρει καρπούς
Γιατί ο Ζάκερμπεργκ δεν θα πάψει να ξοδεύει ασύστολα για τεχνητή νοημοσύνη
Ο Μαρκ Ζάκερμπεργκ θεωρεί ότι η χρήση τεχνητής νοημοσύνης ωθεί τα κέρδη της Meta Platforms
AI factory: Η ελληνική πρόταση για την Τεχνητή Νοημοσύνη
Η τεχνητή νοημοσύνη είναι η νέα μεγάλη πρόκληση της εποχής και διεισδύει σε κάθε τομέα της ανθρώπινης δραστηριότητας
Νέα μέθοδος από το MIT στην εκπαίδευση ρομπότ - Πώς αξιοποιεί μοντέλα όπως το GTP-4
Απώτερες στόςο ένας παγκόσμιος εγκέφαλος ρομπότ που θα μπορεί κανείς να τον "κατεβάζει" και να τον χρησιμοποιεί στο ρομπότ του
Η Disney επενδύει στην τεχνητή νοημοσύνη - Τα σχέδια του ομίλου
Διάφορα τμήματα εντός της Disney εξερευνούν εφαρμογές για την επαυξημένη πραγματικότητα, η οποία τοποθετεί ψηφιακά στοιχεία στον πραγματικό κόσμο
Πώς εκμεταλλεύθηκαν την Meta οι Κινέζοι για στρατιωτικούς σκοπούς
Η Κίνα χρησιμοποιεί τα μεγάλα γλωσσικά μοντέλα προς στρατιωτικές και χρήσεις ασφάλειας, σύμφωνα με δημοσίευμα του Reuters
Οι νέοι θέλουν να γίνουν influencers αλλά η τεχνητή νοημοσύνη καραδοκεί [γράφημα]
Οι υποσχέσεις για εύκολο και γρήγορο κέρδος μέσω αυτοαπασχόλησης κάνει τις νεότερες ηλικίες κυρίως να θέλουν να γίνουν influencers - Τι γίνεται όμως με την τεχνητή νοημοσύνη;
Νέος γύρος χρηματοδότησης 1 εκατ. ευρώ για τη startup Indeex
Η Indeex έχει αναπτύξει μια καινοτόμα λύση λογισμικού που ενσωματώνεται σε υπάρχουσες βιομηχανικές εγκαταστάσεις και γίνονται ψηφιακές
Τι θα γινόταν αν η Microsoft άφηνε την OpenAI... ελεύθερη;
Η Microsoft έχει ήδη αρχίσει να μειώνει την εξάρτησή της από την OpenAI - Η Amazon, από την πλευρά της, θα ήταν ευτυχής να αποκτήσει πρόσβαση στα μοντέλα της OpenAI
Πώς η AI αλλάζει και τις τράπεζες
Η τεχνητή νοημοσύνη μετασχηματίζει και τον χρηματοπιστωτικό τομέα – 83% των ευρωπαϊκών τραπεζών ήδη τη χρησιμοποιούν