Τεχνητή νοημοσύνη: Απάτη με χρήση τεχνολογίας deepfake στην Κίνα

Ανησυχία σχετικά με τις δυνατότητες των συστημάτων τεχνητής νοημοσύνης να χρησιμοποιηθούν ως εργαλεία στα χέρια οικονομικών εγκληματιών γεννά μια υπόθεση απάτης στη βόρεια Κίνα, όπου οι απατεώνες χρησιμοποίησαν εξελιγμένη τεχνολογία «deepfake» για να πείσουν έναν άνδρα να μεταφέρει χρήματα σε έναν υποτιθέμενο φίλο του.

Κυβερνοασφάλεια: Έως 20 χιλ. δολάρια το κόστος για ένα μονόλεπτο βίντεο deepfake

Όπως αναφέρει το Reuters, η αστυνομία στην πόλη Μπαοτού, στην περιοχή της Εσωτερικής Μογγολίας, δήλωσε ότι ο δράστης χρησιμοποίησε τεχνολογία ανταλλαγής προσώπων με τεχνητή νοημοσύνη για να υποδυθεί έναν φίλο του θύματος κατά τη διάρκεια μιας βιντεοκλήσης και να λάβει μεταφορά 4,3 εκατομμυρίων γιουάν (622.000 δολαρίων).

Το θύμα μετέφερε τα χρήματα με την πεποίθηση ότι ο φίλος του χρειαζόταν από αυτόν να κάνει μια κατάθεση, κατά τη διάρκεια μιας διαδικασίας υποβολής προσφορών, ανέφερε η αστυνομία σε ανακοίνωσή της το Σάββατο.

Ο άνδρας συνειδητοποίησε ότι είχε εξαπατηθεί μόνο όταν ο φίλος εξέφρασε άγνοια για την κατάσταση, πρόσθεσε η αστυνομία, λέγοντας ότι έχει ανακτήσει το μεγαλύτερο μέρος των κλεμμένων κεφαλαίων και εργάζεται για τον εντοπισμό των υπολοίπων.

Ανησυχία

Η υπόθεση πυροδότησε συζήτηση στον ιστότοπο μικροblogging Weibo σχετικά με την απειλή για την ιδιωτικότητα και την ασφάλεια στο διαδίκτυο, με το hashtag «#AI scams are exploding across the country» να συγκεντρώνει περισσότερες από 120 εκατομμύρια προβολές τη Δευτέρα.

«Αυτό δείχνει ότι οι φωτογραφίες, οι φωνές και τα βίντεο μπορούν να αξιοποιηθούν από τους απατεώνες», έγραψε ένας χρήστης. «Μπορούν οι κανόνες ασφάλειας των πληροφοριών να συμβαδίσουν με τις τεχνικές αυτών των ανθρώπων;»

Η Κίνα έχει αυστηροποιήσει τον έλεγχο των εν λόγω τεχνολογιών και εφαρμογών εν μέσω της αύξησης των περιστατικών απάτης με χρήση συστημάτων τεχνητής νοημοσύνης, που αφορά κυρίως τη χειραγώγηση δεδομένων φωνής και προσώπου, και θέσπισε νέους κανόνες τον Ιανουάριο για τη νομική προστασία των θυμάτων.