Το Check Point Research (CPR), τμήμα έρευνας της Check Point Software, παρατήρησε πως οι εγκληματίες του κυβερνοχώρου τείνουν να χρησιμοποιούν bots του Telegram για να παρακάμψουν τους περιορισμούς του ChatGPT σε υπόγεια φόρουμ.
Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν τη δημιουργία κακόβουλων μηνυμάτων ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι κατασκευαστές bot καλύπτουν επί του παρόντος έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5,50 δολάρια για κάθε 100. Η CPR προειδοποιεί για συνεχείς προσπάθειες από εγκληματίες στον κυβερνοχώρο να παρακάμψουν τους περιορισμούς του ChatGPT προκειμένου να χρησιμοποιήσουν το OpenAI για να κλιμακώσουν κακόβουλους σκοπούς.
Το ChatGPT ξεπέρασε και το TikTok ως η πιο δημοφιλής εφαρμογή στον κόσμο
Συνομιλία Telegram ChatGPT Bot-as-a-Service
Η CPR βρήκε διαφημίσεις bots Telegram σε υπόγεια φόρουμ. Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν σε έναν παράγοντα απειλής να δημιουργήσει κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι δημιουργοί του bot προσφέρουν έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5.50 $ για κάθε 100.
Εικόνα 1. Υπόγεια διαφήμιση του bot OpenAI στο Telegram σε φόρουμ
Εικόνα 2. Παράδειγμα ηλεκτρονικού “ψαρέματος” που δημιουργήθηκε σε ένα Telegram bot για να αποδείξει τη δυνατότητα χρήσης του API του OpenAI χωρίς περιορισμούς
Εικόνα 3. Παράδειγμα της δυνατότητας δημιουργίας κώδικα κακόβουλου λογισμικού χωρίς περιορισμούς κατάχρησης σε ένα Telegram bot χρησιμοποιώντας το API OpenAI
Εικόνα 4. Το μοντέλο επιχειρηματικής λειτουργίας του καναλιού ChatGPT με βάση το API
Google: Απαντά στη Microsoft με περισσότερη τεχνητή νοημοσύνη
Σενάρια για παράκαμψη περιορισμών ChatGPT
Η CPR παρατήρησε επίσης τους εγκληματίες του κυβερνοχώρου να δημιουργούν βασικές δέσμες ενεργειών που χρησιμοποιούν το OpenAIs API για να παρακάμψουν τους περιορισμούς κατάχρησης.
Εικόνα 5. Παράδειγμα δέσμης ενεργειών που υποβάλλει απευθείας ερώτημα στο API και παρακάμπτει τους περιορισμούς για την ανάπτυξη κακόβουλου λογισμικού
Latest News
Από την πυρηνική ενέργεια στην κβαντική μηχανική - Πώς οι Big Tech θα σβήσουν τη δίψα της AI για ενέργεια
Οι Big Tech έχουν εξασφαλίσει συμφωνίες πυρηνικής ενέργειας αξίας δισ. δολαρίων - Στο βάθος πάντα υπάρχει και η προοπτική των κβαντικών υπολογιστών
Κι ύστερα ήρθαν οι μέλισσες - Πώς ένα σπάνιο είδος ματαιώνει data center της Meta
Η Meta βρίσκεται υπό πίεση να αποδείξει στους επενδυτές ότι το στοίχημά της στην τεχνητή νοημοσύνη θα αποφέρει καρπούς
TikTok: Κατηγορούμενο για αυτοκτονίες εφήβων – Αγωγή από επτά οικογένειες
Ο αλγόριθμος του TikTok φέρεται να προτείνει σε εφήβους βίντεο που προωθούν αυτοκαταστροφικές συμπεριφορές.
«Είμαστε στο έλεος της Google» - Πώς μας λέει αυτό που θέλουμε να ακούσουμε
Όσοι απευθύνονται στη Google για να τους λύσει τις απορίες μπορεί να δουν δραματικά διαφορετικές όψεις του κόσμου
Χιντζίδης (Performance Technologies): Η Εναλλακτική μας προετοίμασε για την Κύρια Αγορά του ΧΑ
Ο Διονύσης Χιντζίδης, πρόεδρος και διευθύνων σύμβουλος της Performance Technologies, μίλησε για την πορεία της εταιρείας μέχρι την Κύρια Αγορά
Γιατί ο Ζάκερμπεργκ δεν θα πάψει να ξοδεύει ασύστολα για τεχνητή νοημοσύνη
Ο Μαρκ Ζάκερμπεργκ θεωρεί ότι η χρήση τεχνητής νοημοσύνης ωθεί τα κέρδη της Meta Platforms
Πώς οι Big Tech κερδίζουν σήμερα για να επενδύσουν στο μέλλον
Οι τεχνολογικοί γίγαντες διαφημίζουν πραγματικές νίκες σήμερα για να δικαιολογήσουν τεράστιες επενδύσεις αύριο και οι επενδυτές στηρίζουν, ως ένα σημείο
Η Huawei ακόμα παλεύει να ανακάμψει από τις κυρώσεις, λέει ο ιδρυτής
Ο Ρεν Ζενγκφέι λέει ότι παρά την θεαματική ανάκαμψη η Huawei δεν έχει ξεπεράσει τα προβλήματά της
Οι αποτυχημένες προσπάθειες «ανάστασης» της Intel και οι χειρισμοί Γκέλσινγκερ
O CEO της Intel, Πατ Γκέλσινγκερ, έθεσε υψηλές προσδοκίες για τις ικανότητες κατασκευής της εταιρείας αλλά και την ικανότητά της στον τομέα της AI, ωστόσο απέτυχε να ανταποκριθεί
Apple: Διαθέσιμοι από 8 Νοεμβρίου οι νέοι υπολογιστές Mac στην Ελλάδα
Η Apple ανακοίνωσε τρεις νέους υπολογιστές Mac, σχεδιασμένους να υποστηρίζουν την πλατφόρμα Apple Intelligence, με το νέο επεξεργαστή M4