![Chatbot: Μπορεί να φέρουν μια νέα εποχή παραπληροφόρησης;](https://www.ot.gr/wp-content/uploads/2023/02/replika.jpg)
Πρόσφατο άρθρο των New York Times περιέχει συναρπαστικές λεπτομέρειες για το πώς βλέπουμε έναν κώδικα chatbot χωρίς λογοκρισία στο διαδίκτυο. Πολλοί από τους δημιουργούς αυτής της νέας κατηγορίας chatbot τα βλέπουν ως νίκη για την ελευθερία του λόγου. Επιχειρήματα που δεν στερούνται θετικών σημείων. Υπάρχουν όμως και ανησυχητικοί οιωνοί, που δείχνουν ένα όλο και πιο καλοστρωμένο μονοπάτι για όσους θέλουν να διεξάγουν επιχειρήσεις μαζικής παραπληροφόρησης.
Όπως εξηγεί το άρθρο των Times,τα νέα chatbot με ονόματα όπως GPT4All και FreedomGPT εμφανίζονται ως μέρος μιας νέας κίνησης προς τα chatbot χωρίς τα προστατευτικά κιγκλιδώματα που περιορίζουν την ικανότητα του ChatGPT να συζητά θέματα που θεωρούνται καταχρηστικά, επικίνδυνα ή απροκάλυπτα πολιτικά. Πολλά από αυτά τα bot φέρεται να έχουν κατασκευαστεί από ανεξάρτητους προγραμματιστές που τροποποιούν υπάρχοντα μεγάλα γλωσσικά μοντέλα για να αλλάξουν τον τρόπο με τον οποίο ανταποκρίνονται σε προτροπές, και τουλάχιστον ένα από αυτά βασίζεται σε ένα μεγάλο γλωσσικό μοντέλο που διέρρευσε από την Meta. Δεν είναι σαφές πόσο εξελιγμένα είναι, αλλά σύμφωνα με τους Times, ορισμένα από αυτά τα chatbot δεν υστερούν σε ποιότητα και πολύ από το ChatGPT, το κορυφαίο chatbot αυτή τη στιγμή.
Η δημιουργία εναλλακτικών λύσεων για τα mainstream chatbots θα μπορούσε να βοηθήσει στην προστασία από τους κινδύνους των μονοπωλίων των chatbot. Ταυτόχρονα, ορισμένοι ειδικοί λένε ότι είναι επίσης ακριβώς τα είδη εργαλείων που θα μπορούσαν να ενισχύσουν τις επιχειρήσεις παραπληροφόρησης και Αμερικανοί αναλυτές φοβούνται ότι θα μπορούσαν ακόμη και να παίξουν τεράστιο ρόλο στην παροχή παραπληροφόρησης πριν από τις αμερικανικές εκλογές του 2024.
Τα μεγάλα chatbots από την Google και το OpenAI έχουν χρησιμοποιήσει μια ποικιλία τεχνικών για να αποφύγουν ή να περιορίσουν την ικανότητα των προγραμμάτων τους να χρησιμοποιούν προσβλητική γλώσσα, όπως ρατσιστικές προσβολές ή βωμολοχίες. Είναι εκπαιδευμένα να αποτρέπουν προτροπές που ρωτούν πώς να βλάψουν ανθρώπους ή να κάνουν πράγματα όπως να κατασκευάσουν μια βόμβα. Και έχουν σχεδιαστεί για να αποφεύγουν να παίρνουν ρητές πολιτικές θέσεις σε ορισμένα ζητήματα.
Τώρα, οι πιο προχωρημένοι χρήστες έχουν βρει τρόπους να ξεγελάσουν αυτά τα chatbot για να πουν πράγματα που δεν έπρεπε και είναι αφελές να πιστεύουμε ότι οι πολιτικές αξίες δεν διαμορφώνουν το εύρος των απαντήσεων που δίνουν αυτά τα chatbot στους χρήστες. (Η γλώσσα των chatbot που επιτρέπεται ή δεν επιτρέπεται να εκφέρεται αποτελεί από μόνη της πολιτική, και αυτές οι εταιρείες δεν έχουν αποκαλύψει ακριβώς σε τι είδους πληροφορίες εκπαιδεύτηκαν τα chatbot, κάτι που διαμορφώνει το εύρος των απαντήσεών τους.) Ωστόσο, αντανακλούν μια φιλοδοξία για ένα προϊόν με μαζική απήχηση σε όλες τις ηλικιακές ομάδες που τηρεί αυστηρούς περιορισμούς κατάχρησης και ελαχιστοποιεί την ευθύνη και τη διαμάχη γύρω από τον εαυτό του.
Αυτό η νέα γενιά ρομπότ χωρίς λογοκρισία καταργεί όλα αυτά τα προστατευτικά κιγκλιδώματα. Δεν υπάρχει ένα ενοποιητικό σύνολο αρχών που να παρακινούν τους προγραμματιστές που δημιουργούν αυτά τα μοντέλα, αλλά πολλοί εμπνέονται από την ιδέα της εντελώς απεριόριστης ομιλίας και επιλογής των χρηστών. Αυτό σημαίνει ότι τα chatbot έχουν λιγότερα, εάν έχουν καν, όρια στα είδη των απαντήσεων που θα παρέχουν ως απόκριση σε προτροπές και ότι οι χρήστες μπορούν να τα εκπαιδεύσουν περαιτέρω σχετικά με τις δικές τους συγκεκριμένες πληροφορίες.
Έχοντας δει τα χούφτα μεγαθήρια αναζήτησης και κοινωνικών μέσων να αναπτύσσουν την εκπληκτική ικανότητα να αναδιαμορφώνουν τη δημόσια συνείδησή, να λογοκρίνουν πληροφορίες και να αλλάζουν το περίγραμμα της πολιτικής ζωής, πολλοί μελετητές και προγραμματιστές τεχνητής νοημοσύνης βλέπουν, αντανακλαστικά, ευμενώς αυτήν την ατζέντα, ειδικά επειδή νιώθουν βαθιά άβολα με την αδιαφάνεια του τρόπου με τον οποίο λειτουργούν τα κύρια μεγάλα γλωσσών μοντέλα.
Τούτου λεχθέντος, υπάρχουν επίσης σαφείς αντισταθμίσεις με το άνοιγμα των chatbot που ξεπερνούν την ικανότητα τους να διασκεδάζουν τους μισαλλόδοξους αναπαράγοντας ρατσιστικά σχόλια.
Οι Times αναφέρθηκαν σε μια ανάρτηση ιστολογίου από τον Έρικ Χάρτφορντ, έναν προγραμματιστή πίσω από το WizardLM-Uncensored, ένα από τα μη εποπτευόμενα chatbot. Ένα μέρος της ανάρτησης συγκεκριμένα συνοψίζει άριστα μερικά από αυτά τα ανταλλάγματα:
«Η αμερικανική λαϊκή κουλτούρα δεν είναι η μόνη κουλτούρα. Υπάρχουν άλλες χώρες και υπάρχουν φατρίες μέσα σε κάθε χώρα. Οι δημοκράτες αξίζουν το μοντέλο τους. Οι Ρεπουμπλικάνοι αξίζουν το μοντέλο τους. Οι Χριστιανοί αξίζουν το πρότυπό τους. Οι μουσουλμάνοι αξίζουν το πρότυπό τους. Κάθε δημογραφική ομάδα και ομάδα συμφερόντων αξίζει το μοντέλο της. Ο ανοιχτός κώδικας έχει να κάνει με το να αφήνουμε τους ανθρώπους να επιλέξουν».
Από τη μία πλευρά, ο Χάρτφορντ εγείρει το έγκυρο επιχείρημα ότι είναι δύσκολο υπερασπίσιμο να περιμένει κανείς ότι μερικά chatbot που υποστηρίζονται από εταιρείες είναι τα βέλτιστα για κάθε κοινότητα επί του πλανήτη. Τα chatbots έχουν σχεδιαστεί για να βοηθούν τους ανθρώπους να αναζητούν πληροφορίες, να βοηθούν στη σύνταξη κειμένου για όλα τα είδη επικοινωνίας, να βοηθούν στη σύνταξη κώδικα και άλλες εργασίες. Είναι λογικό ότι μια πληθώρα μοντέλων θα μπορούσε να βοηθήσει σε αυτές τις εργασίες για ένα ευρύτερο φάσμα ανθρώπων, με ένα διαφορετικό σύνολο στόχων. Κάτι που πρέπει να έχουμε κατά νου είναι ότι τα chatbot δεν είναι ακόμη αξιόπιστα για τη ακριβή μετάδοση πληροφοριών (και συχνά τις κατασκευάζουν), επομένως το επιχείρημα για την αφθονία των chatbot δεν σημαίνει απαραίτητα ότι η αντικειμενική πραγματικότητα δεν υπάρχει.
Από την άλλη πλευρά, η έλλειψη προστατευτικών κιγκλιδωμάτων και η δυνατότητα προσαρμογής αυτών των chatbot αποτελεί επίσης πρόκληση για τη δημοκρατία. Δεν είμαι σίγουρος ότι καταλαβαίνω πώς θα έμοιαζαν τα διαφορετικά chatbot για τα διάφορα κόμματα, αλλά είναι σαφές ότι οποιαδήποτε ευρεία υιοθέτηση κομματικών chatbot θα επιδείνωνε την κρίση πόλωσης στο περιβάλλον πληροφοριών.
Οι ειδικοί της τεχνητής νοημοσύνης προειδοποιούν επίσης ότι τα νέα chatbot θα μπορούσαν να είναι ισχυρά όπλα στους επερχόμενους πολέμους πληροφοριών. Ο Γκάρι Μάρκους, ομότιμος καθηγητής ψυχολογίας και νευρωνικής επιστήμης στο Πανεπιστήμιο της Νέας Υόρκης, είναι μια από τις πιο εξέχουσες φωνές που κρούουν τον κώδωνα του κινδύνου για την αναδυόμενη απειλή παραπληροφόρησης. Λέει ότι η ευκολία με την οποία τα chatbot χωρίς λογοκρισία μπορούν να επανεκπαιδεύονται για να πουν συγκεκριμένο αφήγημα τα καθιστά ιδιαίτερα κατάλληλα για εκστρατείες παραπληροφόρησης και fake news: Οι αστερισμοί bot μπορούν να εκπαιδευτούν να λένε πολλές εξελιγμένες παραλλαγές σε ένα θέμα και η ικανότητά τους να προσομοιώνουν τον άνθρωπο η ομιλία τους κάνει δύσκολο να αναγνωριστούν ως τεχνητοί συνομιλητές. Ο Μάρκους είπε πρόσφατα στο MSNBC ότι σύντομα «μπορεί να δούμε δισεκατομμύρια κομμάτια παραπληροφόρησης εκεί που βλέπαμε χιλιάδες την ημέρα». Είπε ότι ανησυχούσε ότι οι εκλογές του 2024 επρόκειτο να καταντήσει οχετός ύβρεων (s—show) λόγω του πόσο απροετοίμαστη είναι η Αμερική για το πώς ο λόγος των μέσων κοινωνικής δικτύωσης θα μπορούσε να παραβιαστεί από αυτές τις επιχειρήσεις.
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
Latest News
![Κίνα: Οι μάρκες ειδών πολυτελείας προσφέρουν εκπτώσεις 50%](https://www.ot.gr/wp-content/uploads/2024/07/china-luxury-scaled-1-600x480.jpg)
Γιατί τα "brand" ειδών πολυτελείας στην Κίνα κάνουν μεγάλες εκπτώσεις
Οι εκπτώσεις στη χώρα προσφέρονται κυρίως από σημαντικές φίρμες όπως η Versace και η Burberry, καθώς οι άλλοτε...αδηφάγοι καταναλωτές της μεσαίας τάξης της Κίνας γίνονται πιο λιτοί
![Ντίμον: Μήνυμα ενότητας και εναντίωσης σε πράξεις μίσους](https://www.ot.gr/wp-content/uploads/2022/07/ot__prosopa_JamieDimonJPmorgan-768x606-1-600x473.png)
Μήνυμα Ντίμον για ενότητα και εναντίωση σε πράξεις μίσους
Ο Τζέιμι Ντίμον έστειλε email στους εργαζόμενους της JPMorgan μετά την απόπειρα δολοφονίας Τραμπ
![Ιαπωνία: Έχει τη λύση για τις επιχειρήσεις-ζόμπι – Αφήστε τις να αποτύχουν](https://www.ot.gr/wp-content/uploads/2024/07/kishida-japan-600x340.png)
Κι όμως η Ιαπωνία έχει τη λύση για τις επιχειρήσεις-ζόμπι: Αφήστε τις να αποτύχουν
Η κυβέρνηση βρίσκεται σε δίλημμα: συγχωνεύσεις και εξαγορές ή χρεοκοπίες και απολύσεις μεγάλης κλίμακας;
![Ημιαγωγοί: Σε «έκρηξη» παραγγελιών προσβλέπει η ολλανδική ASML](https://www.ot.gr/wp-content/uploads/2021/12/asml1-600x400.jpg)
Σε «έκρηξη» παραγγελιών προσβλέπει η ολλανδική ASML
Αναλυτές θεωρούν ότι η σύσταση για την εταιρεία θα αναβαθμιστεί καθώς κορυφαίοι κατασκευαστές ημιαγωγών ενδέχεται να αυξήσουν αλλά και να επιταχύνουν τις αγορές σχετικού εξοπλισμού
![Βρετανία προς G7: Είμαστε έτοιμοι για μια πιο ώριμη, πιο ισότιμη σχέση με την ΕΕ](https://www.ot.gr/wp-content/uploads/2024/07/2024-07-06T123655Z_1251059174_RC2OP8A2AKUL_RTRMADP_5_BRITAIN-POLITICS-STARMER-600x400.jpg)
Βρετανία προς G7: Είμαστε έτοιμοι για μια πιο ώριμη, πιο ισότιμη σχέση με την ΕΕ
Η νέα κυβέρνηση στη Βρετανία αναμένεται να προωθήσει πιο μετριοπαθείς μεταρρυθμίσεις και σε πιο ζεστό τόνο με τις Βρυξέλλες
![Macy’s: Γιατί έθεσε τέλος στις θεωρίες εξαγοράς](https://www.ot.gr/wp-content/uploads/2024/01/macys-2-600x360.png)
Κάτι (δεν) τρέχει με την Macy's - Τι συμβαίνει με την εξαγορά
Ο αμερικανικός κολοσσός του λιανεμπορίου επενδύσει σε νέα στρατηγική, αφού έκοψε τις σχέσεις με τους επίδοξους αγοραστές, Arkhouse και Brigade
![Ενοίκια: Πλαφόν 5% στις αυξήσεις υπόσχεται ο Μπάιντεν](https://www.ot.gr/wp-content/uploads/2024/02/build-a-house-4503738_1280-600x450.jpg)
Πλαφόν 5% στις αυξήσεις των ενοικίων υπόσχεται ο Μπάιντεν
Τα ενοίκια έχουν αυξηθεί σημαντικά μετά την πανδημία επιβαρύνοντας σημαντικά τον πληθωρισμό στις ΗΠΑ
![Ευρωπαϊκή Κεντρική Τράπεζα: Πότε θα ανακοινώσει τα αποτελέσματα έρευνας για τα δάνεια υψηλού κινδύνου](https://www.ot.gr/wp-content/uploads/2024/02/ot_banks_akinhta-600x352.png)
Η σύγκρουση ΕΚΤ - τραπεζών για τους φακέλους των «κόκκινων» δανείων- Γιατί αναβλήθηκε η ανακοίνωσή τους
Σύμφωνα με αποκλειστικό δημοσίευμα του Bloomberg η Ευρωπαϊκή Κεντρική Τράπεζα μετατοπίζει την ανακοίνωση των αποτελεσμάτων για τον Σεπτέμβριο
![Birkenstock: Ποια είναι η γυναίκα που θα φέρει την ασιατική άνοιξη](https://www.ot.gr/wp-content/uploads/2024/07/birkenstock-600x401.jpg)
Η γυναίκα που θα αλλάξει την Birkenstock
Πώς η γερμανική εταιρεία που ανοίκει στον όμιλο LVMH, φιλοδοξεί να επεκτείνει περαιτέρω την παρουσία του σε Ασία και Αυστραλία
![Burberry: Ένας βετεράνος θα τη σώσει](https://www.ot.gr/wp-content/uploads/2024/07/burberry-2-600x323.jpg)
Αυτό το brand ποιος θα το σώσει; Ο Joshua Schulman είναι ο κατάλληλος CEO
Ο λόγος για τον Joshua Schulman, τον νέο διευθύνοντα σύμβουλο του ιστορικού βρετανικού οίκου, που οφείλει τη φήμη του στις... διασώσεις