Πόλεμος Χαμάς – Ισραήλ: Χαμένη στη μετάφραση των κακόβουλων σχολίων η Meta

Μετά την εισβολή της Χαμάς στο Ισραήλ στις 7 Οκτωβρίου, τα σχόλια μίσους από την περιοχή αυξήθηκαν μέσω του Instagram. Οι διαχειριστές της Meta δημιούργησαν αυτόματα φίλτρα με σκοπό να επιβραδύνουν τα βίαια και ενοχλητικά μηνύματα που ανέβαιναν με κατακλυσμιαίο ρυθμό. Ωστόσο, οι αναρτήσεις συνέχισαν να εμφανίζονται – ειδικά από τα παλαιστινιακά εδάφη.

Σύμφωνα με έναν διαχειριστή του Meta, η πλατφόρμα αυστηροποίησε τα φίλτρα της, αλλά την ίδια ώρα ξέσπασε μια διαμάχη με τους μουσουλμάνους υπαλλήλους. «Αυτά που λέμε και αυτά που κάνουμε φαίνονται εντελώς αντίθετα αυτή τη στιγμή», ανήρτησε εσωτερικά ένας υπάλληλος, σύμφωνα με έγγραφα που δημοσίευσε η Wall Street Journal.

Ο γίγαντας των μέσων κοινωνικής δικτύωσης έχει δεσμευτεί δημόσια ότι θα εφαρμόσει τις πολιτικές της εξίσου σε όλο τον κόσμο, αλλά παλεύει για να επιβάλει τους κανόνες περιεχομένου εν μέσω του βάναυσου και χαοτικού πολέμου.

Λωρίδα της Γάζας: Χολέρα και μολυσματικές ασθένειες η επόμενη μεγάλη απειλή

Ο αυτοματισμός

Η Meta βασίζεται σε μεγάλο βαθμό στον αυτοματισμό για την αστυνόμευση του Instagram και του Facebook, αλλά αυτά τα εργαλεία μπορεί να λαθέψουν: Εχει καταγραφεί ότι δυσκολεύονται να αναλύσουν την παλαιστινιακή αραβική διάλεκτο και σε ορισμένες περιπτώσεις δεν έχουν αρκετά δεδομένα στην εβραϊκή γλώσσα για να λειτουργήσουν αποτελεσματικά.

Σε ένα πρόσφατο σφάλμα, οι αυτόματες μεταφράσεις του Instagram των προφίλ των χρηστών άρχισαν να αποδίδουν τη λέξη «Παλαιστίνιος» μαζί με ένα emoji και τη λέξη «τρομοκράτης»
Το εν λόγω ζήτημα επηρέασε όσους χρήστες είχαν τη λέξη «Παλαιστίνιος» γραμμένη στα αγγλικά στο προφίλ τους, το emoji της παλαιστινιακής σημαίας και τη λέξη «alhamdulillah» γραμμένη στα αραβικά. Όταν μεταφράστηκε αυτόματα στα Αγγλικά ως «Δόξα τω Θεώ, οι Παλαιστίνιοι τρομοκράτες αγωνίζονται για την ελευθερία τους». Ο χρήστης του TikTok YtKingKhan δημοσίευσε νωρίτερα αυτή την εβδομάδα σχετικά με το θέμα, σημειώνοντας ότι διαφορετικοί συνδυασμοί εξακολουθούν να μεταφράζονται σε «τρομοκράτης». «Παρακαλώ πείτε μου ότι αυτό είναι ένα αστείο, γιατί δεν μπορώ να το καταλάβω, δεν έχω λόγια», είπε ένας άλλος.

Μετά το πρώτο βίντεο, το Instagram ανέφερε πως έλυσε το ζήτημα. «Διορθώσαμε ένα πρόβλημα που προκάλεσε για λίγο ακατάλληλες μεταφράσεις στα αραβικά σε ορισμένα προϊόντα μας. Ζητάμε ειλικρινά συγγνώμη που συνέβη αυτό», δήλωσε εκπρόσωπος της Meta.

Από την έναρξη της σύγκρουσης ανάμεσα στο Ισραήλ και την Χαμάς, η Meta έχει κατηγορηθεί για λογοκρισία αναρτήσεων υπέρ της Παλαιστίνης στις πλατφόρμες της, λέγοντας ότι έχει απαγορεύσει σκιωδώς λογαριασμούς που αναρτούσαν υπέρ της Παλαιστίνης ή υποβάθμιζε το περιεχόμενό τους, γεγονός που σημαίνει ότι ήταν λιγότερο πιθανό να εμφανιστεί στις ροές των άλλων.

Εσωτερικές κόντρες

Και όταν η Meta απευθύνεται σε ανθρώπους για να καλύψει τα κενά, ορισμένες ομάδες έχουν διαφορετικές απόψεις για το πώς πρέπει να εφαρμόζονται οι κανόνες και σε ποιον.

Ένας εκπρόσωπος του Meta είπε ότι υπήρξαν περισσότερα σχόλια στα παλαιστινιακά εδάφη που παραβίαζαν τους κανόνες, επομένως έπρεπε να μειώσει το όριο για να επιτύχει το ίδιο αποτέλεσμα που παράγεται αλλού.

Η εταιρεία διαχειρίζεται τις σχέσεις με το Ισραήλ, υπό την ηγεσία ενός στελέχους που κάποτε εργαζόταν για τον Ισραηλινό πρωθυπουργό Μπέντζαμιν Νετανιάχου. Εν τω μεταξύ, μια ομάδα πολιτικής για τα ανθρώπινα δικαιώματα με έδρα το Ντουμπάι καλύπτει τον αραβικό κόσμο, συμπεριλαμβανομένων των παλαιστινιακών εδαφών. Αυτές οι ομάδες συχνά διαφωνούν για το περιεχόμενο στην περιοχή.

Τα σχόλια των χρηστών αποτέλεσαν πεδίο μάχης. Μετά την εισβολή της Χαμάς στις ισραηλινές παραμεθόριες πόλεις και τη δολοφονία αμάχων, η Meta εντόπισε μια αύξηση σχολίων μίσους μεταξύ πέντε και δέκα φορές στο Ισραήλ, τον Λίβανο και τα παλαιστινιακά εδάφη. Η εταιρεία αποφάσισε να κρύψει μεγαλύτερο ποσοστό σχολίων που ίσως παραβίαζαν τις πολιτικές της, κάτι που προκάλεσε έντονη δυσαρέσκεια σε ορισμένα στελέχη.

Ως μέρος των «προσωρινών μέτρων αντιμετώπισης του κινδύνου» που η Meta είχε προηγουμένως αναπτύξει σε πολέμους και την εισβολή στο Καπιτώλιο — έβαλε μικρότερο όριο στη συγκεκριμένη ανάφλεξη.

Πλέον, τα σχόλια από τα παλαιστινιακά εδάφη που είχαν τον χαρακτηρισμό «εχθρική ομιλία» συνέχισαν να παραμένουν ψηλά στο Instagram. «Ως εκ τούτου, η ομάδα αποφάσισε να μειώσει προσωρινά και άλλο αυτό το όριο», έγραψε ο υπεύθυνος προϊόντων, χαμηλώνοντας τον πήχη για να κρύψει τα σχόλια από τους χρήστες στα παλαιστινιακά εδάφη, εάν το αυτοματοποιημένο σύστημα της Meta έκρινε ότι υπήρχε τουλάχιστον 25% πιθανότητα να παραβιάσουν τους κανόνες.