Τεχνητή νοημοσύνη: Ηθικά ερωτήματα από την χρήση της στους πολέμους στη Μέση Ανατολή

Οι αμερικανικοί τεχνολογικοί γίγαντες έχουν αθόρυβα εξουσιοδοτήσει το Ισραήλ να παρακολουθεί και να σκοτώνει πολύ περισσότερους φερόμενους μαχητές πιο γρήγορα στη Γάζα και στον Λίβανο μέσω μιας απότομης αύξησης στις υπηρεσίες τεχνητής νοημοσύνης και υπολογιστών. Αλλά ο αριθμός των αμάχων που σκοτώθηκαν έχει επίσης αυξηθεί, τροφοδοτώντας φόβους ότι αυτά τα εργαλεία συμβάλλουν στον θάνατο αθώων ανθρώπων.

Οι στρατιωτικοί προσλαμβάνουν χρόνια τώρα ιδιωτικές εταιρείες για την κατασκευή αυτόνομων όπλων κατά παραγγελία. Ωστόσο, οι πρόσφατοι πόλεμοι του Ισραήλ σηματοδοτούν μια κορυφαία περίπτωση κατά την οποία εμπορικά μοντέλα τεχνητής νοημοσύνης που κατασκευάζονται στις ΗΠΑ έχουν χρησιμοποιηθεί σε ενεργό πόλεμο, παρά τις ανησυχίες ότι δεν αναπτύχθηκαν αρχικά για να αποφασίζουν ποιος ζει και ποιος πεθαίνει.

Ο ισραηλινός στρατός χρησιμοποιεί την τεχνητή νοημοσύνη για να σταχυολογήσει τεράστιες ποσότητες πληροφοριών, υποκλοπής επικοινωνιών και παρακολούθησης για να βρει ύποπτες ομιλίες ή συμπεριφορές και να μάθει τις κινήσεις των εχθρών του. Μετά την 7 Οκτωβρίου 2023, η χρήση της τεχνολογίας Microsoft και OpenAI εκτινάχθηκε στα ύψη, σύμφωνα με το Associated Press. Η έρευνα αποκάλυψε επίσης νέες λεπτομέρειες για τον τρόπο με τον οποίο τα συστήματα AI επιλέγουν στόχους και τρόπους με τους οποίους μπορούν να πάνε στραβά, συμπεριλαμβανομένων ελαττωματικών δεδομένων ή ελαττωματικών αλγορίθμων. Βασίστηκε σε εσωτερικά έγγραφα, δεδομένα και αποκλειστικές συνεντεύξεις με νυν και πρώην Ισραηλινούς αξιωματούχους και υπαλλήλους της εταιρείας.

Η άνοδος της AI

Καθώς οι αμερικανικές Big Tech αναλαμβάνουν εξέχοντες ρόλους υπό τον Τραμπ, τα ευρήματα του AP εγείρουν ερωτήματα σχετικά με τον ρόλο της Silicon Valley στο μέλλον του αυτοματοποιημένου πολέμου. Η Microsoft αναμένει να αναπτυχθεί η συνεργασία της με τον ισραηλινό στρατό και αυτό που συμβαίνει με το Ισραήλ μπορεί να βοηθήσει στον καθορισμό της χρήσης αυτών των αναδυόμενων τεχνολογιών σε όλο τον κόσμο.

Η χρήση τεχνητής νοημοσύνης Microsoft και OpenAI από τον ισραηλινό στρατό εκτοξεύτηκε τον περασμένο Μάρτιο, σχεδόν 200 φορές περισσότερο από ό,τι πριν την εβδομάδα πριν την 7η Οκτωβρίου, διαπίστωσε το AP. Ο όγκος των δεδομένων που αποθήκευε στους διακομιστές της Microsoft διπλασιάστηκε μεταξύ εκείνης της εποχής και του Ιουλίου 2024 σε περισσότερα από 13,6 petabyte. Η χρήση των τεράστιων τραπεζών διακομιστών υπολογιστών της Microsoft από τον στρατό επίσης αυξήθηκε σχεδόν κατά δύο τρίτα μόνο τους δύο πρώτους μήνες του πολέμου.

Ο στόχος του Ισραήλ μετά την επίθεση ήταν να εξαλείψει τη Χαμάς και ο στρατός του αποκάλεσε την τεχνητή νοημοσύνη «game changer» για την ταχύτερη ανάδειξη στόχων.

Η έρευνα του AP βασίστηκε σε συνεντεύξεις με νυν και πρώην μέλη του ισραηλινού στρατού, που μίλησαν υπό τον όρο της ανωνυμίας.

Το AP πήρε επίσης συνεντεύξεις από 14 νυν και πρώην υπαλλήλους των Microsoft, OpenAI, Google και Amazon, οι περισσότεροι από τους οποίους μίλησαν επίσης ανώνυμα. Οι δημοσιογράφοι εξέτασαν εσωτερικά δεδομένα και έγγραφα της εταιρείας, συμπεριλαμβανομένου ενός που περιγράφει λεπτομερώς τους όρους μιας σύμβασης 133 εκατομμυρίων δολαρίων μεταξύ της Microsoft και του Υπουργείου Άμυνας του Ισραήλ.

Ο ισραηλινός στρατός λέει ότι οι αναλυτές του χρησιμοποιούν συστήματα AI για να βοηθήσουν στον εντοπισμό στόχων, αλλά τους εξετάζουν ανεξάρτητα μαζί με υψηλόβαθμους αξιωματικούς για να τηρήσουν το διεθνές δίκαιο, σταθμίζοντας το στρατιωτικό πλεονέκτημα έναντι παράπλευρων απωλειών. Ανώτερος αξιωματούχος των Ισραηλινών Πληροφοριών που εξουσιοδοτήθηκε να μιλήσει στο AP είπε ότι οι νόμιμοι στρατιωτικοί στόχοι μπορεί να περιλαμβάνουν μαχητές του εχθρού και κτίρια που χρησιμοποιούνς. Οι αξιωματούχοι επιμένουν ότι ακόμα και όταν η τεχνητή νοημοσύνη παίζει κάποιο ρόλο, υπάρχουν πάντα πολλά στρώματα ανθρώπων στο βρόχο.

Σε μια δήλωση στον ιστότοπό της, η Microsoft αναφέρει ότι έχει δεσμευτεί «να υπερασπιστεί τον θετικό ρόλο της τεχνολογίας σε όλο τον κόσμο». Στην 40 σελίδων Έκθεση Υπεύθυνης Διαφάνειας AI για το 2024, η Microsoft δεσμεύεται να διαχειριστεί τους κινδύνους της τεχνητής νοημοσύνης σε όλη την ανάπτυξη «για να μειώσει τον κίνδυνο βλάβης» και δεν αναφέρει τις επικερδείς στρατιωτικές της συμβάσεις.

Τα προηγμένα μοντέλα τεχνητής νοημοσύνης παρέχονται μέσω του OpenAI, του κατασκευαστή του ChatGPT, μέσω της πλατφόρμας cloud της Microsoft Azure, όπου αγοράζονται από τον ισραηλινό στρατό, δείχνουν τα δεδομένα.

Είναι εξαιρετικά δύσκολο να εντοπιστεί πότε τα συστήματα τεχνητής νοημοσύνης ενεργοποιούν σφάλματα επειδή χρησιμοποιούνται με τόσες άλλες μορφές νοημοσύνης, συμπεριλαμβανομένης της ανθρώπινης νοημοσύνης, ανέφεραν πηγές. Αλλά μαζί μπορούν να οδηγήσουν σε αδικαιολόγητους θανάτους.

Σε μια περίπτωση λανθασμένη ανάλυση έδωσε εντολή πλήγματος σε κατοικία στον Λίβανο από την οποία έφευγε μια οικογένεια. Το αυτοκίνητο της παρακολουθήθηκε και επλήγη σκοτώνοντας τουλάχιστον τρία παιδιά.

Πώς λειτουργεί

Η Google και η Amazon παρέχουν υπηρεσίες υπολογιστικού νέφους και τεχνητής νοημοσύνης στον ισραηλινό στρατό στο πλαίσιο του «Project Nimbus», αξίας 1,2 δισεκατομμυρίων δολαρίων που υπογράφηκε το 2021. Ο στρατός έχει χρησιμοποιήσει κέντρα διακομιστών ή δεδομένων Cisco και Dell. Η Red Hat, μια ανεξάρτητη θυγατρική της IBM, έχει επίσης προσφέρει τεχνολογίες υπολογιστικού νέφους στον ισραηλινό στρατό και η Palantir Technologies, συνεργάτης της Microsoft, έχει μια «στρατηγική συνεργασία» που παρέχει συστήματα AI για να βοηθήσει τις πολεμικές προσπάθειες του Ισραήλ.

Ο ισραηλινός στρατός χρησιμοποιεί το Microsoft Azure για να συγκεντρώσει πληροφορίες μέσω μαζικής παρακολούθησης, τις οποίες μεταγράφει και μεταφράζει, συμπεριλαμβανομένων τηλεφωνικών κλήσεων, γραπτών και ηχητικών μηνυμάτων. Αυτά τα δεδομένα μπορούν στη συνέχεια να διασταυρωθούν με τα εσωτερικά συστήματα στόχευσης του Ισραήλ και αντίστροφα.

Είπε ότι βασίζεται στο Azure για γρήγορη αναζήτηση όρων και μοτίβων μέσα σε τεράστια κείμενα, όπως η εύρεση συνομιλιών μεταξύ δύο ατόμων σε ένα έγγραφο 50 σελίδων.

Τα δεδομένα της Microsoft που εξέτασε το AP δείχνουν ότι μετά την επίθεση της 7ης Οκτωβρίου, ο ισραηλινός στρατός έχει κάνει εντατική χρήση εργαλείων μεταγραφής και μετάφρασης και μοντέλων OpenAI, αν και δεν διευκρινίζει ποια. Συνήθως, τα μοντέλα τεχνητής νοημοσύνης που μεταγράφουν και μεταφράζουν αποδίδουν καλύτερα στα αγγλικά. Η OpenAI αναγνώρισε ότι το δημοφιλές μεταφραστικό μοντέλο Whisper με τεχνητή νοημοσύνη, το οποίο μπορεί να μεταγράψει και να μεταφράσει σε πολλές γλώσσες, συμπεριλαμβανομένων των αραβικών, μπορεί να δημιουργήσει αλλόκοτο κείμενο.

Ο ισραηλινός στρατός είπε ότι κάθε τηλεφωνική συνομιλία που μεταφράζεται από τα αραβικά ή οι υπηρεσίες πληροφοριών που χρησιμοποιούνται για την αναγνώριση ενός στόχου πρέπει να ελεγχθούν από έναν αραβόφωνο αξιωματικό.

Λάθη μπορεί να συμβούν για πολλούς λόγους που αφορούν την τεχνητή νοημοσύνη, δήλωσαν Ισραηλινοί στρατιωτικοί που έχουν εργαστεί με τα συστήματα στόχευσης και άλλοι ειδικοί στην τεχνολογία. Ένας αξιωματικός πληροφοριών είπε ότι είχε δει λάθη στόχευσης που βασίζονταν σε λανθασμένες μηχανικές μεταφράσεις από τα αραβικά στα εβραϊκά.

Μερικές φορές τα δεδομένα που επισυνάπτονται στα προφίλ των ατόμων είναι λανθασμένα. Για παράδειγμα, το σύστημα εντόπισε υπολογιστικό φύλλο Excel με λίστα μαθητών γυμνασίου που εσφαλμένα αναγνώρισε ως πιθανούς μαχητές.

Ένας αξιωματικός επε ότι ανησυχεί επίσης ότι νεαροί αξιωματικοί, ορισμένοι ακόμη κάτω των 20 ετών, υπό πίεση να βρουν στόχους γρήγορα με τη βοήθεια της τεχνητής νοημοσύνης, θα βγάλουν βιαστικά συμπεράσματα

Η τεχνητή νοημοσύνη από μόνη της θα μπορούσε να οδηγήσει σε λάθος συμπέρασμα, είπε ένας άλλος στρατιώτης που εργάστηκε με τα συστήματα στόχευσης. Για παράδειγμα, η τεχνητή νοημοσύνη μπορεί να επισημάνει ένα σπίτι που ανήκει σε κάποιον που συνδέεται με τη Χαμάς και δεν μένει εκεί. Πριν χτυπηθεί το σπίτι, οι άνθρωποι πρέπει να επιβεβαιώσουν ποιος είναι πραγματικά σε αυτό, είπε.

Ενώ, προηγουμένως, χρειαζόταν μια ομάδα έως και 20 ατόμων την ημέρα ή περισσότερα για να εξετάσει και να εγκρίνει μια μεμονωμένη αεροπορική επιδρομή. Τώρα, με τα συστήματα AI, ο στρατός εγκρίνει εκατοντάδες την εβδομάδα.

Η υπερβολική εξάρτηση από την τεχνητή νοημοσύνη θα μπορούσε να να εμποδίσει τους ανθρώπους να διερευνήσουν μόνοι τους.

Στενοί δεσμοί

Μεταξύ των αμερικανικών εταιρειών τεχνολογίας, η Microsoft έχει μια ιδιαίτερα στενή σχέση με τον ισραηλινό στρατό εδώ και δεκαετίες.

Αυτή η σχέση, μαζί με αυτές με άλλες εταιρείες τεχνολογίας, ενισχύθηκε μετά την επίθεση της Χαμάς. Η πολεμική απάντηση του Ισραήλ πίεσε τους δικούς του διακομιστές και αύξησε την εξάρτησή του από εξωτερικούς, τρίτους προμηθευτές, σύμφωνα με μια παρουσίαση πέρυσι από τον κορυφαίο αξιωματικό τεχνολογίας πληροφοριών του στρατού.

Ένα τριετές συμβόλαιο μεταξύ της Microsoft και του Υπουργείου Άμυνας του Ισραήλ ξεκίνησε το 2021 και ήταν αξίας 133 εκατομμυρίων δολαρίων, καθιστώντας την τον δεύτερο μεγαλύτερο στρατιωτικό πελάτη της εταιρείας παγκοσμίως μετά τις ΗΠΑ.

Οι συμφωνίες παροχής υπηρεσιών του ισραηλινού στρατού με τη Microsoft περιλαμβάνουν τουλάχιστον 635 μεμονωμένες συνδρομές που αναφέρονται σε συγκεκριμένα τμήματα, μονάδες, βάσεις ή κωδικές λέξεις του έργου.

Ένα επείγον δελτίο υποστήριξης Azure που κατατέθηκε περίπου δύο εβδομάδες μετά την επίθεση της 7ης Οκτωβρίου ζητούσε καθυστερήσεις στις προγραμματισμένες διακοπές συντήρησης για το υπόλοιπο του έτους λόγω του πολέμου, επειδή τυχόν διακοπές λειτουργίας θα μπορούσαν να έχουν «άμεσο αντίκτυπο στα συστήματα που σώζουν ζωές».

Τα αρχεία δείχνουν ότι η παγκόσμια ομάδα υποστήριξης Azure της Microsoft ανταποκρίθηκε σε περίπου 130 άμεσα αιτήματα από τον ισραηλινό στρατό κατά τους πρώτους 10 μήνες του πολέμου. Η μονάδα συμβουλευτικών υπηρεσιών της Microsoft συνεργάζεται επίσης στενά με τον στρατό του Ισραήλ, ο οποίος αντιπροσώπευε το ήμισυ των συνολικών εσόδων αυτού του τμήματος, ανέφερε ένα εσωτερικό έγγραφο.

Οι Ισραηλινές Αμυντικές Δυνάμεις βρίσκονται εδώ και καιρό στην πρώτη γραμμή της ανάπτυξης τεχνητής νοημοσύνης για στρατιωτική χρήση. Στις αρχές του 2021, ξεκίνησε το εργαλείο τεχνητής νοημοσύνης Gospel, που ταξινομεί την τεράστια γκάμα ψηφιοποιημένων πληροφοριών του Ισραήλ για να προτείνει πιθανούς στόχους. Ανέπτυξε επίσης το Lavender, το οποίο χρησιμοποιεί μηχανική μάθηση για να φιλτράρει τα ζητούμενα κριτήρια από βάσεις δεδομένων πληροφοριών και να περιορίσει τις λίστες πιθανών στόχων.

Το Lavender κατατάσσει τους ανθρώπους μεταξύ 0 και 100 με βάση το πόσο πιθανό είναι να είναι μαχητές. Η κατάταξη βασίζεται σε πληροφορίες, όπως το γενεαλογικό δέντρο του ατόμου, εάν ο πατέρας κάποιου είναι γνωστός μαχητής που υπηρετούσε, αλλά και υποκλοπή τηλεφωνημάτων.

Τον Μάιο του 2021, ο ισραηλινός στρατός ξεκίνησε αυτό που οι ισραηλινοί αξιωματούχοι πληροφοριών περιέγραψαν ως τον «Πρώτο Πόλεμο AI», μια 11ήμερη εκστρατεία βομβαρδισμού κατά της Χαμάς. Εκείνη την εποχή, Ισραηλινοί στρατιωτικοί αξιωματούχοι περιέγραψαν την τεχνητή νοημοσύνη ως «πολλαπλασιαστή ισχύος», επιτρέποντάς τους να πραγματοποιούν πολύ περισσότερες αεροπορικές επιδρομές από ό,τι σε προηγούμενες συγκρούσεις.

Μια ανάρτηση του 2021 από τον ισραηλινό στρατό περιέγραφε επίσης τα διακυβεύματα σχετικά με τη χρήση της τεχνητής νοημοσύνης στον πόλεμο: «Σε αντίθεση με τη σφαίρα της AdTech και του Gaming, λάθος αποφάσεις στη σφαίρα της νοημοσύνης μπορεί να κοστίσουν ζωές», έγραφε. Η ίδια ανάρτηση περιέγραφε την ενσωμάτωση προσεγγίσεων τεχνητής νοημοσύνης από τον στρατό για την ανάλυση του συναισθηματικού τόνου των επικοινωνιών, μια τεχνική που οι ειδικοί βρήκαν ότι μπορεί να αποτύχει να ερμηνεύσει αργκό, ορολογία ή αποχρώσεις στην ομιλία των ανθρώπων.

Σε κάθε περίπτωση, η χρήση αμερικανικών πόρων ΑΙ από τις ισραηλινές δυνάμεις εμπλέκει ηθικά τις ΗΠΑ σε μια ενεργή σύρραξη και εγείρει ερωτήματα για την εμπλοκή της τεχνητής νοημοσύνης σε ζητήματα αποφάσεων ζωής και θανάτου.