Αλγοριθμοκρατία: Αλγοριθμικός σκεπτικισμός, αλγοριθμική αυτοματοποίηση και προσεκτική εθελοτύφλωση

Ο όρος Τεχνητή Νοημοσύνη (ΤΝ) ακούγεται όλο και πιο συχνά σε στρατηγικές συζητήσεις επιχειρήσεων και οργανισμών που δραστηριοποιούνται σε διάφορους κλάδους όπως το βιομηχανικό, τον αγροτικό, τον τουριστικό και ακόμη και τον κλάδο της υγείας όπου η τεχνολογία βαθιάς μάθησης (deep learning) έχει επιτρέψει μια πολυεπίπεδη ανάλυση δεδομένων (και ιδιαίτερα εικόνων) ικανή να προσφέρει προβλέψεις και συμπεράσματα που η ανθρώπινη ευφυΐα δεν μπορεί να πραγματοποιήσει.

Σε προηγούμενα άρθρα μας έχουμε εστιάσει σε διάφορες διαστάσεις του τι απαιτείται από επιχειρήσεις που ενδιαφέρονται να επενδύσουν σε λύσεις ΤΝ και στο πώς μπορεί να γίνει ανάλυση της ετοιμότητας μιας επιχείρησης όσον αφορά την ΤΝ. (Ενδεικτικά αναφερόμαστε σε):

• Ζοπουνίδης, Κ. & Κωστής, Α. (2022) Η Επιστήμη Δεδομένων και η Τεχνητή Νοημοσύνη υπό την Μορφή ενός Σχεσιακού Πρίσματος, Οικονομικός Ταχυδρόμος
• Ζοπουνίδης, Κ. & Κωστής, Α. (2022) Εκπαίδευση και Τεχνητή Νοημοσύνη: Προκλήσεις και Διέξοδοι ή Ανάγκη για Καλλιέργεια ενός AI Mindset, Πολυτεχνείο Κρήτης.
• Ζοπουνίδης, Κ. & Κωστής, Α. (2022) Αξιολόγηση Ετοιμότητας για Τεχνητή Νοημοσύνη: Διαδικασίες και βασικοί πυλώνες, Πολυτεχνείο Κρήτης.

Στο παρόν άρθρο εστιάζουμε σε ένα άλλο σημαντικό ζήτημα και πιο συγκεκριμένα, στον τρόπο με τον οποίο επιχειρήσεις χρησιμοποιούν και εμπλέκονται με τα αποτελέσματα που τους παρέχει ένα μοντέλο ΤΝ που έχει ήδη εισαχθεί στις διαδικασίες τους. Βάσει της ανάλυσής μας, χτίζουμε σε προηγούμενη έρευνα (Kostis, A., Bengtsson, M. E., & Nãsholm, M. (2020). Trust Can Blind and Distrust Can Aid: Watchful Blindness Under Interpartner Uncertainty. In Academy of Management Proceedings) και περιγράφουμε μια προσέγγιση που ονομάζουμε προσεκτική εθελοτύφλωση προς τους αλγόριθμους (watchful blindness towards algorithms), η οποία σύμφωνα με την έρευνά μας οδηγεί μάνατζερ να προσεγγίζουν την ΤΝ με αισιοδοξία ενώ δεν παραβλέπουν τις προκλήσεις και τα προβλήματα που μπορούν να προκύψουν όταν γίνεται χρήση ΤΝ για λήψη σημαντικών αποφάσεων.

Διαβάστε επίσης: Οι αγορές συνεχίζονται και στο metaverse

Για να ρίξουμε φως στο τι συμβαίνει όταν μάνατζερ καλούνται να βασιστούν στις προβλέψεις ενός μοντέλου ΤΝ για να λάβουν αποφάσεις που μέχρι πριν λάμβαναν αυτόνομα, εστιάζουμε σε μια Σουηδική επιχείρηση που στόχευσε στην επίτευξη αυτού που ονομάζει γεωργία ακριβείας (precision farming) μέσω της χρήσης ΤΝ. Στη συγκεκριμένη περίπτωση, η χρήση ΤΝ είχε πολλαπλά οφέλη μιας και δεδομένα που συλλέγονταν σε πραγματικό χρόνο αναλύονταν με τέτοιο τρόπο που επέτρεπε ενημέρωση για την πιθανή μεταβλητότητα στις καλλιέργειες συμβάλλοντας μετέπειτα στην αύξηση των αποδόσεων των καλλιεργειών, στη μείωση του κόστους, και στη βιωσιμότητα της γεωργικής παραγωγής. Πέρα από τον τρόπο με τον οποίο δημιουργήθηκε η λύση και πέρα από τα συγκεκριμένα οφέλη που καρπώθηκε η επιχείρηση, η υπό εξέλιξη έρευνά, μας έφερε  αντιμέτωπους με ένα ιδιαίτερα ενδιαφέρον και συνάμα απρόσμενο ερευνητικό εύρημα. Παρατηρήσαμε ότι ο τρόπος με τον οποίο οι μάνατζερ της επιχείρησης εμπλέκονται με τα αποτελέσματα που προσέφερε η ΤΝ διέφερε σημαντικά.

Περαιτέρω ανάλυση αυτής της διαφορετικής χρήσης ή καλύτερα διαφορετικής εμπλοκής με τα αποτελέσματα και τις προβλέψεις της ΤΝ στο εσωτερικό της επιχείρησης, μας οδήγησε στο συμπέρασμα ότι μπορεί να υπάρξουν τρεις διαφορετικοί τρόποι εμπλοκής με τα δεδομένα που παρέχει ένα μοντέλο ΤΝ. Πρώτον, είδαμε περιπτώσεις όπου μάνατζερ αρνούνταν να αποδεχθούν την ιδέα ότι ένας αλγόριθμος μπορεί να παρέχει κατευθυντήριες γραμμές σχετικά με τον τρόπο με τον οποίο εξασφαλίζεται αύξηση στην απόδοση των καλλιεργειών. Αυτό σήμαινε ότι κάποιοι μάνατζερ είχαν δυσπιστία και εμπλέκονταν με την ΤΝ με έναν τρόπο που ονομάζουμε αλγοριθμικό σκεπτικισμό. Σε αυτήν την περίπτωση, βάση για την λήψη αποφάσεων αποτελούσε η εμπειρία που πήγαζε από το παρελθόν και οι ιδιαιτερότητες που παρατηρούσε ο άνθρωπος λόγω της εφαρμογής της κρίσης του. Δεύτερον, κάποιοι είχαν μια εντελώς διαφορετική προσέγγιση μιας και εμπλέκονταν με τις προβλέψεις της ΤΝ με έναν ιδιαίτερα θετικό και υπεραισιόδοξο τρόπο μιας και δέχονταν αυτόματα την πρόταση που παρείχε το μοντέλο χωρίς να αναρωτηθούν για το εάν η συγκεκριμένη πρόταση είναι σωστή σύμφωνα με τη δική τους κρίση. Παρατηρήσαμε λοιπόν έναν δεύτερο τρόπο εμπλοκής με την ΤΝ που ονομάζουμε αλγοριθμική αυτοματοποίηση που βασίζεται στο ότι ορισμένοι αποδέχονται προκαθορισμένους κανόνες και δίνουν έμφαση στις ποσοτικές πτυχές της ΤΝ χωρίς να εφαρμόζουν την κρίση τους για την ποιότητα των δεδομένων μέσω των οποίων πραγματοποιούνται προβλέψεις.

Διαβάστε επίσης: Όλες οι πρωτεΐνες στο φως από την Tεχνητή Nοημοσύνη της Google

Τέλος, υπήρξαν επίσης περιπτώσεις όπου μάνατζερ εφάρμοζαν αυτό που ονομάζουμε προσεκτική εθελοτύφλωση προς τους αλγόριθμους (watchful blindness towards algorithms). Συγκεκριμένα, δεν αποδέχονταν αυτόματα τα αποτελέσματα του μοντέλου ΤΝ αλλά ούτε και είχαν σκεπτικισμό όσον αφορά το μοντέλο αυτό κάθε αυτό μιας και συχνά ανέφεραν ότι δεν είναι σε θέση να αντιληφθούν πώς λειτουργεί η ΤΝ και πώς δημιουργεί τέτοιου είδους προβλέψεις. Αντ’ αυτού, η δυσπιστία είχε να κάνει με την ποιότητα των δεδομένων με τα οποία τροφοδοτούνταν το μοντέλο ΤΝ και έτσι γινόταν αξιολόγηση του κατά πόσο το μοντέλο αποδίδει σωστά και πραγματοποιεί προβλέψεις που βγάζουν νόημα σύμφωνα με την κρίση των ανθρώπων που τα χρησιμοποιούσαν ως βάση για λήψη σημαντικών αποφάσεων. Παρατηρήσαμε επίσης ότι αυτός ο υβριδικός τρόπος εμπλοκής με την ΤΝ οδήγησε αρκετές φορές σε περαιτέρω αλλαγές στα δεδομένα και σε πιο συχνή αξιολόγηση του κατά πόσο τα δεδομένα που συλλέγονται και τροφοδοτούν το μοντέλο είναι υψηλής ποιότητας μιας και οι προβλέψεις του μοντέλου ΤΝ αντιμετωπιζόταν με αισιοδοξία ενώ παράλληλα δινόταν προσοχή στις πιθανές προκλήσεις και προβλήματα που μπορούν να προκύψουν λόγω της χρήσης ΤΝ.

Με βάση τα παραπάνω, υποστηρίζουμε ότι σε μια επιχείρηση η ΤΝ μπορεί να προσεγγισθεί διαφορετικά και μπορεί να υπάρξει όχι μόνο υπέρμετρη αισιοδοξία και εμπιστοσύνη στην ΤΝ αλλά και υπέρμετρος σκεπτικισμός και δυσπιστία για την ανάγκη χρήσης ΤΝ. Παρόλα αυτά, η ταυτόχρονη χρήση εμπιστοσύνης και δυσπιστίας προς την ΤΝ μπορεί να αυξήσει τα αντανακλαστικά μιας επιχείρησης και να οδηγήσει σε βελτιωμένες ή και νέες λύσεις ΤΝ και πάνω από όλα να γίνει αυτό που χρειάζεται για να είναι η προσφορά της ΤΝ ουσιαστική: keep the human in the loop.

Καθηγητής Κωνσταντίνος Ζοπουνίδης, Ακαδημαϊκός, Βασιλική Ακαδημία Οικονομικών & Χρηματοοικονομικών, Βασιλική Ευρωπαϊκή Ακαδημία των Διδακτόρων, Επίτιμος Καθηγητής ΑΠΘ, Πολυτεχνείο Κρήτης & Audencia Business School, France

Δρ. Άγγελος Κωστής, Μεταδιδακτορικός Ερευνητής στο Lab Τεχνητής Νοημοσύνης Σουηδικό Κέντρο για Ψηφιακή Καινοτομία, Πανεπιστήμιο του Ούμεο, Σουηδία, Επισκέπτης Ακαδημαϊκός στο Πανεπιστήμιο του Στάνφορντ, Καλιφόρνια, Αμερική