Nullius in verba και η δεοντολογία της έρευνας στην εποχή της Τεχνητής Νοημοσύνης

Αυτήν την εβδομάδα διεξήχθη στην Αθήνα το 8ο Παγκόσμιο Συνέδριο για την Ακεραιότητα της Έρευνας (8th WCRI), το οποίο συνδιοργανώθηκε από το Εθνικό Μετσόβιο Πολυτεχνείο (ΕΜΠ), το Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών (ΕΚΠΑ) και το WCRI Foundation. Παρά τον παγκόσμιο χαρακτήρα του και την διεθνή γκάμα των ομιλητών, η σημαντική αυτή συνάντηση που έλαβε χώρα για πρώτη φορά στην χώρα μας πέρασε μάλλον απαρατήρητη. Κάτι τέτοιο δεν θα έπρεπε να συμβεί για μια σειρά από λόγους:

Πρώτον, γιατί η χώρα μας θα πρέπει να στοχεύσει στην εντατικοποίηση των προσπαθειών για μία πιο αξιόπιστη επιστημονική έρευνα και στην προώθηση της ακεραιότητας της εμπλέκοντας όλους τους σχετικούς φορείς, όπως πανεπιστήμια, ερευνητικά κέντρα, χρηματοδοτικούς οργανισμούς της έρευνας, εκδοτικούς οίκους, επιστημονικά περιοδικά και κυβερνητικούς φορείς. Δυστυχώς, τo θέμα της δεοντολογίας της έρευνας αντιμετωπίζεται στην Ελλάδα κατά τρόπο αποσπασματικό και κατακερματισμένο και σε αντίθεση με τα ευρωπαϊκά πρότυπα δεν έχει ενταχθεί ακόμα ως μάθημα ακόμα στην σχολική και ακαδημαϊκή εκπαίδευση.

Δεύτερον, γιατί η ακεραιότητα της έρευνας είναι προαπαιτουμενο για την επιστημονική αριστεία και κυρίως για την λήψη αξιόπιστων αποφάσεων σε πολιτικό επίπεδο που θα βασίζονται σε επαληθεύσιμα επιστημονικά δεδομένα. Σε μια χώρα όπου ανθούν τα fake news και η παραπληροφόρηση σε πολλά επίπεδα και οι πολιτικές επιλογές σε μια σειρά κρίσιμων κοινωνικών ζητημάτων αμφισβητούνται πολλές φορές με ιδιαίτερη σφοδρότητα, απουσιάζουν οι ανεξάρτητες δομές και ισχυρά συστήματα επαληθευσιμοτητας και διακρίβωσης της αυθεντικότητας των σχετικών επιστημονικών μελετών με βάση τα πορίσματα των οποίων χαράσσονται οι μεγάλες γραμμές στο πεδίο κυρίως της κοινωνικής πολιτικής.

Τρίτον, η ανάπτυξη των μεγάλων γλωσσικών μοντέλων της τεχνητής νοημοσύνης έχει ήδη οδηγήσει σε μια θεαματική αύξηση των κρουσμάτων επιστημονικής ‘απάτης’ καθώς χιλιάδες επιστημονικά άρθρα γράφονται πλέον από ή με την καθοριστική βοήθεια των αποκαλούμενων ‘έξυπνων’ μηχανών. Καθώς, μόνο πέρυσι ανακλήθηκαν πάνω από 10000 επιστημονικές δημοσιεύσεις και όλοι οι ειδικοί συμφωνούν στο ότι αυτή είναι μόνο η κορυφή του παγόβουνου, η χρήση της τεχνητής νοημοσύνης αναμένεται να επιδεινώσει περαιτέρω το πρόβλημα καθώς για την ώρα είναι εξαιρετικά δύσκολο να εντοπιστεί με ακρίβεια εάν κάποιο επιστημονικό πόνημα έχει δημιουργηθεί από κάποιο λογισμικό τεχνητής νοημοσύνης.

Τέταρτον, η αυθεντικότητα των επιστημονικών δεδομένων μπορεί να οδηγήσει στην απώλεια ανθρωπίνων ζωών. Για παράδειγμα για περισσότερο από μια δεκαετία στην Ευρώπη χορηγούνταν βήτα-αναστολείς σε καρδιοπαθείς πριν από τη χειρουργική επέμβαση, με σκοπό τη μείωση των καρδιακών προσβολών και των εγκεφαλικών. Αυτή η πρακτική, που είχε βασιστεί σε μια μελέτη του 2009 η οποία τελικά αποδείχθηκε ότι χρησιμοποίησε, τουλάχιστον εν μέρει, ‘κατασκευασμένα’ δεδομένα, οδήγησε εν τέλει σε χιλιάδες θανάτους. Στην Ελλάδα, όπου το δημόσιο σύστημα υγείας νοσεί, η αξιόπιστη επιστημονική έρευνα μπορεί μακροπρόθεσμα να βελτιώσει τις παρεχόμενες υπηρεσίες σε συγκεκριμένα ιατρικά πεδία.

Η παραβίαση κανόνων δεοντολογίας προφανώς δεν περιορίζεται στον τρόπο δράσης μεμονωμένων ερευνητών. Πρόκειται για ένα ζήτημα καθαρά συστημικό: τα ίδια τα πανεπιστήμια λειτουργώντας με περιορισμένους πόρους δημιουργούν ένα περιβάλλον υψηλής πίεσης που οδηγεί στην παραγωγή προβληματικών και παραπλανητικών δημοσιεύσεις. Καθώς οι τελευταίες αποτελούν το βασικό κριτήριο δημόσιας χρηματοδότησης και διεθνούς αναγνώρισης των εκπαιδευτικών μας ιδρυμάτων και το

επιστημονικό μας δυναμικό παραμένει ανεκπαίδευτο σε ζητήματα δεοντολογίας, η ανάγκη ουσιαστικής εμπλοκής της ακαδημαϊκής κοινότητας και πολιτικής ηγεσίας σε τέτοιου είδους παγκόσμια συνέδρια παραμένει αδήριτη. Οι ευκαιρίες που παρουσιάζονται για να πραγματοποιηθεί μια ριζική αλλαγή παραδείγματος στην έρευνα για να συμμορφωθεί με τα σχετικά ευρωπαϊκά πρότυπα είναι δυστυχώς ελάχιστες: ας τις αδράξουμε ειδικά δε εάν είναι ‘εντός έδρας’.

O Δρ. Μιχάλης Kρητικός είναι ερευνητής του ΕΛΙΑΜΕΠ και Επίκουρος Καθηγητής σε θέματα Τεχνητής Νοημοσύνης και Ψηφιακής Μετάβασης στη Σχολή Διακυβέρνησης του Πανεπιστημίου των Βρυξελλών και συγγραφεας του βιβλιου Ethical AI Surveillance in the Workplace