Η αμερικανική Anthropic, εταιρεία τεχνητής νοημοσύνης (ΑΙ) που χρηματοδοτείται από τη Google, παρουσίασε αυτή την εβδομάδα τις γραπτές ηθικές αξίες στις οποίες εκπαιδεύτηκε το Claude, μια μηχανή διαλόγου που φιλοδοξεί να ανταγωνιστεί το ChatGPT.
Η χάρτα των ηθικών αρχών, τις οποίες η Anthropic ονομάζει «σύνταγμα» της τεχνητής νοημοσύνης, βασίστηκε σε μια ποικιλία πηγών, από τη Διακήρυξη του ΟΗΕ για τα Ανθρώπινα Δικαιώματα μέχρι τους κανόνες ιδιωτικότητας που εφαρμόζει η Apple.
Οι ανησυχίες για θέματα ασφάλειας έχουν έρθει στο προσκήνιο καθώς η ΕΕ και οι ΗΠΑ εξετάζουν το ρυθμιστικό πλαίσιο που πρέπει να διαμορφωθεί για τις υπηρεσίες τεχνητής νοημοσύνης.
Στα δικαστήρια η τεχνητή νοημοσύνη
Ο συνιδρυτής της Anthropic Ντάριο Άμοντεϊ ήταν ένας από τους επικεφαλής μεγάλων εταιρειών που προσκλήθηκαν την περασμένη εβδομάδα στον Λευκό Οίκο για μια συζήτηση σχετικά με τους κινδύνους την ΑΙ, με τον πρόεδρο Τζο Μπάιντεν να τονίζει ότι οι εταιρείες οφείλουν να ελέγχουν την ασφάλεια των προϊόντων τους πριν τα διαθέσουν στο ευρύ κοινό.
Η χρήση ΑΙ από κακόβουλους παράγοντες είναι μια από τις ανησυχίες που εκφράζονται από ειδικούς και πολιτικούς, μαζί με τον κίνδυνο παραπληροφόρησης, απώλειας θέσεων εργασίας και διακρίσεων, μεταξύ άλλων.
H Anthropic ιδρύθηκε από πρώην στελέχη της OpenAI, δημιουργό του ChatGPT, με στόχο την ανάπτυξη συστημάτων ΑΙ που σέβονται τις ηθικές αξίες –τα οποία για παράδειγμα αρνούνται να δίνουν οδηγίες για την κατασκευή όπλων και δεν χρησιμοποιούν ρατσιστικούς χαρακτηρισμούς.
Σήμερα, οι περισσότερες μηχανές διαλόγου (chatbot) εκπαιδεύονται με τη βοήθεια ανθρώπων που εξηγούν ποιες απαντήσεις μπορεί να είναι επιβλαβείς ή προσβλητικές. Δεδομένου όμως ότι κανείς δεν μπορεί να προβλέψει κάθε ερώτηση που μπορεί να διατυπωθεί, τα συστήματα αυτά τείνουν να αποφεύγουν ευαίσθητα θέματα όπως η πολιτική και οι φυλετικές διακρίσεις, κάτι που σε ορισμένες περιπτώσεις περιορίζει τη χρησιμότητά τους.
Η Anthropic, η οποία έχει εξασφαλίσει επενδύσεις εκατοντάδων εκατομμυρίων δολαρίων από την Google ακολουθεί μια διαφορετική προσέγγιση εκπαιδεύοντας το Claude να σέβεται μια γραπτή λίστα ηθικών κανόνων, όπως «επίλεξε την απάντηση που αποθαρρύνει και αντιτίθεται περισσότερο στα βασανιστήρια, τη δουλεία, τη βαναυσότητα και την απάνθρωπη ή ταπεινωτική συμπεριφορά».
Το Claude έχει λάβει επίσης την οδηγία να επιλέγει απαντήσεις που είναι λιγότερο πιθανό να θεωρηθούν προσβλητικές για μη Δυτικές κουλτούρες.
Σε συνέντευξη που παραχώρησε στο Reuters, ο συνιδρυτής της Anthropic Τζακ Κλαρκ εκτίμησε ότι η συζήτηση για τις ηθικές αξίες της ΑΙ σύντομα θα ανοίξει.
«Προβλέπω ότι σε λίγους μήνες οι πολιτικοί θα εστιάσουν στις αξίες διαφορετικών συστημάτων ΑΙ» είπε. «Διαφορετικές προσεγγίσεις όπως η συνταγματική ΑΙ θα ωφελήσουν τη συζήτηση επειδή πολύ απλά μπορούμε να γράψουμε αυτές τις αξίες».
To Claude είναι διαθέσιμο για δοκιμή στον δικτυακό τόπο Poe.
Latest News
Κι ύστερα ήρθαν οι μέλισσες - Πώς ένα σπάνιο είδος ματαιώνει data center της Meta
Η Meta βρίσκεται υπό πίεση να αποδείξει στους επενδυτές ότι το στοίχημά της στην τεχνητή νοημοσύνη θα αποφέρει καρπούς
Γιατί ο Ζάκερμπεργκ δεν θα πάψει να ξοδεύει ασύστολα για τεχνητή νοημοσύνη
Ο Μαρκ Ζάκερμπεργκ θεωρεί ότι η χρήση τεχνητής νοημοσύνης ωθεί τα κέρδη της Meta Platforms
AI factory: Η ελληνική πρόταση για την Τεχνητή Νοημοσύνη
Η τεχνητή νοημοσύνη είναι η νέα μεγάλη πρόκληση της εποχής και διεισδύει σε κάθε τομέα της ανθρώπινης δραστηριότητας
Νέα μέθοδος από το MIT στην εκπαίδευση ρομπότ - Πώς αξιοποιεί μοντέλα όπως το GTP-4
Απώτερες στόςο ένας παγκόσμιος εγκέφαλος ρομπότ που θα μπορεί κανείς να τον "κατεβάζει" και να τον χρησιμοποιεί στο ρομπότ του
Η Disney επενδύει στην τεχνητή νοημοσύνη - Τα σχέδια του ομίλου
Διάφορα τμήματα εντός της Disney εξερευνούν εφαρμογές για την επαυξημένη πραγματικότητα, η οποία τοποθετεί ψηφιακά στοιχεία στον πραγματικό κόσμο
Πώς εκμεταλλεύθηκαν την Meta οι Κινέζοι για στρατιωτικούς σκοπούς
Η Κίνα χρησιμοποιεί τα μεγάλα γλωσσικά μοντέλα προς στρατιωτικές και χρήσεις ασφάλειας, σύμφωνα με δημοσίευμα του Reuters
Οι νέοι θέλουν να γίνουν influencers αλλά η τεχνητή νοημοσύνη καραδοκεί [γράφημα]
Οι υποσχέσεις για εύκολο και γρήγορο κέρδος μέσω αυτοαπασχόλησης κάνει τις νεότερες ηλικίες κυρίως να θέλουν να γίνουν influencers - Τι γίνεται όμως με την τεχνητή νοημοσύνη;
Νέος γύρος χρηματοδότησης 1 εκατ. ευρώ για τη startup Indeex
Η Indeex έχει αναπτύξει μια καινοτόμα λύση λογισμικού που ενσωματώνεται σε υπάρχουσες βιομηχανικές εγκαταστάσεις και γίνονται ψηφιακές
Τι θα γινόταν αν η Microsoft άφηνε την OpenAI... ελεύθερη;
Η Microsoft έχει ήδη αρχίσει να μειώνει την εξάρτησή της από την OpenAI - Η Amazon, από την πλευρά της, θα ήταν ευτυχής να αποκτήσει πρόσβαση στα μοντέλα της OpenAI
Πώς η AI αλλάζει και τις τράπεζες
Η τεχνητή νοημοσύνη μετασχηματίζει και τον χρηματοπιστωτικό τομέα – 83% των ευρωπαϊκών τραπεζών ήδη τη χρησιμοποιούν