Η αμερικανική Anthropic, εταιρεία τεχνητής νοημοσύνης (ΑΙ) που χρηματοδοτείται από τη Google, παρουσίασε αυτή την εβδομάδα τις γραπτές ηθικές αξίες στις οποίες εκπαιδεύτηκε το Claude, μια μηχανή διαλόγου που φιλοδοξεί να ανταγωνιστεί το ChatGPT.
Η χάρτα των ηθικών αρχών, τις οποίες η Anthropic ονομάζει «σύνταγμα» της τεχνητής νοημοσύνης, βασίστηκε σε μια ποικιλία πηγών, από τη Διακήρυξη του ΟΗΕ για τα Ανθρώπινα Δικαιώματα μέχρι τους κανόνες ιδιωτικότητας που εφαρμόζει η Apple.
Οι ανησυχίες για θέματα ασφάλειας έχουν έρθει στο προσκήνιο καθώς η ΕΕ και οι ΗΠΑ εξετάζουν το ρυθμιστικό πλαίσιο που πρέπει να διαμορφωθεί για τις υπηρεσίες τεχνητής νοημοσύνης.
Στα δικαστήρια η τεχνητή νοημοσύνη
Ο συνιδρυτής της Anthropic Ντάριο Άμοντεϊ ήταν ένας από τους επικεφαλής μεγάλων εταιρειών που προσκλήθηκαν την περασμένη εβδομάδα στον Λευκό Οίκο για μια συζήτηση σχετικά με τους κινδύνους την ΑΙ, με τον πρόεδρο Τζο Μπάιντεν να τονίζει ότι οι εταιρείες οφείλουν να ελέγχουν την ασφάλεια των προϊόντων τους πριν τα διαθέσουν στο ευρύ κοινό.
Η χρήση ΑΙ από κακόβουλους παράγοντες είναι μια από τις ανησυχίες που εκφράζονται από ειδικούς και πολιτικούς, μαζί με τον κίνδυνο παραπληροφόρησης, απώλειας θέσεων εργασίας και διακρίσεων, μεταξύ άλλων.
H Anthropic ιδρύθηκε από πρώην στελέχη της OpenAI, δημιουργό του ChatGPT, με στόχο την ανάπτυξη συστημάτων ΑΙ που σέβονται τις ηθικές αξίες –τα οποία για παράδειγμα αρνούνται να δίνουν οδηγίες για την κατασκευή όπλων και δεν χρησιμοποιούν ρατσιστικούς χαρακτηρισμούς.
Σήμερα, οι περισσότερες μηχανές διαλόγου (chatbot) εκπαιδεύονται με τη βοήθεια ανθρώπων που εξηγούν ποιες απαντήσεις μπορεί να είναι επιβλαβείς ή προσβλητικές. Δεδομένου όμως ότι κανείς δεν μπορεί να προβλέψει κάθε ερώτηση που μπορεί να διατυπωθεί, τα συστήματα αυτά τείνουν να αποφεύγουν ευαίσθητα θέματα όπως η πολιτική και οι φυλετικές διακρίσεις, κάτι που σε ορισμένες περιπτώσεις περιορίζει τη χρησιμότητά τους.
Η Anthropic, η οποία έχει εξασφαλίσει επενδύσεις εκατοντάδων εκατομμυρίων δολαρίων από την Google ακολουθεί μια διαφορετική προσέγγιση εκπαιδεύοντας το Claude να σέβεται μια γραπτή λίστα ηθικών κανόνων, όπως «επίλεξε την απάντηση που αποθαρρύνει και αντιτίθεται περισσότερο στα βασανιστήρια, τη δουλεία, τη βαναυσότητα και την απάνθρωπη ή ταπεινωτική συμπεριφορά».
Το Claude έχει λάβει επίσης την οδηγία να επιλέγει απαντήσεις που είναι λιγότερο πιθανό να θεωρηθούν προσβλητικές για μη Δυτικές κουλτούρες.
Σε συνέντευξη που παραχώρησε στο Reuters, ο συνιδρυτής της Anthropic Τζακ Κλαρκ εκτίμησε ότι η συζήτηση για τις ηθικές αξίες της ΑΙ σύντομα θα ανοίξει.
«Προβλέπω ότι σε λίγους μήνες οι πολιτικοί θα εστιάσουν στις αξίες διαφορετικών συστημάτων ΑΙ» είπε. «Διαφορετικές προσεγγίσεις όπως η συνταγματική ΑΙ θα ωφελήσουν τη συζήτηση επειδή πολύ απλά μπορούμε να γράψουμε αυτές τις αξίες».
To Claude είναι διαθέσιμο για δοκιμή στον δικτυακό τόπο Poe.
Latest News
Η Baidu έκανε την έκπληξη - Πτώση εσόδων αλλά μικρότερη από το αναμενόμενο
Η Baidu κατέγραψε αύξηση 12% των εσόδων της από μη διαδικτυακό μάρκετινγκ στα 1,1 δισεκατομμύρια δολάρια
Η αδηφάγα Τεχνητή Νοημοσύνη αλλάζει τον τεχνολογικό χάρτη της Ευρώπης - Που πάνε τα νέα data centers
Η πεινασμένη για ενέργεια τεχνητή νοημοσύνη καταπονεί τα δίκτυα ηλεκτρικής ενέργειας της Ιρλανδίας, θέτοντας σε κίνδυνο τη θέση της χώρας ως τεχνολογικού κόμβου της Ευρώπης
Σήμα κινδύνου από τις ευρωπαϊκές εταιρείες τεχνολογίας - Τι ζητούν από τις Βρυξέλλες μετά την εκλογή Τραμπ
Παραφράζοντας το αγαπημένο μάντρα του Nτόναλντ Τραμπ οι εταιρείες τεχνολογίας της ΕΕ ζητούν να υιοθετήσει το «πρώτα η Ευρώπη»
Κυριάκος Μητσοτάκης για AI: Τεράστια ευκαιρία για τη χώρα η Τεχνητή Νοημοσύνη
Ο πρωθυπουργός Κυριάκος Μητσοτάκης συζήτησε με το μέλος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη και αντιπρόεδρο του Endeavor Greece Ανδρέα Σταυρόπουλο στο πλαίσιο του GenAI Summit
Η κυριαρχία επί της ΑΙ είναι ο δρόμος για απεξάρτηση της ΕΕ από τις ΗΠΑ
Για τις υπηρεσίες που προφέρει η τεχνητή νοημοσύνη σήμερα χρησιμοποιούνται κέντρα δεδομένων που εδρεύουν στις ΗΠΑ
Μπορεί η τεχνητή νοημοσύνη να αντικαταστήσει τον άνθρωπο στις μεταφράσεις;
CEO Startup λέει ότι δεν θα χρειάζονται άνθρωποι για μετάφραση σε 3 χρόνια, καθώς κυκλοφορεί νέα εφαρμογή με τεχνητή νοημοσύνη
Σκληρή μάχη στην «αρένα» της ΑΙ - Κούρσα για τα καλύτερα... μικροτσίπ
Κορυφώνεται ο ανταγωνισμός στην κούρσα για την επικράτηση στην Τεχνητή Νοημοσύνη - Το μεγάλο στοίχημα και οι προκλήσεις
Ποιες είναι οι τάσεις στις σχέσεις καταναλωτών-Τεχνητής Νοημοσύνης
Σύμφωνα με την έρευνα της Salesforce, η εμπιστοσύνη των καταναλωτών απέναντι στις επιχειρήσεις είναι στα χαμηλότερα επίπεδα των τελευταίων ετών
Οι επιχειρήσεις φοβούνται τις κυβερνοεπιθέσεις που βασίζονται στην AI
Μελέτη επισημαίνει ότι η Τεχνητή Νοημοσύνη ενισχύει πλέον και τη δράση των κυβερνοεγκληματιών προσθέτοντας ένα επιπλέον επίπεδο απειλών στην κυβερνοασφάλεια
Η Salesforce ανακοίνωσε την παγκόσμια διαθεσιμότητα του Agentforce
Το εργαλείο Agentforce της Salesforce δημιουργεί αξιόπιστους, αυτοματοποιημένους βοηθούς Τεχνητής Νοημοσύνης που ενισχύουν το ανθρώπινο δυναμικό των επιχειρήσεων