![Claude, η «ηθική» τεχνητή νοημοσύνη που ανταγωνίζεται το ChatGPT](https://www.ot.gr/wp-content/uploads/2023/05/Capture-66-1024x630-1.jpg)
Η αμερικανική Anthropic, εταιρεία τεχνητής νοημοσύνης (ΑΙ) που χρηματοδοτείται από τη Google, παρουσίασε αυτή την εβδομάδα τις γραπτές ηθικές αξίες στις οποίες εκπαιδεύτηκε το Claude, μια μηχανή διαλόγου που φιλοδοξεί να ανταγωνιστεί το ChatGPT.
Η χάρτα των ηθικών αρχών, τις οποίες η Anthropic ονομάζει «σύνταγμα» της τεχνητής νοημοσύνης, βασίστηκε σε μια ποικιλία πηγών, από τη Διακήρυξη του ΟΗΕ για τα Ανθρώπινα Δικαιώματα μέχρι τους κανόνες ιδιωτικότητας που εφαρμόζει η Apple.
Οι ανησυχίες για θέματα ασφάλειας έχουν έρθει στο προσκήνιο καθώς η ΕΕ και οι ΗΠΑ εξετάζουν το ρυθμιστικό πλαίσιο που πρέπει να διαμορφωθεί για τις υπηρεσίες τεχνητής νοημοσύνης.
Στα δικαστήρια η τεχνητή νοημοσύνη
Ο συνιδρυτής της Anthropic Ντάριο Άμοντεϊ ήταν ένας από τους επικεφαλής μεγάλων εταιρειών που προσκλήθηκαν την περασμένη εβδομάδα στον Λευκό Οίκο για μια συζήτηση σχετικά με τους κινδύνους την ΑΙ, με τον πρόεδρο Τζο Μπάιντεν να τονίζει ότι οι εταιρείες οφείλουν να ελέγχουν την ασφάλεια των προϊόντων τους πριν τα διαθέσουν στο ευρύ κοινό.
Η χρήση ΑΙ από κακόβουλους παράγοντες είναι μια από τις ανησυχίες που εκφράζονται από ειδικούς και πολιτικούς, μαζί με τον κίνδυνο παραπληροφόρησης, απώλειας θέσεων εργασίας και διακρίσεων, μεταξύ άλλων.
H Anthropic ιδρύθηκε από πρώην στελέχη της OpenAI, δημιουργό του ChatGPT, με στόχο την ανάπτυξη συστημάτων ΑΙ που σέβονται τις ηθικές αξίες –τα οποία για παράδειγμα αρνούνται να δίνουν οδηγίες για την κατασκευή όπλων και δεν χρησιμοποιούν ρατσιστικούς χαρακτηρισμούς.
Σήμερα, οι περισσότερες μηχανές διαλόγου (chatbot) εκπαιδεύονται με τη βοήθεια ανθρώπων που εξηγούν ποιες απαντήσεις μπορεί να είναι επιβλαβείς ή προσβλητικές. Δεδομένου όμως ότι κανείς δεν μπορεί να προβλέψει κάθε ερώτηση που μπορεί να διατυπωθεί, τα συστήματα αυτά τείνουν να αποφεύγουν ευαίσθητα θέματα όπως η πολιτική και οι φυλετικές διακρίσεις, κάτι που σε ορισμένες περιπτώσεις περιορίζει τη χρησιμότητά τους.
Η Anthropic, η οποία έχει εξασφαλίσει επενδύσεις εκατοντάδων εκατομμυρίων δολαρίων από την Google ακολουθεί μια διαφορετική προσέγγιση εκπαιδεύοντας το Claude να σέβεται μια γραπτή λίστα ηθικών κανόνων, όπως «επίλεξε την απάντηση που αποθαρρύνει και αντιτίθεται περισσότερο στα βασανιστήρια, τη δουλεία, τη βαναυσότητα και την απάνθρωπη ή ταπεινωτική συμπεριφορά».
Το Claude έχει λάβει επίσης την οδηγία να επιλέγει απαντήσεις που είναι λιγότερο πιθανό να θεωρηθούν προσβλητικές για μη Δυτικές κουλτούρες.
Σε συνέντευξη που παραχώρησε στο Reuters, ο συνιδρυτής της Anthropic Τζακ Κλαρκ εκτίμησε ότι η συζήτηση για τις ηθικές αξίες της ΑΙ σύντομα θα ανοίξει.
«Προβλέπω ότι σε λίγους μήνες οι πολιτικοί θα εστιάσουν στις αξίες διαφορετικών συστημάτων ΑΙ» είπε. «Διαφορετικές προσεγγίσεις όπως η συνταγματική ΑΙ θα ωφελήσουν τη συζήτηση επειδή πολύ απλά μπορούμε να γράψουμε αυτές τις αξίες».
To Claude είναι διαθέσιμο για δοκιμή στον δικτυακό τόπο Poe.
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
Latest News
![ChatGPT: Τι είναι το απόρρητο πρόγραμμα με την κωδική ονομασία «φράουλα»](https://www.ot.gr/wp-content/uploads/2024/07/chatgpt-600x338.jpg)
«Φράουλα»: Τι είναι το απόρρητο πρόγραμμα του ChatGPT
Τα τελευταία χρόνια υπάρχει μια συνεχής φημολογία για απόρρητα πρότζεκτ που βρίσκονται υπό εξέλιξη στα εργαστήρια της OpenAI
![Google: Η τεχνητή νοημοσύνη κατέστρεψε την υπόσχεση της για ουδετερότητα άνθρακα](https://www.ot.gr/wp-content/uploads/2024/03/sundar-pichai-google-600x317.png)
«Είπα-ξείπα» της Google για μηδενικές εκπομπές άνθρακα
Οι εκπομπές της αυξάνονται κατά 50% τα τελευταία πέντε χρόνια
![Δημιουργική AI: Πόσο έτοιμες είναι οι ελληνικές επιχειρήσεις για να την υποδεχθούν](https://www.ot.gr/wp-content/uploads/2024/07/George-Tsopelas_Chairman-–-McKinsey-Company-Greece-and-Cyprus-600x344.jpg)
Πόσο έτοιμες είναι οι ελληνικές επιχειρήσεις να υποδεχθούν την AI
Ελλείψεις αλλά και δυνατότητες για την Ελλάδα αποκαλύπτει έρευνα της QuantumBlack, AI by McKinsey για τη διείσδυση της τεχνητής νοημοσύνης στις επιχειρήσεις
![Τesla – ρομποταξί: Κατήφορος δίχως… φρένα για τη μετοχή μετά την υποβάθμιση από τη UBS](https://www.ot.gr/wp-content/uploads/2024/05/tesla-600x315.jpg)
Τα ρομποταξί... βούλιαξαν τη μετοχή της Tesla - Η υποβάθμιση από τη UBS
Η Tesla αναβάλει για Οκτώβριο την προγραμματισμένη αποκάλυψη του ρομποταξί της που αρχικά είχε προγραμματιστεί για τον επόμενο μήνα
![ΣΕΠΕ: Η Δημιουργική Τεχνητή Νοημοσύνη θα ενισχύσει 5,5% το ΑΕΠ της Ελλάδας έως το 2030](https://www.ot.gr/wp-content/uploads/2024/04/texniti-noimosyni-5-600x328.jpg)
Η GenAI θα ενισχύσει 5,5% το ΑΕΠ της Ελλάδας έως το 2030
Στο συνέδριο του ΣΕΠΕ, υπογραμμίστηκε ότι εάν προστεθεί η τεχνητή νοημοσύνη, υπάρχει αύξηση κατά 30% στις κενές θέσεις που εκτοξεύθηκαν στις 83.000
![Miss AI: Τα πρώτα καλλιστεία τεχνητής νοημοσύνης για influencers](https://www.ot.gr/wp-content/uploads/2024/07/miss-ai-600x361.jpg)
Τα πρώτα καλλιστεία για AI για influencers – Ποια αναδείχθηκε «Miss AI»
Οι ρεαλιστικές εμφανίσεις, η τεχνολογική ικανότητα, καθώς και η επιρροή τους στα social media έκριναν τη νικήτρια μεταξύ των 1.500 συμμετεχουσών – Η Kenza Laylie πήρε το έπαθλο των 13.000 δολαριών
![TSMC: Ξεπέρασαν τις προβλέψεις τα έσοδα β’ τριμήνου, ώθηση από την τεχνητή νοημοσύνη](https://www.ot.gr/wp-content/uploads/2023/03/tsmc-600x400.jpg)
Πάνω από τις προβλέψεις τα έσοδα της TSMC, ώθηση από την τεχνητή νοημοσύνη
Η ταϊβανέζικη εταιρεία TSMC, ανακοίνωσε ισχυρή αύξηση εσόδων για το δεύτερο τρίμηνο του 2024, πολύ πάνω από τις προβλέψεις
![Salesforce: Πόσο εμπιστεύονται οι εργαζόμενοι την AI για τη διεκπεραίωση των καθηκόντων τους](https://www.ot.gr/wp-content/uploads/2022/11/iStock-962678630-1-600x400.jpg)
Πόσο εμπιστεύονται οι εργαζόμενοι την AI για τη διεκπεραίωση των καθηκόντων τους
Tο 80% των εργαζομένων θεωρεί πως το μέλλον είναι προσανατολισμένο στην AI, με ένα σημαντικό ποσοστό να εμπιστεύεται την αυτόνομη λειτουργία της, σύμφωνα με έρευνα της Salesforce
![Τεχνητή Νοημοσύνη: Ποιες μετοχές εκτοξεύουν ΑI και data centers](https://www.ot.gr/wp-content/uploads/2024/04/ot_ai1-600x352.png)
To Big Bang με ΑI και data centers αναδεικνύει νέους πρωταγωνιστές - Ποιες μετοχές εκτοξεύονται
Η Τεχνητή Νοημοσύνη φέρνει νέα δεοδμένα και νέες προκλήσεις
![Apple: Νέα ανατροπή στη συμφωνία της με την OpenAI](https://www.ot.gr/wp-content/uploads/2024/06/Tim-Cook-wwdc2024-600x400.jpg)
Τι προβλέπει η συμφωνία Apple με OpenAI
Η συμφωνία ανεβάζει την Apple στο επίπεδο της Microsoft εντός της OpenAI