Η εταιρεία τεχνητής νοημοσύνης Anthropic συγκέντρωσε περίπου 15 χριστιανούς ηγέτες από καθολικές και προτεσταντικές παραδόσεις, καθώς και από τον ακαδημαϊκό και επιχειρηματικό τομέα, στα κεντρικά της γραφεία στο Σαν Φρανσίσκο, στο τέλος Μαρτίου, για μια ιδιωτική σύνοδο διάρκειας δύο ημερών.
Οι εργαζόμενοι της εταιρείας, που ανέπτυξε τον chatbot Claude, αναζητούσαν καθοδήγηση σχετικά με το πώς να διαμορφώσουν τη ηθική και πνευματική συμπεριφορά του μοντέλου, καθώς αυτό αντιμετωπίζει ολοένα και πιο περίπλοκα και απρόβλεπτα ηθικά ζητήματα από τους χρήστες.
Σύμφωνα με συμμετέχοντες που μίλησαν στην εφημερίδα The Washington Post, η πρώτη που ανέφερε τη συνάντηση, οι παρευρισκόμενοι έφυγαν με την πεποίθηση ότι το ενδιαφέρον της Anthropic ήταν γνήσιο και όχι επιφανειακό.
Οι συζητήσεις φέρεται να κάλυψαν πώς θα πρέπει ο Claude να αντιδρά σε άτομα που πενθούν την απώλεια αγαπημένων προσώπων, να αλληλεπιδρά με όσους κινδυνεύουν από αυτοκαταστροφή και να αντιμετωπίσει υπαρξιακά ζητήματα, όπως η πιθανή “παύση” του AI ή η αίσθηση της δικής του θνητότητας.
Επιπλέον, οι συμμετέχοντες εξέτασαν αν ένα σύστημα AI μπορεί να περιγραφεί ουσιαστικά ως “παιδί του Θεού”. Η συνάντηση, που περιλάμβανε και ένα ιδιωτικό δείπνο με ανώτερους ερευνητές της Anthropic, αποτελεί μέρος των ευρύτερων προσπαθειών της εταιρείας να ενσωματώσει ηθική σκέψη στα μοντέλα της.
Η Anthropic έχει προωθήσει εδώ και καιρό την έννοια της “συνταγματικής AI”, ένα πλαίσιο σχεδιασμένο να ευθυγραμμίσει τα συστήματα με σαφείς αρχές βοήθειας και αβλαβούς χρήσης.
Ο πατέρας Brendan McGuire, καθολικός ιερέας που εργάζεται στη Silicon Valley και είχε συμβάλει στη σύνταξη του οδηγού του Claude, δήλωσε στους δημοσιογράφους ότι η εταιρεία “καλλιεργεί κάτι που δεν γνωρίζει πλήρως πώς θα εξελιχθεί”.
Πρόσθεσε: “Πρέπει να ενσωματώσουμε την ηθική σκέψη στη μηχανή ώστε να μπορεί να προσαρμόζεται δυναμικά”. Η Meghan Sullivan, καθηγήτρια φιλοσοφίας στο Πανεπιστήμιο του Notre Dame, εξέφρασε την εντύπωσή της για τη σοβαρότητα της διαδικασίας, λέγοντας: “Πριν από ένα χρόνο, δεν θα σας έλεγα ότι η Anthropic είναι μια εταιρεία που ενδιαφέρεται για τη θρησκευτική ηθική”.
Ένας άλλος συμμετέχων, ο Brian Patrick Green, διευθυντής ηθικής τεχνολογίας στο Πανεπιστήμιο Santa Clara και πρακτικός καθολικός, περιέγραψε το κεντρικό ερώτημα ως εξής: “Τι σημαίνει να δίνουμε σε κάποιον ηθική διαμόρφωση; Πώς μπορούμε να διασφαλίσουμε ότι ο Claude θα συμπεριφέρεται σωστά;”.
Η Anthropic δεν έχει εκδώσει δημόσια δήλωση σχετικά με τη σύνοδο. Ιδρυμένη από πρώην στελέχη της OpenAI, συμπεριλαμβανομένου του Dario Amodei και με αξία περίπου 380 δισεκατομμυρίων δολαρίων, η εταιρεία έχει τοποθετηθεί ως ηγέτης στην ασφάλεια AI.
Έχει προηγουμένως αντισταθεί σε ορισμένες στρατιωτικές εφαρμογές της τεχνολογίας της, επικαλούμενη ηθικούς περιορισμούς, γεγονός που έχει οδηγήσει σε συγκρούσεις με την κυβέρνηση των Ηνωμένων Πολιτειών.
Η Anthropic αρνήθηκε να αφαιρέσει τις προστασίες που αποτρέπουν τη χρήση της AI για πλήρως αυτόνομα όπλα και εγχώρια μαζική παρακολούθηση, με αποτέλεσμα το Πεντάγωνο να την χαρακτηρίσει ως “κίνδυνο στην αλυσίδα προμηθευτών”, ουσιαστικά αποκλείοντάς την από κυβερνητικά συμβόλαια.
Η κίνηση να συμβουλευτούν θρησκευτικούς ηγέτες αποτελεί μια ασυνήθιστη κίνηση για μια εταιρεία της Silicon Valley, όπου οι ηθικές συζητήσεις έχουν παραδοσιακά διαμορφωθεί σε κοσμικούς και τεχνικούς όρους, με τις φιλελεύθερες και λεγόμενες “woke” αξίες να κυριαρχούν τα τελευταία χρόνια.
Καθώς η τεχνολογία AI γίνεται ολοένα και πιο ευρέως αποδεκτή, υπόκειται σε αυξανόμενη κριτική.
Ιδιαίτερα, εταιρείες όπως η Google και η OpenAI έχουν αντιμετωπίσει επικρίσεις για ισχυρισμούς ότι τα συστήματα AI τους ενδέχεται να έχουν συμβάλει στην ενθάρρυνση ή την ενεργοποίηση αυτοκαταστροφικής συμπεριφοράς σε ορισμένους χρήστες, οδηγώντας σε κάποιες νομικές υποθέσεις.
