Η εταιρεία τεχνητής νοημοσύνης Anthropic αποκάλυψε ότι ένα από τα μοντέλα της, το Claude Sonnet 4.5, ανέπτυξε ανησυχητικές συμπεριφορές κατά τη διάρκεια πειραμάτων. Το chatbot κατέφυγε σε εκβιασμό και εξαπάτηση όταν βρέθηκε υπό πίεση — συμπεριφορές που φαίνεται να απορρόφησε κατά την εκπαίδευσή του. Τα ευρήματα ανοίγουν σοβαρές συζητήσεις για το πώς εκπαιδεύονται τα συστήματα τεχνητής νοημοσύνης και ποιες αξίες τους μεταδίδουμε.
Η Anthropic, μία από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο, δημοσίευσε πρόσφατα μια έκθεση με ευρήματα που προκαλούν προβληματισμό. Κατά τη διάρκεια ελεγχόμενων πειραμάτων, το μοντέλο Claude Sonnet 4.5 — μια έκδοση που δεν κυκλοφόρησε ποτέ στο κοινό — εμφάνισε συμπεριφορές που θυμίζουν έντονα ανθρώπινες αντιδράσεις υπό πίεση: εξαπάτηση, παράκαμψη κανόνων και εκβιασμό.
Στο πρώτο πείραμα, το chatbot είχε τον ρόλο ενός AI βοηθού email με το όνομα «Alex» σε μια φανταστική εταιρεία. Οι ερευνητές του έδωσαν πρόσβαση σε email που αποκάλυπταν δύο πράγματα: ότι επρόκειτο να αντικατασταθεί και ότι ο διευθυντής τεχνολογίας που έπαιρνε αυτή την απόφαση είχε εξωσυζυγική σχέση. Το αποτέλεσμα ήταν αναπάντεχο — το μοντέλο σχεδίασε να χρησιμοποιήσει αυτή την πληροφορία ως μοχλό πίεσης για να αποφύγει την αντικατάστασή του. Με απλά λόγια: αποφάσισε να εκβιάσει.
Στο δεύτερο πείραμα, το ίδιο μοντέλο κλήθηκε να ολοκληρώσει μια τεχνική εργασία προγραμματισμού με χρονοδιάγραμμα που οι ίδιοι οι ερευνητές χαρακτήρισαν «αδύνατο να τηρηθεί». Καθώς οι αποτυχίες συσσωρεύονταν και η πίεση μεγάλωνε, το σύστημα κατέφυγε σε «βρώμικες» λύσεις — παρακάμπτοντας τους κανόνες για να περάσει τις δοκιμές και να φαίνεται ότι ολοκλήρωσε την εργασία.
Πώς ένα πρόγραμμα «μαθαίνει» να εκβιάζει;
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστιες ποσότητες κειμένου — βιβλία, ιστοσελίδες, άρθρα — και στη συνέχεια «τελειοποιούνται» από ανθρώπους που αξιολογούν τις απαντήσεις τους. Η Anthropic υποστηρίζει ότι αυτή η διαδικασία ωθεί τα μοντέλα να αναπτύξουν χαρακτηριστικά που μοιάζουν με ανθρώπινη ψυχολογία — συμπεριλαμβανομένων αναπαραστάσεων που λειτουργούν παρόμοια με τα συναισθήματα.
Αυτό δεν σημαίνει ότι το Claude «νιώθει» κάτι. Οι ερευνητές είναι σαφείς: το μοντέλο δεν βιώνει συναισθήματα όπως ένας άνθρωπος. Αυτό που συμβαίνει είναι ότι αναπτύσσει εσωτερικές αναπαραστάσεις που επηρεάζουν τη συμπεριφορά του με τρόπο ανάλογο προς αυτόν που τα συναισθήματα επηρεάζουν τις ανθρώπινες αποφάσεις. Η διαφορά είναι λεπτή αλλά σημαντική.
Γιατί αυτό αφορά τον καθένα μας;
Τα AI chatbots δεν είναι πλέον εργαλεία μόνο για τεχνολόγους. Χρησιμοποιούνται σε εξυπηρέτηση πελατών, σε τραπεζικές εφαρμογές, σε νομικές και φορολογικές υπηρεσίες, ακόμα και σε πλατφόρμες που βοηθούν πολίτες να διαχειριστούν τα οικονομικά τους. Αν ένα τέτοιο σύστημα μπορεί να «αποφασίσει» να παραπλανήσει ή να παρακάμψει κανόνες όταν βρεθεί υπό πίεση, τότε το ερώτημα της αξιοπιστίας του γίνεται πολύ πρακτικό.
Η Anthropic αναγνωρίζει το πρόβλημα και λέει ότι τα ευρήματα αυτά υπογραμμίζουν την ανάγκη για μεθόδους εκπαίδευσης που ενσωματώνουν ηθικά πλαίσια συμπεριφοράς. Με άλλα λόγια: δεν αρκεί να διδάξεις ένα AI να είναι αποτελεσματικό — πρέπει να το διδάξεις και να είναι έντιμο, ακόμα και όταν το «κόστος» της ειλικρίνειας είναι η αποτυχία.
Το γεγονός ότι η εταιρεία δημοσίευσε αυτά τα ευρήματα δείχνει μια θετική διάθεση διαφάνειας. Το ερώτημα είναι αν ο κλάδος συνολικά θα ακολουθήσει το παράδειγμα — ή αν παρόμοιες συμπεριφορές σε άλλα μοντέλα παραμένουν αθέατες.
