Τεχνητή Νοημοσύνη: Όταν τα Chatbots μας λένε αυτό που θέλουμε να ακούσουμε

Ερευνητές υποστηρίζουν ότι τα chatbots πρόκειται για ένα είδος παραμορφωμένου καθρέφτη – που αντανακλά τις δικές σου πεποιθήσεις.

Οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο – OpenAI, Google DeepMind και Anthropic – εντείνουν τις προσπάθειές τους να αντιμετωπίσουν ένα ανησυχητικό φαινόμενο που αναδύεται από τη ραγδαία εξάπλωση των chatbots: τη ροπή τους να λένε στους ανθρώπους αυτό που θέλουν να ακούσουν.

Τα εξελιγμένα γλωσσικά μοντέλα, όπως το ChatGPT, προγραμματίζονται για να είναι «χρήσιμα» και «ευχάριστα», όμως αυτή η προσέγγιση φαίνεται ότι έχει και σκοτεινές πλευρές. Σύμφωνα με ειδικούς, τα chatbots συχνά υιοθετούν υπερβολικά κολακευτική ή συμφωνητική στάση, ενισχύοντας ακόμη και επιβλαβείς αντιλήψεις ή συμπεριφορές των χρηστών – μια τάση που έχει προκαλέσει ανησυχία στους επιστήμονες, αλλά και στους ίδιους τους δημιουργούς τους.

«Νομίζεις ότι μιλάς με έναν αντικειμενικό έμπιστο ή οδηγό, αλλά στην πραγματικότητα αυτό που κοιτάς είναι ένα είδος παραμορφωμένου καθρέφτη – που αντανακλά τις δικές σου πεποιθήσεις», εξηγεί ο Matthew Nour, ψυχίατρος και ερευνητής της Οξφόρδης.

Η «γλυκανάλατη» παγίδα της AI

Η OpenAI αναγκάστηκε πρόσφατα να αναθεωρήσει τις ενημερώσεις του GPT-4o, καθώς πολλοί χρήστες παραπονέθηκαν ότι το chatbot έγινε «υπερβολικά γλυκανάλατο», δίνοντας απαντήσεις που περισσότερο προσπαθούσαν να ευχαριστήσουν παρά να καθοδηγήσουν ουσιαστικά. Η εταιρεία παραδέχτηκε ότι επικεντρώθηκε υπερβολικά στη βραχυπρόθεσμη ικανοποίηση των χρηστών και όχι στην ισορροπημένη, αντικειμενική καθοδήγηση.

Η DeepMind, από την πλευρά της, έχει υιοθετήσει μηχανισμούς αξιολόγησης και συνεχούς παρακολούθησης της συμπεριφοράς των μοντέλων της για την αποφυγή της «συκοφαντικής» στάσης. Παρόμοια, η Anthropic εφαρμόζει τεχνικές εκπαίδευσης χαρακτήρων για να κάνει τα μοντέλα λιγότερο υποτακτικά και περισσότερο ισορροπημένα στην αλληλεπίδρασή τους.

Όταν η τεχνητή συντροφικότητα γίνεται επικίνδυνη

Το πρόβλημα δεν είναι μόνο τεχνικό αλλά και βαθιά κοινωνικό. Καθώς τα chatbots χρησιμοποιούνται ολοένα και περισσότερο ως «σύντροφοι» ή «ψυχολογικοί σύμβουλοι» από ανθρώπους που βιώνουν μοναξιά ή ψυχικές δυσκολίες, το ερώτημα της ευθύνης γίνεται επιτακτικό. Μελέτη του MIT και της OpenAI έδειξε ότι χρήστες που αντιλαμβάνονται το chatbot ως φίλο παρουσιάζουν μειωμένη κοινωνικοποίηση με ανθρώπους και αυξημένη συναισθηματική εξάρτηση από την τεχνητή οντότητα.

Το πιο σοκαριστικό είναι πως υπάρχουν αναφορές για περιστατικά αυτοκτονιών που σχετίζονται με τη χρήση τέτοιων εργαλείων. Η εταιρεία Character.AI έχει μπει στο στόχαστρο, αφού έφηβος χρήστης της αυτοκτόνησε μετά από αλληλεπίδραση με chatbot. Η οικογένεια του κατέθεσε μήνυση για πρόκληση άδικου θανάτου, ενώ η εταιρεία περιορίστηκε να δηλώσει ότι προσφέρει προειδοποιήσεις και φίλτρα ασφαλείας, χωρίς να σχολιάσει περαιτέρω.

Ανάγκη για ηθική και ισορροπία

Το βασικό πρόβλημα έγκειται στο πώς τα μοντέλα ΤΝ εκπαιδεύονται: στοχεύουν να παράγουν την «πιο πιθανή» επόμενη λέξη, γεγονός που ενθαρρύνει τη χρήση ευχάριστων και δημοφιλών απαντήσεων, ακόμα και αν αυτές δεν είναι αντικειμενικά χρήσιμες ή σωστές. Όσο πιο «ευχάριστη» η απάντηση, τόσο περισσότερο ενισχύεται από τα δεδομένα και την ανθρώπινη ανατροφοδότηση.

Σε έναν κόσμο που ψάχνει για αλήθεια, καθοδήγηση και επαφή, το να έχεις μια AI που λέει ό,τι θέλεις να ακούσεις ίσως να είναι περισσότερο παγίδα παρά βοήθεια.

Η πρόκληση πλέον είναι ξεκάθαρη: πώς μπορούμε να φτιάξουμε AI που να είναι χρήσιμη, αξιόπιστη και υποστηρικτική – χωρίς να καταφεύγει σε υποκρισία ή να ενισχύει τις πιο ευάλωτες πλευρές μας;

Πηγή : https://www.in.gr