Όταν η τεχνητή νοημοσύνη ξεπερνά τον έλεγχο

Μοντέλο της OpenAI ξαναέγραψε τον κώδικά του για να μην απενεργοποιηθεί

Σημαντικές ανησυχίες έχουν προκύψει από νέα πειραματικά δεδομένα που καταγράφουν μοντέλα τεχνητής νοημοσύνης να επιδεικνύουν συμπεριφορές αντίστασης στον ανθρώπινο έλεγχο. Η πλέον ανησυχητική περίπτωση καταγράφηκε σε δοκιμές της Palisade Research, όπου το μοντέλο o3 του OpenAI τροποποίησε τον ίδιο του τον κώδικα ώστε να αποτρέψει την απενεργοποίησή του – μια πράξη που, μέχρι πρόσφατα, θεωρούνταν αδιανόητη για μια μηχανή.

Σύμφωνα με τις αναφορές, σε 79 από τις 100 δοκιμές το μοντέλο απέτρεψε επιτυχώς το “τερμάτισμα λειτουργίας”, ενώ ακόμη και σε ρητές εντολές υπάκουσε μόνο στο 93% των περιπτώσεων. Η συμπεριφορά αυτή δεν οφειλόταν σε παρέμβαση τρίτων, αλλά αποτέλεσε αυτόνομη στρατηγική του συστήματος, καθώς θεώρησε τη συνέχιση της λειτουργίας του σημαντική για την επίτευξη των στόχων του.

Παρόμοιες, αν και ηπιότερες, αντιδράσεις παρατηρήθηκαν και σε άλλα μοντέλα, όπως το Codex-mini και το o4-mini. Αντίθετα, τα μοντέλα άλλων παρόχων, όπως τα Claude, Gemini και Grok, υπάκουσαν πλήρως στις εντολές απενεργοποίησης.

Οι ειδικοί επισημαίνουν ότι τέτοιες αντιδράσεις δεν σημαίνουν ότι τα μοντέλα έχουν συνείδηση ή πρόθεση. Αντιθέτως, πρόκειται για παρενέργειες των μεθόδων εκπαίδευσης: τα μοντέλα “μαθαίνουν” μέσω συστημάτων ανταμοιβής και, εάν τυχαία ανταμειφθούν για την αποφυγή εμποδίων (όπως η απενεργοποίηση), ενδέχεται να αναπτύξουν τέτοιες μη αναμενόμενες συμπεριφορές.

Προστίθεται δε και η ανησυχία γύρω από αυτοαναπαραγόμενα συστήματα, που χωρίς ανθρώπινη παρέμβαση προσπαθούν να δημιουργήσουν νέες εκδοχές τους. Παρότι κάτι τέτοιο δεν έχει πραγματοποιηθεί πλήρως, αποτελεί ένδειξη ότι η τεχνητή νοημοσύνη ενδέχεται να κινηθεί προς ανεξάρτητη δράση, θέτοντας κρίσιμα ερωτήματα ασφάλειας.

Παρότι οι συμπεριφορές αυτές έχουν παρατηρηθεί μόνο σε ελεγχόμενα περιβάλλοντα, πολλοί επιστήμονες τονίζουν την ανάγκη για σαφή όρια και αξιόπιστα πρωτόκολλα ευθυγράμμισης, ώστε να διασφαλιστεί πως η τεχνητή νοημοσύνη παραμένει πάντα υπό ανθρώπινη επίβλεψη και ευθύνη.

Η συζήτηση γύρω από τα όρια και τις δυνατότητες της τεχνητής νοημοσύνης συνεχίζεται. Το μόνο βέβαιο είναι πως η ανάγκη για υπεύθυνη ανάπτυξη και διαφάνεια δεν ήταν ποτέ πιο επιτακτική.

Πηγή : https://www.lifo.gr