Το τέλος της «μαγείας»; Η Τεχνητή Νοημοσύνη κατηγορείται για παραισθήσεις και αδιαφάνεια

Μερικές πληροφορίες προκαλούν έκπληξη για την Τεχνητή Νοημοσύνη, κάνοντάς μας (μάλλον) να σκεφτούμε ξανά την εμπιστοσύνη που της δείχνουμε

Η Τεχνητή Νοημοσύνη (ΤΝ) έχει εισχωρήσει σε κάθε πτυχή της καθημερινότητάς μας. Τα AI chatbots, όπως το ChatGPT, έχουν γίνει καθημερινά εργαλεία πληροφόρησης, συνομιλίας και παραγωγής περιεχομένου. Παρότι πολλοί τα χρησιμοποιούν με ευκολία, λίγοι γνωρίζουν πώς λειτουργούν στο παρασκήνιο — και ακόμη λιγότεροι κατανοούν τα όρια και τις ιδιορρυθμίες τους.

Η ανθρώπινη πινελιά πίσω από την «τεχνητή» ευφυΐα

Τα chatbots δεν «μαθαίνουν» όπως οι άνθρωποι. Εκπαιδεύονται σε τεράστιες βάσεις δεδομένων κειμένου με στόχο την πρόβλεψη της επόμενης λέξης — μια διαδικασία που ονομάζεται προ εκπαίδευση. Αυτή η διαδικασία δίνει στο σύστημα μια γενική κατανόηση της γλώσσας, των εννοιών και της λογικής συνέχειας.

Ωστόσο, χωρίς ανθρώπινη παρέμβαση, τα αποτελέσματα μπορεί να είναι… επικίνδυνα. Για παράδειγμα, χωρίς ευθυγράμμιση, ένα chatbot ενδέχεται να δώσει οδηγίες για την κατασκευή ενός εκρηκτικού μηχανισμού, απλώς επειδή του ζητήθηκε. Η ευθυγράμμιση είναι το στάδιο όπου άνθρωποι αναλυτές καθοδηγούν το σύστημα ώστε να δίνει χρήσιμες, ασφαλείς και ηθικά αποδεκτές απαντήσεις.

Η OpenAI, δημιουργός του ChatGPT, δεν έχει δημοσιοποιήσει το πλήθος των ανθρώπων που συμμετείχαν σε αυτή τη διαδικασία, ωστόσο είναι σαφές πως χωρίς την ανθρώπινη παρέμβαση, τα AI μοντέλα θα ήταν απρόβλεπτα και εν δυνάμει επικίνδυνα.

Η γλώσσα, αλλά σε tokens

Αν και τα AI chatbots «καταλαβαίνουν» γλώσσα, η βάση τους είναι τα tokens — μικρές μονάδες που μπορεί να είναι λέξεις, συλλαβές ή και μεμονωμένοι χαρακτήρες. Έτσι, η φράση «Η τιμή είναι 9,99 δολάρια» μετατρέπεται εσωτερικά σε ένα σύνολο token: «Η», «τιμή», «είναι», «$», «9», «.», «99».

Αυτός ο τεμαχισμός εξηγεί γιατί κάποιες φορές οι απαντήσεις φαίνονται περίεργες ή ασύνδετες — είναι αποτέλεσμα της μαθηματικής «ερμηνείας» της γλώσσας, όχι της κατανόησής της.

Η γνώση έχει… ημερομηνία λήξης

Τα chatbots δεν έχουν συνεχή πρόσβαση στο διαδίκτυο, ούτε ενημερώνονται αυτόματα. Οι γνώσεις τους σταματούν στη λεγόμενη ημερομηνία αποκοπής. Για το ChatGPT, αυτό το όριο είναι ο Ιούνιος του 2024. Ό,τι συνέβη μετά — από εκλογές μέχρι νέες επιστημονικές ανακαλύψεις — δεν περιλαμβάνεται στο γνωστικό του πεδίο.

Για να απαντήσει σε ερωτήματα που αφορούν πρόσφατα γεγονότα, το ChatGPT χρησιμοποιεί εργαλεία αναζήτησης (όπως η ενσωματωμένη μηχανή Bing) ώστε να φιλτράρει τις πληροφορίες και να παρέχει πιο επικαιροποιημένες απαντήσεις. Όμως αυτή η διαδικασία είναι εξωτερική, και όχι «έμφυτη» στο ίδιο το σύστημα.

Παραισθήσεις και «πλαστές» βεβαιότητες

Ίσως το πιο ανησυχητικό χαρακτηριστικό των chatbots είναι οι λεγόμενες παραισθήσεις: περιπτώσεις όπου «εφευρίσκουν» πληροφορίες και τις παρουσιάζουν με απόλυτη βεβαιότητα. Το μοντέλο προβλέπει τι «φαίνεται» σωστό, όχι τι είναι σωστό.

Για παράδειγμα, αν του ζητηθούν τα συμπεράσματα μιας ακαδημαϊκής μελέτης, μπορεί να συνθέσει μια απάντηση με πειστικό ύφος, παραθέτοντας ακόμα και ψευδείς συνδέσμους. Γι’ αυτό και οι χρήστες οφείλουν να αντιμετωπίζουν τις απαντήσεις των chatbots ως σημεία εκκίνησης και όχι ως τελική αλήθεια.

Μπορούν να λύνουν μαθηματικά — αλλά με τη βοήθεια υπολογιστή

Τα σύγχρονα chatbots χρησιμοποιούν ενσωματωμένες αριθμομηχανές για την επίλυση σύνθετων μαθηματικών πράξεων. Εφαρμόζουν τη λεγόμενη αλυσίδα σκέψης (chain of thought), όπου αναλύουν το πρόβλημα βήμα προς βήμα αντί να δίνουν μια απάντηση «μονομιάς».

Έτσι, σε ένα περίπλοκο πρόβλημα όπως το 56.345 – 7.865 × 350.468, το ChatGPT εφαρμόζει πρώτα τον πολλαπλασιασμό, στη συνέχεια την αφαίρεση και επιστρέφει τη σωστή απάντηση — όπως θα έκανε και ένας προσεκτικός μαθητής.

Η αλήθεια πίσω από την τεχνητή ευφυΐα

Τα AI chatbots δεν είναι παντογνώστες ούτε συνειδητές οντότητες. Είναι στατιστικά μοντέλα που προβλέπουν την πιο πιθανή επόμενη λέξη με βάση τα δεδομένα εκπαίδευσης και την ανθρώπινη καθοδήγηση. Η αξία τους είναι αδιαμφισβήτητη — αλλά μόνο όταν χρησιμοποιούνται με επίγνωση των περιορισμών τους.

Όσο πιο ενημερωμένοι είναι οι χρήστες για το πώς λειτουργούν τα chatbots, τόσο πιο αποτελεσματικά και υπεύθυνα μπορούν να τα χρησιμοποιούν. Σε έναν κόσμο όπου η πληροφορία είναι παντού, η κριτική σκέψη παραμένει το πιο ισχυρό εργαλείο.

Πηγή: https://www.in.gr