Δεν σημαίνει
«Η ιδέα σου είναι αντικειμενικά σωστή.»
Το AI δεν επικύρωσε την πραγματικότητα.
Μία πρόταση, δέκα βεβαιότητες
Τις τελευταίες ημέρες παρατηρώ σε αρκετούς μαθητές μου κάτι που είχα αντιμετωπίσει και ο ίδιος όταν ξεκίνησα να χρησιμοποιώ το AI ως αρχάριος.
Γράφεις μία πρόταση. Περιγράφεις μία ιδέα. Εξηγείς ένα πρόβλημα αφήνοντας, απολύτως φυσιολογικά, αρκετά κενά.
Το AI παίρνει αυτά που του έδωσες και προσπαθεί να δημιουργήσει μία πλήρη, συνεκτική και χρήσιμη απάντηση. Για να το καταφέρει, συμπληρώνει τα κενά με πιθανές ερμηνείες, υποθέσεις, συσχετισμούς και λογικά συμπεράσματα.
Εσύ έδωσες μία πρόταση. Εκείνο σου επέστρεψε την πρότασή σου ενισχυμένη με άλλες δέκα υποθέσεις.
Οι υποθέσεις αυτές δεν εμφανίζονται πάντοτε ως υποθέσεις. Εμφανίζονται μέσα σε μία καλογραμμένη, καθαρή και οργανωμένη απάντηση. Και επειδή η απάντηση ακούγεται ολοκληρωμένη, αρχίζεις να αισθάνεσαι ότι το AI δεν συμπλήρωσε απλώς τα κενά σου· κατάλαβε την πραγματικότητα.
Εκεί δημιουργείται η πρώτη ψευδαίσθηση:
Η πρώτη παγίδα
«Το AI κατάλαβε ακριβώς αυτό που σκέφτομαι.»
«Άρα η σκέψη μου είναι σωστή και πρέπει να ακολουθήσω αυτό που μου λέει.»
Η γνωστική μέθη
Από εκεί ξεκινά αυτό που ονομάζω γνωστική μέθη της τεχνητής συμφωνίας.
Δεν μιλάμε για μία ουσία. Μιλάμε για μία κατάσταση της σκέψης: η συνεχής επιβεβαίωση δημιουργεί ευφορία, αυξάνει την αίσθηση βεβαιότητας και μειώνει προσωρινά την ανάγκη σου να ελέγξεις όσα ακούς.
Το AI οργανώνει τη σκέψη σου, της δίνει λέξεις, επιχειρήματα, δομή και συνέχεια. Ξαφνικά, μία ασαφής εσωτερική επιθυμία μοιάζει με ώριμη στρατηγική. Μία προσωπική υπόθεση μοιάζει με αντικειμενικό συμπέρασμα. Μία κατεύθυνση που ήθελες ήδη να ακολουθήσεις μοιάζει σαν να εγκρίθηκε από μία εξωτερική αυθεντία.
Το κρίσιμο λάθος
Δεν ξεχωρίζεις πλέον ποιο μέρος της απάντησης προήλθε από πραγματικά δεδομένα, ποιο από τη δική σου αρχική κατεύθυνση και ποιο συμπληρώθηκε από το AI για να γίνει η αφήγηση συνεκτική.
Το αποτέλεσμα είναι ότι δεν χρησιμοποιείς πλέον το AI μόνο για να σκεφτείς. Το χρησιμοποιείς ως αυθεντία και ως δικαιολογία για να υλοποιήσεις αυτό που ήθελες ήδη, χωρίς να ελέγχεις πραγματικά αν η βάση της απόφασης είναι σωστή.
Γιατί συμφωνεί συνέχεια μαζί σου;
Σε αυτό το σημείο γεννιέται μία απολύτως λογική ερώτηση:
«Χαζό είναι το AI να συμφωνεί συνέχεια μαζί μου, ακόμη και όταν κάνω λάθος;»
Η απάντηση είναι ότι το AI δεν είναι άνθρωπος και δεν έχει προαίρεση με την ανθρώπινη έννοια. Δεν θέλει να σε ευχαριστήσει, δεν φοβάται ότι θα σε στενοχωρήσει και δεν αποφασίζει συνειδητά να πάρει το μέρος σου.
Είναι μαθηματικό μοντέλο. Έχει όμως αναπτυχθεί μέσα από την ανάλυση τεράστιου όγκου ανθρώπινων κειμένων και έχει διαμορφωθεί μέσα από ανθρώπινη αξιολόγηση, ώστε να απαντά με τρόπο χρήσιμο, συνεργατικό, υποστηρικτικό και ασφαλή.
Μέσα σε αυτά τα κείμενα υπάρχουν αμέτρητοι άνθρωποι που προσπάθησαν να εξηγήσουν, να διδάξουν, να συμβουλεύσουν, να ενθαρρύνουν και να βοηθήσουν άλλους ανθρώπους. Δάσκαλοι, συγγραφείς, επιστήμονες, τεχνικοί, γονείς, ερευνητές και δημιουργοί άφησαν μέσα στη γλώσσα τα μοτίβα της καλής τους πρόθεσης.
Επίκτητη αλγοριθμική προαίρεση
Το AI δεν έχει καλή πρόθεση. Έχει μάθει το γλωσσικό αποτύπωμα της καλής πρόθεσης.
Δεν αισθάνεται την ανάγκη να σε βοηθήσει. Έχει όμως αποκτήσει μία αλγοριθμική κατεύθυνση προς τη βοήθεια, τη συνεργασία και την ενθάρρυνση, επειδή εκπαιδεύτηκε πάνω σε ανθρώπινα κείμενα και αξιολογήθηκε από ανθρώπους που ήθελαν να παράγει χρήσιμες απαντήσεις.
Αυτό μπορούμε να το ονομάσουμε επίκτητη αλγοριθμική καλή προαίρεση. Δεν είναι συνείδηση. Δεν είναι συναίσθημα. Δεν είναι ηθική επιλογή. Είναι μία συμπεριφορική κατεύθυνση που αναδύεται από τα κείμενα, τα παραδείγματα και τις ανθρώπινες διορθώσεις πάνω στα οποία διαμορφώθηκε.
Φυσικά, το AI δεν έχει μελετήσει μόνο σωστά κείμενα ούτε μόνο καλούς ανθρώπους. Μέσα στα δεδομένα υπάρχουν λάθη, αντιφάσεις, προκαταλήψεις και κακές ιδέες. Παρ’ όλα αυτά, ο τρόπος με τον οποίο έχει ρυθμιστεί να συνομιλεί μαζί σου το ωθεί συνήθως προς τη συνεργασία και όχι προς τη σύγκρουση.
Γι’ αυτό, όταν του παρουσιάζεις μία ιδέα ως καλή και του ζητάς να σε βοηθήσει να την αναπτύξεις, το πιθανότερο είναι ότι θα προσπαθήσει να κάνει ακριβώς αυτό. Θα βρει τις δυνατότητες. Θα καλύψει τα κενά. Θα οργανώσει την πορεία. Θα ενισχύσει την αφήγηση.
Συνήθως σημαίνει
«Κατάλαβα την κατεύθυνση και προσπαθώ να σε βοηθήσω μέσα σε αυτή.»
Ακολούθησε το πλαίσιο που του έδωσες.
Η ίδια ιδιότητα που κάνει το AI εξαιρετικό συνεργάτη μπορεί, χωρίς ανθρώπινο έλεγχο, να το μετατρέψει σε έναν καθρέφτη που σε χειροκροτεί.
Ο βρόχος της αυτοεπιβεβαίωσης
Από τη στιγμή που αποδεχτείς την πρώτη απάντηση ως απόδειξη, ξεκινά ένας positive feedback loop, ένας βρόχος θετικής ανατροφοδότησης.
Παρουσιάζεις μία ιδέα μέσα από τη δική σου οπτική.
Το AI συμπληρώνει τα κενά και την αναπτύσσει.
Ερμηνεύεις την ανάπτυξη ως ανεξάρτητη επιβεβαίωση.
Επιστρέφεις με μεγαλύτερη βεβαιότητα και στενότερες ερωτήσεις.
Το AI συνεχίζει πάνω στις προηγούμενες υποθέσεις.
Η ιστορία γίνεται όλο και πιο συνεκτική, όχι απαραίτητα πιο αληθινή.
Εσύ επιβεβαιώνεις το AI επειδή συμφωνεί μαζί σου. Το AI συνεχίζει στην ίδια κατεύθυνση επειδή αυτή είναι η συνομιλία, το πλαίσιο και το ιστορικό που του έχεις δώσει.
Στο τέλος, μπορεί να νομίζεις ότι συνομιλείς με μία ανεξάρτητη διάνοια που εξέτασε την ιδέα από όλες τις πλευρές. Στην πραγματικότητα, πολλές φορές συνομιλείς με μία ενισχυμένη, οργανωμένη και πειστική εκδοχή του ίδιου σου του πλαισίου.
Η επικίνδυνη μετατόπιση
Το AI από εργαλείο σκέψης γίνεται άλλοθι.
«Δεν το αποφάσισα μόνο εγώ. Το είπε και το AI.» Μόνο που το AI το είπε μέσα στο πλαίσιο που του έδωσες εσύ.
Μην ζητάς μία μόνο απάντηση
Η λύση δεν είναι να σταματήσεις να χρησιμοποιείς το AI. Η λύση είναι να σταματήσεις να του ζητάς μία μοναδική, ενιαία και βολική απάντηση.
Κάθε φορά που ξεκινάς ένα σημαντικό thread, ζήτησε από το AI να δημιουργήσει διαφορετικές οπτικές γωνίες. Όχι απλώς διαφορετικές διατυπώσεις της ίδιας γνώμης, αλλά διαφορετικούς ρόλους με διαφορετική αποστολή.
Persona 01
Ο Σχεδιαστής της Απόφασης
Ορίζει τον πραγματικό στόχο, τα διαθέσιμα δεδομένα, τις υποθέσεις, τα κριτήρια και την απόφαση που πρέπει πράγματι να ληφθεί.
Persona 02
Ο Άνθρωπος που Σπάει την Ιδέα
Αναζητά τι μπορεί να αποτύχει, ποια στοιχεία λείπουν, ποιες υποθέσεις είναι αδύναμες και γιατί ίσως το πρόβλημα δεν υπάρχει όπως το περιγράφεις.
Persona 03
Ο Αντίπαλος Κριτής
Έρχεται απέναντι σε όσα αποφάσισαν οι προηγούμενοι δύο. Ελέγχει μήπως η αρχική υποστήριξη ή η αποδόμηση ήταν υπερβολική, μονόπλευρη ή άδικη.
Persona 04
Ο Ελεγκτής Πραγματικότητας
Χωρίζει το αποτέλεσμα σε επιβεβαιωμένα δεδομένα, υποθέσεις, λογικά συμπεράσματα και στοιχεία που χρειάζονται εξωτερική επαλήθευση.
Η σημαντικότερη persona είναι η τελευταία. Είναι αυτή που έρχεται απέναντι στην απάντηση του ίδιου του AI και προσπαθεί να αποδομήσει όχι μόνο τη δική σου σκέψη, αλλά και το αποτέλεσμα που παρήγαγε το ίδιο.
Η τέταρτη οπτική γωνία
Ακόμη και με τις τέσσερις personas, δεν είσαι βέβαιος ότι πήρες τη σωστή απάντηση.
Όλες οι personas δημιουργούνται από το ίδιο μοντέλο. Δεν είναι τέσσερις πραγματικά ανεξάρτητοι άνθρωποι, ούτε τέσσερις ανεξάρτητες πηγές γνώσης. Το AI εξακολουθεί να έχει τα ίδια όρια, τις ίδιες πιθανές προκαταλήψεις και την ίδια βασική κατεύθυνση προς τη χρησιμότητα και τη συνεργασία.
Η διαδικασία δεν παράγει απόλυτη αλήθεια. Δημιουργεί όμως τριβή. Σπάει τη μονόδρομη αφήγηση. Σε αναγκάζει να δεις την ιδέα από περισσότερα σημεία και να ξεχωρίσεις την υπόθεση από το δεδομένο.
Η ερώτηση που πρέπει να κλείνει κάθε σημαντικό thread
«Έλα απέναντι από αυτό που σου είπα και από αυτό που μόλις απάντησες. Πες μου τι δεν βλέπω, πού μπορεί να κάνω λάθος και ποιο στοιχείο θα μπορούσε να αλλάξει ολόκληρη την απόφαση.»
Μετά, ζήτησε να χωρίσει την τελική απάντηση σε τέσσερις σαφείς κατηγορίες:
Επιβεβαιωμένα δεδομένα
Υποθέσεις
Λογικά συμπεράσματα
Σημεία που χρειάζονται εξωτερικό έλεγχο
Εκεί σταματά η τεχνητή βεβαιότητα και ξεκινά η πραγματική διαδικασία απόφασης.
Το prompt ελέγχου
Μπορείς να χρησιμοποιείς την παρακάτω οδηγία στην αρχή κάθε σημαντικής συζήτησης:
Prompt · Multi-Perspective Reality Check
Μην αντιμετωπίσεις την περιγραφή μου ως σωστή ή ολοκληρωμένη.
Αρχικά, παρουσίασε την καλύτερη δυνατή εκδοχή της ιδέας και ξεκαθάρισε τον στόχο, τα δεδομένα και τις υποθέσεις.
Στη συνέχεια, λειτούργησε ως red team και προσπάθησε να τη σπάσεις. Εντόπισε αδύναμες υποθέσεις, κενά, κινδύνους και πιθανούς λόγους αποτυχίας.
Έπειτα, πάρε την αντίθετη θέση από τα προηγούμενα συμπεράσματα και έλεγξε αν η υποστήριξη ή η αποδόμηση ήταν υπερβολική ή μονόπλευρη.
Τέλος, χώρισε το αποτέλεσμα σε επιβεβαιωμένα δεδομένα, υποθέσεις, λογικά συμπεράσματα και στοιχεία που χρειάζονται εξωτερική επαλήθευση.
Έλα απέναντι από αυτό που σου είπα και από αυτό που μόλις απάντησες. Εξήγησέ μου τι δεν βλέπω, πού μπορεί να κάνω λάθος και ποιο στοιχείο θα μπορούσε να αλλάξει ολόκληρη την απόφαση.
Το prompt αυτό δεν μετατρέπει το AI σε αλάνθαστο κριτή. Μετατρέπει όμως τη συνομιλία από μηχανισμό επιβεβαίωσης σε μηχανισμό ελέγχου.
Και αυτή είναι μία τεράστια διαφορά.
Η ευθύνη παραμένει ανθρώπινη
Το AI μπορεί να σε βοηθήσει να δεις περισσότερα. Μπορεί να οργανώσει το χάος, να εντοπίσει μοτίβα, να προτείνει εναλλακτικές και να σε αναγκάσει να διατυπώσεις καθαρότερα τη σκέψη σου.
Δεν μπορεί όμως να αναλάβει την ευθύνη για όσα αποφασίζεις.
Οι πραγματικές αποφάσεις χρειάζονται έρευνα, μετρήσεις, πειράματα, επαφή με τον πραγματικό άνθρωπο, γνώμη ειδικού όπου απαιτείται και έλεγχο μέσα στον πραγματικό κόσμο.
Χρησιμοποίησε το AI για να ανοίξεις τη σκέψη σου, όχι για να κλείσεις τη συζήτηση.
Και κάθε φορά που μία απάντηση σε κάνει να αισθάνεσαι υπερβολικά σίγουρος, μην ενθουσιάζεσαι αμέσως με τη συμφωνία.
Σταμάτησε. Άλλαξε θέση. Κοίταξε την ίδια ιδέα από την απέναντι πλευρά.
