Η λέξη είναι σκληρή. Και χρησιμοποιείται επίτηδες.

Ο αυτοφωράκιας είναι ο άνθρωπος που εμφανίζεται μπροστά όταν έρθει ο έλεγχος. Το πραγματικό σύστημα λειτουργεί πίσω του, παράγει χρήμα, κίνηση και αξία, αλλά εκείνος είναι το πρόσωπο που θα βρεθεί απέναντι στις συνέπειες.

Ακριβώς αυτό κινδυνεύει να γίνει ο άνθρωπος που παίρνει κώδικα, συμβουλές, αποφάσεις, αναλύσεις ή δημοσιεύσεις από το AI και τις μεταφέρει αυτούσιες στον πραγματικό κόσμο χωρίς να γνωρίζει τι υπάρχει από πίσω τους.

Το AI δεν θα εμφανιστεί μπροστά στον πελάτη. Δεν θα δεχτεί το τηλεφώνημα όταν η εφαρμογή σταματήσει να λειτουργεί. Δεν θα εξηγήσει γιατί χάθηκαν δεδομένα, γιατί μία συμβουλή προκάλεσε ζημιά ή γιατί μία καλογραμμένη απάντηση παρουσίασε μία υπόθεση σαν βεβαιότητα.

Εσύ θα εμφανιστείς. Γιατί το όνομα, ο λογαριασμός, το domain, το project, η εταιρεία, η υπηρεσία και η υπόσχεση είναι δικά σου.

Αυτό το άρθρο δεν είναι επίθεση στην τεχνητή νοημοσύνη. Είναι επίθεση στην ανεύθυνη χρήση της. Γιατί το AI μπορεί να γίνει εξαιρετικός συνεργάτης, αλλά μόνο όταν ο άνθρωπος παραμένει παρών, ικανός και υπεύθυνος.

Αυτή είναι η βασική γραμμή που δεν πρέπει να χαθεί ποτέ.

Το AI μπορεί να προτείνει μία αρχιτεκτονική εφαρμογής. Μπορεί να γράψει κώδικα, να σχεδιάσει μία διαδικασία, να δημιουργήσει μία σύμβαση, να προτείνει μία διάγνωση, να συντάξει μία απάντηση προς πελάτη ή να αναλύσει μία επιχειρηματική απόφαση.

Όλα αυτά είναι προτάσεις προς ανθρώπινη αξιολόγηση . Δεν είναι αυτόματα αποφάσεις. Δεν είναι αυτόματα εγκρίσεις. Δεν είναι αυτόματα ασφαλή, νόμιμα, σωστά ή κατάλληλα για τη συγκεκριμένη πραγματικότητα.

Η ανθρώπινη υπογραφή δεν είναι διακοσμητική. Είναι το σημείο όπου δηλώνεις ότι κατάλαβες αρκετά, έλεγξες αρκετά και αποδέχεσαι ότι η ενέργεια θα γίνει στο όνομά σου.

Όσο πιο σοβαρή είναι η συνέπεια, τόσο ισχυρότερη πρέπει να είναι η ανθρώπινη αλυσίδα ελέγχου.

Ακούγεται συχνά ότι το AI είναι καλύτερο από τον άνθρωπο: γράφει πιο γρήγορα, αναλύει περισσότερα, θυμάται περισσότερα, προτείνει περισσότερες επιλογές και μπορεί να δημιουργήσει σε λίγα λεπτά κάτι που παλαιότερα απαιτούσε ημέρες.

Σε αρκετές επιμέρους εργασίες μπορεί πράγματι να είναι ταχύτερο ή ισχυρότερο. Αυτό όμως δεν το κάνει τελικό υπεύθυνο.

Για να αναλάβει κάποιος την τελική ευθύνη δεν αρκεί να παράγει μία καλή απάντηση. Πρέπει να μπορεί να εξηγήσει με ποια στοιχεία αποφάσισε, να αναγνωρίσει ποιον επηρεάζει, να δεχτεί περιορισμούς, να αναλάβει το κόστος του λάθους, να διορθώσει τη ζημιά και να λογοδοτήσει απέναντι σε πραγματικούς ανθρώπους.

Αν το AI μπορούσε να είναι ο τελικός ιδιοκτήτης της απόφασης, δεν θα χρειαζόταν να χρησιμοποιήσει το δικό σου όνομα, τον δικό σου λογαριασμό, τη δική σου εταιρεία, τη δική σου επαγγελματική ιδιότητα ή τη δική σου άδεια για να ενεργήσει.

Θα υπέγραφε μόνο του. Θα πλήρωνε μόνο του. Θα απολογούνταν μόνο του. Θα αποκαθιστούσε μόνο του τη ζημιά.

Η ανθρώπινη παρουσία δεν είναι ένα ξεπερασμένο εμπόδιο που πρέπει να αφαιρεθεί. Είναι ο μηχανισμός που συνδέει την παραγωγή με την ευθύνη.

Στον ψηφιακό κόσμο, υπογράφεις πολύ συχνότερα απ’ όσο νομίζεις.

Υπογράφεις όταν κάνεις push έναν κώδικα σε production. Όταν στέλνεις ένα email που έγραψε το AI. Όταν δημοσιεύεις ένα άρθρο, εγκρίνεις μία προσφορά, εγκαθιστάς μία αυτοματοποίηση, εκτελείς μία εντολή, αποδέχεσαι μία διάγνωση ή χρησιμοποιείς μία ανάλυση για να επηρεάσεις έναν άνθρωπο.

Σε κάθε μία από αυτές τις περιπτώσεις, η υπογραφή είναι η πράξη που μετατρέπει ένα ψηφιακό output σε πραγματικό γεγονός.

Γι’ αυτό η ερώτηση δεν είναι μόνο «ποιος έγραψε αυτό το αποτέλεσμα;». Η ουσιαστική ερώτηση είναι «ποιος του έδωσε ισχύ;»

Η ανθρώπινη ευθύνη δεν είναι μία γενική και αόριστη έννοια. Αποτελείται από συγκεκριμένα επίπεδα.

Το AI μπορεί να βοηθήσει σε κάθε επίπεδο. Μπορεί να προτείνει tests, να εντοπίσει κινδύνους, να οργανώσει τεκμηρίωση και να δημιουργήσει εναλλακτικές. Δεν μπορεί όμως να γίνει το πρόσωπο που οφείλει να εμφανιστεί όταν το αποτέλεσμα αποτύχει.

Το AI δεν χρειάζεται να σε εξαπατήσει για να σε παραπλανήσει. Αρκεί να παράγει μία απάντηση πιο καθαρή και πιο σίγουρη από τη δική σου κατανόηση.

Η σωστή δομή, η άψογη γλώσσα, ο ολοκληρωμένος κώδικας και η φαινομενικά λογική εξήγηση δημιουργούν μία επικίνδυνη εντύπωση: ότι πίσω από το αποτέλεσμα υπάρχει κάποιος που καταλαβαίνει ολόκληρη την κατάσταση.

Όμως η ευχέρεια της διατύπωσης δεν αποτελεί απόδειξη αλήθειας. Η πληρότητα του κώδικα δεν αποτελεί απόδειξη ασφάλειας. Η αυτοπεποίθηση του ύφους δεν αποτελεί απόδειξη αρμοδιότητας.

Εδώ γεννιέται η δανεική βεβαιότητα. Ο άνθρωπος δεν γνωρίζει πραγματικά, αλλά αισθάνεται ότι γνωρίζει επειδή κρατά στα χέρια του μία άψογα διατυπωμένη απάντηση.

Και όταν η εμφάνιση της γνώσης αντικαθιστά την πραγματική κατανόηση, η ανθρώπινη υπογραφή παύει να είναι έλεγχος. Μετατρέπεται σε κάλυψη.

Όταν το AI γράφει κώδικα, δεν παράγει απλώς λέξεις. Παράγει συμπεριφορά.

Μία εντολή μπορεί να αποκτήσει πρόσβαση σε δεδομένα. Μία συνάρτηση μπορεί να διαγράψει αρχεία. Ένα endpoint μπορεί να εκθέσει πληροφορίες. Μία λανθασμένη συνθήκη μπορεί να χρεώσει δύο φορές, να παρακάμψει έναν έλεγχο ή να επιτρέψει σε λάθος χρήστη να δει κάτι που δεν του ανήκει.

Αν δεν μπορείς να εξηγήσεις τι κάνει ο κώδικας, ποια δεδομένα αγγίζει, ποια δικαιώματα απαιτεί, πώς αποτυγχάνει και πώς επιστρέφει σε ασφαλή κατάσταση, τότε δεν τον έχεις ελέγξει. Απλώς τον έχεις μεταφέρει.

Το AI μπορεί να σου δώσει ταχύτητα. Η ταχύτητα όμως χωρίς παρατήρηση, tests, logs, version control, backup και rollback μετατρέπει κάθε update σε στοίχημα με πραγματικούς χρήστες.

Το ίδιο πρόβλημα δεν περιορίζεται στον προγραμματισμό.

Μία απάντηση του AI μπορεί να χρησιμοποιηθεί για την αξιολόγηση ενός εργαζομένου, την απόρριψη ενός υποψηφίου, τη διαχείριση ενός μαθητή, τη σύνταξη μίας ιατρικής ή νομικής ερώτησης, την αποστολή ενός δύσκολου μηνύματος ή τη λήψη μίας οικονομικής απόφασης.

Σε αυτές τις περιπτώσεις, το λάθος δεν είναι απλώς τεχνικό. Μπορεί να γίνει αδικία, αποκλεισμός, παραπληροφόρηση, προσβολή, οικονομική απώλεια ή απόφαση που κανείς δεν μπορεί να εξηγήσει καθαρά.

Ο άνθρωπος που υπογράφει οφείλει να ελέγξει όχι μόνο αν η πρόταση «βγάζει νόημα», αλλά και αν έχει το δικαίωμα να τη χρησιμοποιήσει, αν τα δεδομένα είναι κατάλληλα, αν η διαδικασία είναι δίκαιη και αν υπάρχει τρόπος ένστασης και διόρθωσης.

Το AI μπορεί να συμμετέχει στη σκέψη. Δεν πρέπει να εξαφανίζει το πρόσωπο που έχει την αρμοδιότητα και την υποχρέωση να απαντήσει.

Εδώ βρίσκεται το μεγαλύτερο εκπαιδευτικό κενό της εποχής του AI.

Μάθαμε στους ανθρώπους να γράφουν καλύτερα prompts. Δεν τους μάθαμε πάντα να αναγνωρίζουν πότε δεν διαθέτουν την απαιτούμενη γνώση για να αξιολογήσουν την απάντηση.

Η ικανότητα να ζητάς ένα αποτέλεσμα δεν είναι το ίδιο με την ικανότητα να το ελέγχεις. Και η ικανότητα να το ελέγχεις δεν είναι το ίδιο με το δικαίωμα να το εγκρίνεις.

Ο ώριμος χρήστης του AI γνωρίζει πότε μπορεί να προχωρήσει, πότε χρειάζεται δοκιμή, πότε χρειάζεται δεύτερο άνθρωπο και πότε πρέπει να σταματήσει εντελώς και να καλέσει ειδικό.

Η ασφαλής χρήση του AI δεν βασίζεται σε έναν γενικό κανόνα «να το ελέγχει άνθρωπος». Χρειάζεται ορατή αλυσίδα ρόλων.

Αν σε οποιοδήποτε σημείο η απάντηση είναι «κανείς», τότε η διαδικασία έχει κενό ευθύνης.

Αν η απάντηση είναι «ο χρήστης» αλλά ο χρήστης δεν διαθέτει γνώση, αρμοδιότητα ή πρόσβαση στα στοιχεία που απαιτούνται, τότε η ανθρώπινη παρουσία είναι μόνο τυπική. Δεν αποτελεί ουσιαστικό έλεγχο.

Η αλυσίδα αυτή δεν επιβραδύνει την καινοτομία. Επιτρέπει στην καινοτομία να συνεχίσει χωρίς να μετατρέπει κάθε χρήστη, πελάτη ή μαθητή σε πειραματόζωο.

Πριν δημοσιεύσεις, εγκαταστήσεις, αποστείλεις ή εκτελέσεις οτιδήποτε παρήγαγε το AI, πέρασέ το από μία απλή αλλά αυστηρή διαδικασία.

Αν δεν μπορείς να απαντήσεις, δεν είσαι ακόμη έτοιμος να πατήσεις Publish. Δεν χρειάζεται να ντραπείς. Χρειάζεται να σταματήσεις.

Ο στόχος δεν είναι να επιστρέψουμε σε έναν κόσμο χωρίς AI. Ο στόχος είναι να χρησιμοποιήσουμε τη δύναμή του χωρίς να παραδώσουμε την ανθρώπινη κρίση.

Χειριστής του AI δεν είναι εκείνος που γράφει τα περισσότερα prompts. Είναι εκείνος που ορίζει τον στόχο, περιορίζει την πρόσβαση, ελέγχει τις υποθέσεις, μετρά το αποτέλεσμα και γνωρίζει πότε να σταματήσει τη μηχανή.

Ιδιοκτήτης της απόφασης δεν είναι εκείνος που εμφανίζεται μόνο στο τέλος για να πατήσει ένα κουμπί. Είναι εκείνος που μπορεί να εξηγήσει ολόκληρη τη διαδρομή από την ανάγκη μέχρι το αποτέλεσμα.

Την επόμενη φορά, λοιπόν, που θα πάρεις έτοιμο κώδικα, έτοιμη απάντηση ή έτοιμη απόφαση από το AI, σταμάτα πριν εντυπωσιαστείς από την ταχύτητα.

Διάβασέ το. Σπάσ’ το. Δοκίμασέ το. Ζήτησε στοιχεία. Αναζήτησε τις υποθέσεις. Βρες ποιος επηρεάζεται. Ετοίμασε τον τρόπο επιστροφής. Και μόνο τότε αποφάσισε αν αξίζει τη δική σου υπογραφή.