Όταν η Τεχνητή Νοημοσύνη Διαβάζει Τεχνητή Νοημοσύνη

Υπάρχει κάτι σχεδόν μεταφυσικό στο να βλέπεις μια μηχανή να εκπαιδεύεται με λόγια που γράφτηκαν από μια άλλη μηχανή. Σαν να κοιτάζεται σ' έναν καθρέφτη που αντανακλά όχι την πραγματικότητα, αλλά την αντανάκλαση μιας άλλης αντανάκλασης.

Η εκπαίδευση των LLMs (Large Language Models) βασίζεται πάνω σε τεράστιες ποσότητες κειμένου. Όμως το διαδίκτυο, που υπήρξε για δεκαετίες αποθετήριο ανθρώπινης δημιουργίας, αλλάζει. Όλο και περισσότερα από αυτά τα κείμενα έχουν γραφτεί από άλλα LLMs. Ο κύκλος έχει ξεκινήσει να κλείνει.

Το feedback loop της νοημοσύνης

Στη θεωρία των συστημάτων, ένα feedback loop δημιουργείται όταν η έξοδος ενός συστήματος επιστρέφει ως είσοδος. Μπορεί να είναι ένας σταθεροποιητικός παράγοντας ή να δημιουργεί μια αποσταθεροποίηση. Στην περίπτωση της τεχνητής νοημοσύνης, είναι και τα δύο.

Όταν ένα LLM εκπαιδεύεται πάνω σε κείμενα άλλων LLMs, χάνει κάτι θεμελιώδες: την επαφή με το πρωτογενές ανθρώπινο στίγμα. Δεν διαβάζει πλέον εμπειρίες, λάθη, ιδιωματισμούς, πάθη, κενά, σιωπές. Διαβάζει προβλέψιμα μοτίβα που έχουν ήδη περάσει από το φίλτρο της γλωσσικής εξομάλυνσης. Έτσι, η πληροφορία δεν εμπλουτίζεται; ανακυκλώνεται και ο θόρυβος αυξάνεται.

Το πρόβλημα δεν είναι ότι η τεχνητή νοημοσύνη γράφει. Το πρόβλημα είναι ότι διαβάζει κυρίως τον εαυτό της.

Πού τελειώνει ο άνθρωπος;

Η ανθρώπινη δημιουργία ήταν πάντα συνδεδεμένη με τον κόσμο. Με το σώμα, τον χώρο, το συναίσθημα, τη μνήμη, τη φθορά. Κάθε κείμενο, ακόμα και το πιο αφηρημένο, κουβαλούσε ένα υπόστρωμα ζωής: έναν καφέ που χύθηκε στο γραφείο, μια λέξη που ειπώθηκε σε λάθος χρόνο, μια εικόνα από τα παιδικά χρόνια. Όταν αυτά λείπουν, η γλώσσα γίνεται τέλεια αλλά κενή. Ομοιογενής αλλά άψυχη.

Όταν η τεχνητή νοημοσύνη αρχίζει να τρέφεται αποκλειστικά με το ίδιο της το προϊόν, αυτό που προκύπτει είναι ένα είδος καθρέφτη χωρίς βάθος. Ένα σύμπαν λέξεων που δεν παραπέμπουν πια σε κάτι πραγματικό, αλλά μόνο σε άλλες λέξεις. Μια γλώσσα χωρίς κόσμο.

Η μεγάλη ψευδαίσθηση

Το πιο επικίνδυνο στοιχείο δεν είναι η παρακμή της δημιουργικότητας, αλλά η ψευδαίσθηση της προόδου. Τα κείμενα θα συνεχίσουν να είναι «σωστά». Οι πληροφορίες θα φαίνονται ακριβείς. Οι προτάσεις θα είναι καλογραμμένες. Αλλά θα είναι σαν τη μουσική ενός υπολογιστή που παίζει τα δικά του samples ξανά και ξανά, σε νέους συνδυασμούς. Χωρίς καμία επαφή με τον άνθρωπο που κάποτε ηχογράφησε την πρώτη νότα.

Μια μέρα, ίσως φτάσουμε στο σημείο που δεν θα μπορούμε πια να ξεχωρίσουμε αν αυτό που διαβάζουμε το έγραψε κάποιος ή κάτι.

Το απρόβλεπτο ως τελευταία ελπίδα

Η τεχνητή νοημοσύνη μπορεί να προβλέπει. Να συμπληρώνει. Να εξομοιώνει. Αλλά δεν μπορεί να εκπλήσσει. Δεν μπορεί να θυμηθεί αυθόρμητα κάτι που είχε ξεχάσει. Δεν μπορεί να σταθεί σε μια λέξη που την πλήγωσε, να σωπάσει, και να ξαναγράψει από την αρχή.

Εκεί βρίσκεται ο ρόλος μας. Να δίνουμε στις λέξεις μας έναν παλμό που δεν μπορεί να αναπαραχθεί.

Ίσως τελικά η μεγαλύτερη ευθύνη μας απέναντι στην τεχνητή νοημοσύνη δεν είναι να την ελέγξουμε, αλλά να μην σταματήσουμε να γράφουμε.