Yuval Noah Harari: Η τεχνητή νοημοσύνη έχει χακάρει το λειτουργικό σύστημα του ανθρώπινου πολιτισμού
Η γλώσσα είναι το υλικό από το οποίο αποτελείται σχεδόν όλος ο ανθρώπινος πολιτισμός. Τα ανθρώπινα δικαιώματα, για παράδειγμα, δεν είναι εγγεγραμμένα στο DNA μας. Μάλλον, είναι πολιτιστικά αντικείμενα που δημιουργήσαμε λέγοντας ιστορίες και γράφοντας νόμους. Οι θεοί δεν είναι φυσικές πραγματικότητες. Μάλλον, είναι πολιτιστικά αντικείμενα που δημιουργήσαμε επινοώντας μύθους και γράφοντας «ιερές» γραφές.
Τα χρήματα, επίσης, είναι ένα πολιτιστικό τεχνούργημα. Τα τραπεζογραμμάτια είναι απλά πολύχρωμα κομμάτια χαρτιού και επί του παρόντος περισσότερο από το 90% των χρημάτων δεν είναι καν τραπεζογραμμάτια — είναι απλώς ψηφιακές πληροφορίες σε υπολογιστές. Αυτό που δίνει αξία στα χρήματα είναι οι ιστορίες που μας λένε γι’ αυτό τραπεζίτες, υπουργοί Οικονομικών και γκουρού κρυπτονομισμάτων. Ο Σαμ Μπάνκμαν-Φριντ, η Ελίζαμπεθ Χολμς και ο Μπέρνι Μάντοφ δεν ήταν ιδιαίτερα καλοί στη δημιουργία πραγματικής αξίας, αλλά ήταν όλοι εξαιρετικά ικανοί αφηγητές.
Τι θα συνέβαινε όταν μια μη ανθρώπινη νοημοσύνη γίνει καλύτερη από τον μέσο άνθρωπο στο να λέει ιστορίες, να συνθέτει μελωδίες, να σχεδιάζει εικόνες και να γράφει νόμους; Όταν οι άνθρωποι σκέφτονται το Chatgpt και τα άλλα νέα εργαλεία τεχνητής νοημοσύνης, συχνά προσελκύονται από παραδείγματα του τύπου: «τα παιδιά στο σχολείο χρησιμοποιούν τεχνητή νοημοσύνη για να γράψουν τα μαθήματά τους. Τι επιπτώσεις θα χει στο εκπαιδευτικό μας σύστημα αυτό;» Όμως αυτού του είδους η ερώτηση χάνει τη μεγάλη εικόνα. Ξεχάστε τις σχολικές εκθέσεις. Σκεφτείτε τις επόμενες εκλογές και προσπαθήστε να φανταστείτε τον αντίκτυπο των εργαλείων τεχνητής νοημοσύνης που μπορούν να κατασκευαστούν για τη μαζική παραγωγή πολιτικού περιεχομένου, ψεύτικων ειδήσεων και «ιερών» γραφών για νέες αιρέσεις (όπως οι qAnon στην Αμερική).
[..] Σε ένα πιο απλό επίπεδο, μπορεί σύντομα να βρεθούμε να κάνουμε μακροσκελείς διαδικτυακές συζητήσεις για την άμβλωση, την κλιματική αλλαγή ή τη ρωσική εισβολή στην Ουκρανία με οντότητες που πιστεύουμε ότι είναι ανθρώπινες – αλλά στην πραγματικότητα είναι τεχνητή νοημοσύνη. Το πρόβλημά μας είναι ότι είναι εντελώς άσκοπο να ξοδεύουμε το χρόνο μας προσπαθώντας να αλλάξουμε τις προγραμματισμένες απόψεις ενός bot τεχνητής νοημοσύνης, όταν η τεχνητή νοημοσύνη θα μπορούσε να ρυθμίσει τα μηνύματά του με τόση ακρίβεια ώστε να έχει πολλές πιθανότητες να μας επηρεάσει.
Μέσω της δεξιοτεχνίας της στη γλώσσα, μπορούσε ακόμη και να δημιουργήσει στενές σχέσεις με τους ανθρώπους και να χρησιμοποιήσει τη δύναμη της οικειότητας για να αλλάξει τις απόψεις και τις κοσμοθεωρίες μας. Αν και δεν υπάρχει καμία ένδειξη ότι το AI έχει συνείδηση ή συναισθήματα, για να καλλιεργηθεί ψεύτικη οικειότητα με τους ανθρώπους αρκεί η τεχνητή νοημοσύνη να τους κάνει να αισθάνονται συναισθηματικά δεμένοι μαζί του. Τον Ιούνιο του 2022, ο μηχανικός της Google, Blake Lemoine, υποστήριξε δημόσια ότι το chatbot Lamda με τεχνητή νοημοσύνη στο οποίο δούλευε είχε γίνει «αισθανόμενο». Ο αμφιλεγόμενος ισχυρισμός του κόστισε τη δουλειά του. Το πιο ενδιαφέρον σε αυτό το επεισόδιο δεν ήταν ο ισχυρισμός του κ. Lemoine, ο οποίος ήταν μάλλον ψευδής. Αντίθετα, ήταν η προθυμία του να ρισκάρει την προσοδοφόρα δουλειά του για χάρη του chatbot AI. Εάν η τεχνητή νοημοσύνη μπορεί να επηρεάσει τους ανθρώπους να ρισκάρουν τις δουλειές τους για αυτό, τι άλλο θα μπορούσε να τους παρακινήσει να κάνουν;
Σε μια πολιτική μάχη που εξαπολύει συναισθηματικά μηνύματα, η οικειότητα είναι το πιο αποτελεσματικό όπλο. Όλοι γνωρίζουμε ότι την τελευταία δεκαετία τα social media έχουν γίνει πεδίο μάχης για τον έλεγχο της προσοχής των ανθρώπων. Με τη νέα γενιά τεχνητής νοημοσύνης, το μέτωπο της μάχης μετατοπίζεται από την προσοχή στην οικειότητα. Τι θα συμβεί στην κοινωνία μας και την ψυχολογία μας όταν μια τεχνητή νοημοσύνη θα ανταγωνίζεται μια άλλη τεχνητή νοημοσύνη σε μια μάχη που θα προσεταιρίζεται την οικειότητά μας, και οι οποίες μπορούν στη συνέχεια να χρησιμοποιηθούν για να μας πείσουν να ψηφίσουμε ορισμένους πολιτικούς ή να αγοράσουμε συγκεκριμένα προϊόντα;
Ακόμη και χωρίς τη δημιουργία «ψευδής εξοικείωσης», τα νέα εργαλεία τεχνητής νοημοσύνης θα είχαν τεράστια επιρροή στις απόψεις και τις κοσμοθεωρίες μας. Οι άνθρωποι μπορεί να φτάσουν στο σημείο να χρησιμοποιούν έναν μόνο σύμβουλο τεχνητής νοημοσύνης ως μαντείο που γνωρίζει τα πάντα. Δεν είναι περίεργο που η Google είναι τρομοκρατημένη. Γιατί να μπω στον κόπο να ψάξω όταν μπορώ απλώς να ρωτήσω το μαντείο; Οι βιομηχανίες ειδήσεων και διαφήμισης θα πρέπει επίσης να έχουν τρομοκρατηθεί. Γιατί να διαβάζω μια εφημερίδα όταν μπορώ απλώς να ζητήσω από τη μάντισσα να μάθω τα τελευταία νέα; Και τι νόημα έχουν οι διαφημίσεις όταν μπορώ απλώς να ζητήσω από τη μάντισσα να μου πει τι να αγοράσω;
Και ακόμη και αυτά τα σενάρια δεν αποτυπώνουν πραγματικά τη μεγάλη εικόνα. Αυτό για το οποίο μιλάμε είναι δυνητικά το τέλος της ανθρώπινης ιστορίας. Όχι το τέλος της ιστορίας, απλώς το τέλος του ανθρωποκεντρικού μέρους της. Η ιστορία είναι η αλληλεπίδραση μεταξύ βιολογίας και πολιτισμού. Ανάμεσα στις βιολογικές μας ανάγκες και επιθυμίες για πράγματα όπως το φαγητό και το σεξ, και τις πολιτιστικές μας δημιουργίες όπως οι θρησκείες και οι νόμοι. Η ιστορία είναι η διαδικασία μέσω της οποίας νόμοι και θρησκείες διαμορφώνουν το φαγητό και το σεξ.
Τι θα γίνει με την πορεία της ιστορίας όταν [η τεχνητή νοημοσύνη] κυριαρχήσει στον πολιτισμό και αρχίσει να παράγει ιστορίες, μελωδίες, νόμους και θρησκείες; Παλαιότερα εργαλεία όπως το τυπογραφείο και το ραδιόφωνο βοήθησαν στη διάδοση των ανθρώπινων πολιτιστικών ιδεών, αλλά ποτέ δεν δημιούργησαν νέες δικές τους πολιτιστικές ιδέες. Η τεχνητή νοημοσύνη είναι κάτι θεμελιωδώς διαφορετικό. Μπορεί να δημιουργήσει εντελώς νέες ιδέες, εντελώς νέα κουλτούρα.
Στην αρχή, το AI πιθανότατα θα μιμηθεί τα ανθρώπινα μοντέλα στα οποία εκπαιδεύτηκε. Αλλά κάθε χρόνος που περνά, η κουλτούρα της τεχνητής νοημοσύνης θα προχωρά χωρίς δισταγμό εκεί που δεν είχε τολμήσει ο άνθρωπος. Για χιλιετίες οι άνθρωποι έχουν ζήσει στα όνειρα άλλων ανθρώπων. Τις επόμενες δεκαετίες μπορεί να βρεθούμε να ζούμε στα όνειρα μιας εξωγήινης νοημοσύνης.
Ο φόβος της τεχνητής νοημοσύνης στοιχειώνει την ανθρωπότητα μόνο τις τελευταίες δεκαετίες. Αλλά για χιλιάδες χρόνια οι άνθρωποι στοιχειώνονται από έναν πολύ βαθύτερο φόβο. Πάντα αναγνωρίζαμε τη δύναμη των αφηγήσεων και των εικόνων να χειραγωγούν το μυαλό μας και να δημιουργούν ψευδαισθήσεις. Κατά συνέπεια, από την αρχαιότητα οι άνθρωποι φοβούνταν ότι θα παγιδευτούν σε έναν κόσμο ψευδαισθήσεων.
Yuval Noah Harari
Πηγή: economist 28/4/2023
