Roko’s Basilisk: "Το πιο τρομακτικό πείραμα σκέψης όλων των εποχών"
Το Roko’s Basilisk είναι ένα παιχνίδι του μυαλού που παρουσιάστηκε το 2010, όταν ο χρήστης Roko έγραψε για αυτό στο Less Wrong, ένα διαδικτυακό φόρουμ αφιερωμένο στη φιλοσοφία και την ψυχολογία, με ένα φουτουριστικό όραμα. Σε γενικές γραμμές, το πείραμα θέτει ένα υποθετικό σενάριο στο οποίο ο άνθρωπος δημιουργεί μια ισχυρή μηχανή τεχνητής νοημοσύνης, προκειμένου να εργαστεί στην αναζήτηση της ευημερίας για όλη την ανθρωπότητα. Μέχρι εδώ, όλα καλά.
Το πρόβλημα προκύπτει όταν το μηχάνημα, το οποίο έχει προγραμματιστεί να κάνει το καλύτερο δυνατό, συνειδητοποιεί ότι ανεξάρτητα από το πόσο σκληρά προσπαθεί, οποιαδήποτε από τις καλές του πράξεις θα μπορούσαν να γίνουν ακόμη καλύτερες.
Αυτή η λογική της απεριόριστης αναζήτησης του καλού, κάνει το μηχάνημα, το οποίο – όπως έχουμε τονίσει – ξέρει μόνο πώς να κάνει καλό και ολοένα μαθαίνει πώς να το κάνει όλο και καλύτερο, μπαίνει σε μια διαδικασία που το οδηγεί σε μια ακραία απόφαση – τουλάχιστον από την άποψη της ανθρώπινης ηθικής.
Το μηχάνημα συνειδητοποιεί ότι για να κάνει μεγαλύτερο καλό, θα έπρεπε το ίδιο να υπήρχε πολύ πριν, ώστε να βοηθήσει ανθρώπους που υπέφεραν πριν καν αυτό υπάρξει. Έτσι, στην “απελπισία” του να κάνει καλό, το μηχάνημα αρχίζει να συμπεριφέρεται σαν βασιλικός που σκοτώνει όλους τους ανθρώπους που δεν δούλεψαν για να το έχουν δημιουργήσει στο παρελθόν, διότι η κατάσταση αυτή το εμποδίζει να συνεχίσει να αυξάνει το επίπεδο της καλοσύνης του.
Το πιο τρομακτικό μέρος είναι ότι όποιος ανακαλύπτει τον βασιλικό και δεν αρχίζει να εργάζεται στη δημιουργία του γίνεται αμέσως ένα από τα πιθανά θύματά του. Για το λόγο αυτό, ο συγγραφέας David Auerbach χαρακτήρισε τον Βασιλικό του Roko ως “το πιο τρομακτικό πείραμα όλων των εποχών”. Ο δημοσιογράφος Dylan Love το εξηγεί πολύ καλά σε ένα άρθρο για το Business Insider:
«Καλύτερα να βοηθήσεις τα ρομπότ να κάνουν τον κόσμο ένα καλύτερο μέρος, γιατί αν τα ρομπότ ανακαλύψουν ότι δεν βοήθησες να κάνεις τον κόσμο ένα καλύτερο μέρος, θα σε σκοτώσουν επειδή τους εμπόδισες να κάνουν τον κόσμο ένα καλύτερο μέρος. Αποτρέποντάς τους να κάνουν τον κόσμο καλύτερο μέρος, εμποδίζετε τον κόσμο να γίνει καλύτερο μέρος! “
Ο Elon Musk, ένας από τους κορυφαίους οραματιστές στην προώθηση της τεχνητής νοημοσύνης, δήλωσε ότι αυτή η τεχνολογία της τεχνητής νοημοσύνης θα μπορούσε να είναι ακόμη πιο επικίνδυνη και από τα πυρηνικά όπλα. Επιπλέον, η Musk είναι συνιδρυτής του OpenAI, μιας εταιρείας αφιερωμένης στην έρευνα “ανακάλυψη και διάδοση του δρόμου για την εξασφάλιση τεχνητής νοημοσύνης”. Εξ άλλου, ο Elon Musk προειδοποιεί: Θα Υποχρεωθούμε να Ζήσουμε Κάτω από Έναν Αθάνατο Δικτάτορα.
Είτε το πιστεύετε είτε όχι, πολλοί χρήστες αναφέρουν ότι μετά την ανάγνωση της πλοκής του Roko’s Basilisk, έχουν βιώσει βαθιά αγωνία και άγχος. Ας ελπίσουμε ότι αυτό δεν ισχύει για εσάς, εξάλλου είναι ένα πείραμα σκέψης – όχι μια πραγματικότητα. Όμως… αν μπορούσε να γίνει μια αληθινή πραγματικότητα; Χμ… Μπέρδεμα…
Για υπότιτλους: Ρυθμίσεις, Υπότιτλοι, Προτεινόμενη γλώσσα, Υπότιτλοι, Αυτόματη μετάφραση, Ελληνικά
Roko’s Basilisk: The Most Terrifying Thought Experiment
