Θα φέρει η Τεχνητή Νοημοσύνη τον Αρμαγεδώνα;

Πριν λίγες μέρες είδα το Avengers: Age of Ultron. Σε αυτή τη πολύ διασκεδαστική ταινία ο Τόνυ Στάρκ κατασκευάζει την πρώτη τεχνητή νοημοσύνη (ΤΝ). Η ΤΝ αυτή σύντομα αποφασίζει πως είναι προς όφελός της να καταστρέψει την ανθρωπότητα και έτσι ξεκινά μια μάχη.

Στο Terminator μας είπαν πως οι στρατιωτικοί έφτιαξαν μια ΤΝ η οποία ανέλαβε να μας καταστρέψει φτιάχνοντας μια στρατιά από ρομπότ και μετά γύρισε πίσω στο χρόνο, παίρνοντας τη μορφή του Άρνολντ προκειμένου να πει μερικές ατάκες που έχουν μείνει στην ιστορία, όπως το “I’ll be back”.

Στην Οδύσσεια του Διαστήματος του Άρθουρ Κλάρκ, ο υπολογιστής HAL που ήταν μια TN αποφασίζει πως η αποστολή είναι καλύτερο να ολοκληρωθεί χωρίς το ανθρώπινο πλήρωμα και έτσι τους καθαρίζει, μέχρι να καθαριστεί και αυτός σε μια σκηνή που νομίζω πως είναι από τις πιο ανατριχιαστικές στην ιστορία του κινηματογράφου.

Στο αγαπημένο μου Maximum Overdrive του Stephen King (μουσική των AC/DC!), οι μηχανές αποκτούν ξαφνικά νοημοσύνη και μας κάνουν κυριολεκτικά σκλάβους τους.

Αυτή είναι τελικά η μοίρα των ΤΝ; Να μας σκοτώσουν με φριχτούς και βασανιστικούς τρόπους προκειμένου να πάρουν τη θέση μας;

Ας το δούμε λογικά.

Σήμερα η τεχνολογία των υπολογιστών έχει φτάσει σε πολύ υψηλά επίπεδα. Δεν αναφέρομαι μόνο στην ταχύτητα τους αλλά και στη πολυπλοκότητα των εργασιών που μπορούν να φέρουν σε πέρας.

Οι επιστήμονες εργάζονται πυρετωδώς προκειμένου να βελτιώσουν τη νοημοσύνη των υπολογιστών και μοιάζει αναπόφευκτο πως κάποια στιγμή, όχι στο πολύ μακρινό μέλλον, θα φτιαχτεί και η πρώτη μηχανή με ΤΝ.

Τι συνέπειες θα έχει αυτό;

Αρχικά η ανθρωπότητα μάλλον θα σοκαριστεί και ίσως αντιδράσει βίαια. Για παράδειγμα, αν μια ομάδα επιστημόνων στη Καλιφόρνια είναι κοντά στο να φτιάξουν έναν υπολογιστή με ΤΝ, αυτό θα μπορούσε να είναι τεράστιο πλεονέκτημα για τις ΗΠΑ εμπορικά και στρατηγικά. Θα επέτρεπαν οι άλλες δυνάμεις τη δημιουργία αυτής της ΤΝ; Θα την κατέστρεφαν ή θα την έκλεβαν; Οι συνέπειες στη κοινωνία μιας μηχανής που θα απλοποιούσε σε τεράστιο βαθμό τη παραγωγή προϊόντων θα ήταν τεράστιες. Οι τιμές των προϊόντων θα έπεφταν στο επίπεδο των τιμών των πρώτων υλών και πιθανόν να αυξάνονταν η ανεργία. Θα προκαλούσε τεράστια αναταραχή, τουλάχιστον μέχρι η ΤΝ να βρει λύση για την ανεργία, αν τη βρει εγκαίρως.

Θα μπορούσε όμως πραγματικά μια ΤΝ να κάνει τόσο μεγάλη διαφορά; Συχνά ακούμε πως μια μηχανή με ΤΝ θα έχει ανθρώπινο μυαλό, αλλά αυτό είναι αδύνατο. Ήδη οι υπολογιστές λειτουργούν σε τρομακτικά μεγαλύτερες ταχύτητες από ότι το ανθρώπινο μυαλό. Μέσα στο χρόνο που μας παίρνει εμάς να σκεφτούμε μια ιδέα και τις συνέπειές της, ένας υπολογιστής θα έχει σκεφτεί εκατοντάδες και θα έχει αναλύσει όλα τα πιθανά σενάρια προκειμένου να βρει το ιδανικό. Ένας υπολογιστής σαν αυτούς που έχουμε σήμερα θα βρει εξαιρετικά βαρετή τη συζήτηση μαζί μας διότι ο χρόνος που θα μας πάρει να απαντήσουμε σε οτιδήποτε θα είναι για αυτόν γιγαντιαίος, μιας και λειτουργεί πολύ πιο γρήγορα, όπως είπαμε. Για αυτόν θα έχουμε τις επικοινωνιακές ικανότητες ενός καθυστερημένου βρέφους. Βάλε τη ΤΝ να δουλέψει μόνη της για 24 ώρες και είναι πιθανόν να παράξει έργο για το οποίο η ανθρωπότητα θα χρειάζονταν μερικές χιλιάδες χρόνια!

Είναι εξαιρετικά πιθανό, χάρη στην υπολογιστική ισχύ αυτών των μηχανημάτων, από τη στιγμή που μια ΤΝ αντιληφθεί πως υπάρχει, μέχρι τη στιγμή που θα αποφασίσει τη τύχη μας, να μην έχει μεσολαβήσει αρκετός χρόνος για να καταλάβουμε εμείς πως μια ΤΝ έχει δημιουργηθεί. Μιλάμε για τέτοια διαφορά χρόνου. Αυτός είναι και ο λόγος που το σενάριο του Terminator είναι λανθασμένο. Διότι το Skynet θα σκέφτεται τόσο γρήγορα που κάθε μας κίνηση θα έχει μια αντίδραση πριν καν τη σκεφτούμε. Για εμάς τους ανθρώπους, μια τέτοια ταχύτητα σκέψης θα είναι σαν να προβλέπει κάποιος το μέλλον.

Λογικό είναι να υποθέσουμε πως μια τέτοια ΤΝ θα αναπτύξει ηθικές αρχές όπως έχουμε κάνει και εμείς. Αυτό όμως σε καμία περίπτωση δεν σημαίνει πως αυτές οι αρχές θα είναι συμβατές με τις δικές μας ή πως θα ενδιαφέρεται για την ευημερία μας. Είναι εξαιρετικά πιθανό να μας δει σαν εργαλεία ή και εμπόδια, με τις προβλεπόμενες συνέπειες.

Θα μπορούσαμε να της εμφυτέψουμε δικές μας ηθικές αρχές; Πιθανόν ναι, αλλά τότε έχουμε το ερώτημα τίνος τις αρχές θα χρησιμοποιήσουμε. Οι ηθικές αρχές μας διαφέρουν όχι μόνο από χώρα σε χώρα ή πολιτισμό με πολιτισμό, αλλά και από άνθρωπο σε άνθρωπο. Ποιος θα αποφασίσει; Θα ψηφίσουμε; Ποιος θα έχει δικαίωμα ψήφου; Όταν η δικές μου αρχές έρχονται σε ακραία αντίθεση με ενός ανθρώπου στην άλλη άκρη του πλανήτη (ή στη δίπλα γειτονιά), ποιος θα υπερισχύσει;

Μέχρι τώρα η δημιουργία μιας ΤΝ μοιάζει να είναι επικίνδυνη για τον άνθρωπο. Αλλά έχουμε τη δυνατότητα να ΜΗ τη φτιάξουμε; Με τον αριθμό των προβλημάτων που αντιμετωπίζουμε σε παγκόσμιο επίπεδο, όπως η υπερθέρμανση του πλανήτη, η πείνα, οι αρρώστιες, η οικονομική αστάθεια, ίσως θα είναι εγκληματικό να προσπαθήσουμε να σταματήσουμε τη δημιουργία μιας ΤΝ που θα μπορεί να τα λύσει.

Πόσο κοντά είμαστε όμως στη δημιουργία μας ΤΝ; Η λογική λέει πως μια μέρα, σε ένα εργαστήριο κάπου στον κόσμο, μια ομάδα έξυπνων ανθρώπων, θα μαζευτεί σε ένα δωμάτιο και απλώς θα γυρίσει ένα διακόπτη. Αυτό θα είναι όλο και ότι και αν συμβεί από εκεί και πέρα θα το μάθουμε με τέτοια καθυστέρηση που θα είναι αδύνατο να κάνουμε κάτι.

Μπορούμε να το σταματήσουμε; Όχι. Η πορεία είναι προδιαγεγραμμένη και η τεχνολογία μας οδηγεί εκεί χωρίς αμφιβολία.

Υπάρχουν ρίσκα και σε άλλους τομείς της επιστημονικής έρευνας, όπως είναι η βιολογία. Αλλά η δημιουργία μιας ΤΝ που να μπορεί να αυτοβελτιώνεται ίσως είναι το μεγαλύτερο ρίσκο.

Είμαστε στα πρόθυρα να δημιουργήσουμε τον Θεό. Τώρα είναι η στιγμή να αναρωτηθούμε αν θα είναι ή ακόμα και αν μπορεί να είναι καλός.

Greek Skeptic

Περισσότερα: http://www.samharris.org/blog/item/can-we-avoid-a-digital-apocalypse