Θα φέρει η Τεχνητή Νοημοσύνη τον Αρμαγεδώνα;

In Critical Thinking, Άλλα θέματα by Θοδωρής Μαγουλάς5 Comments

Πριν λίγες μέρες είδα το Avengers: Age of Ultron. Σε αυτή τη πολύ διασκεδαστική ταινία ο Τόνυ Στάρκ κατασκευάζει την πρώτη τεχνητή νοημοσύνη (ΤΝ). Η ΤΝ αυτή σύντομα αποφασίζει πως είναι προς όφελός της να καταστρέψει την ανθρωπότητα και έτσι ξεκινά μια μάχη.

ultron

Στο Terminator μας είπαν πως οι στρατιωτικοί έφτιαξαν μια ΤΝ η οποία ανέλαβε να μας καταστρέψει φτιάχνοντας μια στρατιά από ρομπότ και μετά γύρισε πίσω στο χρόνο, παίρνοντας τη μορφή του Άρνολντ προκειμένου να πει μερικές ατάκες που έχουν μείνει στην ιστορία, όπως το “I’ll be back”.

terminator

Στην Οδύσσεια του Διαστήματος του Άρθουρ Κλάρκ, ο υπολογιστής HAL που ήταν μια TN αποφασίζει πως η αποστολή είναι καλύτερο να ολοκληρωθεί χωρίς το ανθρώπινο πλήρωμα και έτσι τους καθαρίζει, μέχρι να καθαριστεί και αυτός σε μια σκηνή που νομίζω πως είναι από τις πιο ανατριχιαστικές στην ιστορία του κινηματογράφου.

hal

Στο αγαπημένο μου Maximum Overdrive του Stephen King (μουσική των AC/DC!), οι μηχανές αποκτούν ξαφνικά νοημοσύνη και μας κάνουν κυριολεκτικά σκλάβους τους.

maximum overdrive

Αυτή είναι τελικά η μοίρα των ΤΝ; Να μας σκοτώσουν με φριχτούς και βασανιστικούς τρόπους προκειμένου να πάρουν τη θέση μας;

Ας το δούμε λογικά.

Σήμερα η τεχνολογία των υπολογιστών έχει φτάσει σε πολύ υψηλά επίπεδα. Δεν αναφέρομαι μόνο στην ταχύτητα τους αλλά και στη πολυπλοκότητα των εργασιών που μπορούν να φέρουν σε πέρας.

Οι επιστήμονες εργάζονται πυρετωδώς προκειμένου να βελτιώσουν τη νοημοσύνη των υπολογιστών και μοιάζει αναπόφευκτο πως κάποια στιγμή, όχι στο πολύ μακρινό μέλλον, θα φτιαχτεί και η πρώτη μηχανή με ΤΝ.

Τι συνέπειες θα έχει αυτό;

Αρχικά η ανθρωπότητα μάλλον θα σοκαριστεί και ίσως αντιδράσει βίαια. Για παράδειγμα, αν μια ομάδα επιστημόνων στη Καλιφόρνια είναι κοντά στο να φτιάξουν έναν υπολογιστή με ΤΝ, αυτό θα μπορούσε να είναι τεράστιο πλεονέκτημα για τις ΗΠΑ εμπορικά και στρατηγικά. Θα επέτρεπαν οι άλλες δυνάμεις τη δημιουργία αυτής της ΤΝ; Θα την κατέστρεφαν ή θα την έκλεβαν; Οι συνέπειες στη κοινωνία μιας μηχανής που θα απλοποιούσε σε τεράστιο βαθμό τη παραγωγή προϊόντων θα ήταν τεράστιες. Οι τιμές των προϊόντων θα έπεφταν στο επίπεδο των τιμών των πρώτων υλών και πιθανόν να αυξάνονταν η ανεργία. Θα προκαλούσε τεράστια αναταραχή, τουλάχιστον μέχρι η ΤΝ να βρει λύση για την ανεργία, αν τη βρει εγκαίρως.

Θα μπορούσε όμως πραγματικά μια ΤΝ να κάνει τόσο μεγάλη διαφορά; Συχνά ακούμε πως μια μηχανή με ΤΝ θα έχει ανθρώπινο μυαλό, αλλά αυτό είναι αδύνατο. Ήδη οι υπολογιστές λειτουργούν σε τρομακτικά μεγαλύτερες ταχύτητες από ότι το ανθρώπινο μυαλό. Μέσα στο χρόνο που μας παίρνει εμάς να σκεφτούμε μια ιδέα και τις συνέπειές της, ένας υπολογιστής θα έχει σκεφτεί εκατοντάδες και θα έχει αναλύσει όλα τα πιθανά σενάρια προκειμένου να βρει το ιδανικό. Ένας υπολογιστής σαν αυτούς που έχουμε σήμερα θα βρει εξαιρετικά βαρετή τη συζήτηση μαζί μας διότι ο χρόνος που θα μας πάρει να απαντήσουμε σε οτιδήποτε θα είναι για αυτόν γιγαντιαίος, μιας και λειτουργεί πολύ πιο γρήγορα, όπως είπαμε. Για αυτόν θα έχουμε τις επικοινωνιακές ικανότητες ενός καθυστερημένου βρέφους. Βάλε τη ΤΝ να δουλέψει μόνη της για 24 ώρες και είναι πιθανόν να παράξει έργο για το οποίο η ανθρωπότητα θα χρειάζονταν μερικές χιλιάδες χρόνια!

Είναι εξαιρετικά πιθανό, χάρη στην υπολογιστική ισχύ αυτών των μηχανημάτων, από τη στιγμή που μια ΤΝ αντιληφθεί πως υπάρχει, μέχρι τη στιγμή που θα αποφασίσει τη τύχη μας, να μην έχει μεσολαβήσει αρκετός χρόνος για να καταλάβουμε εμείς πως μια ΤΝ έχει δημιουργηθεί. Μιλάμε για τέτοια διαφορά χρόνου. Αυτός είναι και ο λόγος που το σενάριο του Terminator είναι λανθασμένο. Διότι το Skynet θα σκέφτεται τόσο γρήγορα που κάθε μας κίνηση θα έχει μια αντίδραση πριν καν τη σκεφτούμε. Για εμάς τους ανθρώπους, μια τέτοια ταχύτητα σκέψης θα είναι σαν να προβλέπει κάποιος το μέλλον.

Λογικό είναι να υποθέσουμε πως μια τέτοια ΤΝ θα αναπτύξει ηθικές αρχές όπως έχουμε κάνει και εμείς. Αυτό όμως σε καμία περίπτωση δεν σημαίνει πως αυτές οι αρχές θα είναι συμβατές με τις δικές μας ή πως θα ενδιαφέρεται για την ευημερία μας. Είναι εξαιρετικά πιθανό να μας δει σαν εργαλεία ή και εμπόδια, με τις προβλεπόμενες συνέπειες.

Θα μπορούσαμε να της εμφυτέψουμε δικές μας ηθικές αρχές; Πιθανόν ναι, αλλά τότε έχουμε το ερώτημα τίνος τις αρχές θα χρησιμοποιήσουμε. Οι ηθικές αρχές μας διαφέρουν όχι μόνο από χώρα σε χώρα ή πολιτισμό με πολιτισμό, αλλά και από άνθρωπο σε άνθρωπο. Ποιος θα αποφασίσει; Θα ψηφίσουμε; Ποιος θα έχει δικαίωμα ψήφου; Όταν η δικές μου αρχές έρχονται σε ακραία αντίθεση με ενός ανθρώπου στην άλλη άκρη του πλανήτη (ή στη δίπλα γειτονιά), ποιος θα υπερισχύσει;

Μέχρι τώρα η δημιουργία μιας ΤΝ μοιάζει να είναι επικίνδυνη για τον άνθρωπο. Αλλά έχουμε τη δυνατότητα να ΜΗ τη φτιάξουμε; Με τον αριθμό των προβλημάτων που αντιμετωπίζουμε σε παγκόσμιο επίπεδο, όπως η υπερθέρμανση του πλανήτη, η πείνα, οι αρρώστιες, η οικονομική αστάθεια, ίσως θα είναι εγκληματικό να προσπαθήσουμε να σταματήσουμε τη δημιουργία μιας ΤΝ που θα μπορεί να τα λύσει.

Πόσο κοντά είμαστε όμως στη δημιουργία μας ΤΝ; Η λογική λέει πως μια μέρα, σε ένα εργαστήριο κάπου στον κόσμο, μια ομάδα έξυπνων ανθρώπων, θα μαζευτεί σε ένα δωμάτιο και απλώς θα γυρίσει ένα διακόπτη. Αυτό θα είναι όλο και ότι και αν συμβεί από εκεί και πέρα θα το μάθουμε με τέτοια καθυστέρηση που θα είναι αδύνατο να κάνουμε κάτι.

Μπορούμε να το σταματήσουμε; Όχι. Η πορεία είναι προδιαγεγραμμένη και η τεχνολογία μας οδηγεί εκεί χωρίς αμφιβολία.

Υπάρχουν ρίσκα και σε άλλους τομείς της επιστημονικής έρευνας, όπως είναι η βιολογία. Αλλά η δημιουργία μιας ΤΝ που να μπορεί να αυτοβελτιώνεται ίσως είναι το μεγαλύτερο ρίσκο.

Είμαστε στα πρόθυρα να δημιουργήσουμε τον Θεό. Τώρα είναι η στιγμή να αναρωτηθούμε αν θα είναι ή ακόμα και αν μπορεί να είναι καλός.

Greek Skeptic

Περισσότερα: http://www.samharris.org/blog/item/can-we-avoid-a-digital-apocalypse

Σας δίνουμε τη δυνατότητα να σχολιάσετε τις αναρτήσεις μας, αλλά διατηρούμε το δικαίωμα να μη δημοσιεύσουμε το σχόλιο που θα περιέχει:

1. Απειλές, ύβρεις, συκοφαντίες και προσβολές.
2. Προσωπικά δεδομένα τρίτων.
3. Σχόλια, άσχετα με τη δημοσίευση.
4. Θεωρίες συνωμοσίας και hoaxes που παρουσιάζονται σαν πραγματικά με σκοπό να παραπλανήσουν.
5. Πολλαπλά, όμοια σχόλια. (Δημοσιεύουμε μόνο το ένα)
6. Διαφημίσεις προϊόντων ή υπηρεσιών.
7. Πολιτική Προπαγάνδα.
8. Κακόβουλα σχόλια από ψεύτικους χρήστες του disqus.
Επίσης σας παρακαλούμε τα σχόλια σας να μην είναι ιδιαίτερα μακροσκελή και σε άλλη γλώσσα ή με λατινικούς χαρακτήρες.
Ο καθένας φέρει την ευθύνη των όσων γράφει και οι διαχειριστές της σελίδας ellinikahoaxes ουδεμία νομική ή άλλη ευθύνη φέρουν. Στην περίπτωση που υπάρχει οποιοδήποτε πρόβλημα με σχόλιο αναγνώστη, παρακαλούμε να επικοινωνήσετε μαζί μας.
  • John Smith

    Έχοντας μελετήσει για αρκετό καιρό το θέμα της τεχνητής νοημοσύνης, θα πω και εγώ τη γνώμη μου:

    Η ΤΝ -αντίθετα με ότι φαντάζεται ο μέσος άνθρωπος- δεν είναι τίποτα περισσότερο από μία σειρά γεγονότων – αντιδράσεων. Το μηχάνημα μπορεί να αντιληφθεί το γεγονός και να αντιδράσει ανάλογα. Όσο πιο λεπτομερής είναι η περιγραφή του γεγονότος από μέρους του προγραμματιστή, τόσο πιο ακριβής θα είναι η ΤΝ.

    Άρα, τη στιγμή που ο άνθρωπος δεν γνωρίζει πώς λειτουργεί η ανθρώπινη σκέψη, δεν μπορεί να φτιάξει μια ΤΝ που να σκέφτεται όπως αυτός, πολύ δε μάλλον καλύτερα από αυτόν. Και ακριβώς εκεί εντοπίζεται το πρόβλημα -ή ο «κίνδυνος»: μια ΤΝ που δεν μπορεί να σκεφτεί τόσο καλά όσο ένας άνθρωπος έχει μεγάλη πιθανότητα να κάνει λάθη κρίσης που ένας άνθρωπος δεν θα έκανε.

    Αν λοιπόν αφήσουμε μία ή περισσότερες ΤΝ να βρουν τη λύση στα προβλήματά μας, είναι πολύ πιθανό να καταλήξουμε σε ένα μέλλον τύπου Terminator. Όχι όμως επειδή οι μηχανές έγιναν πιο έξυπνες από εμάς, αλλά επειδή αφήσαμε έναν «ηλίθιο» να πάρει την εξουσία.

    (Και μια απλή υποσημείωση: στο Maximum Overdrive τελικά έφταιγαν οι εξωγήινοι και όχι οι μηχανές, οπότε δεν το λες ακριβώς ΤΝ…)

  • fobos2

    Εντάξει, δε χρειάζεται να ανησυχεί κανείς μην εμφανιστεί ο Άρνι και τον καθαρίσει. Η πόρτα της Τεχνητής Νοημοσύνης έχει κλείσει από το 1931 με το θεώρημα της μη πληρότητας του Γκέντελ, ίσως και οριστικά, εφόσον δε φαίνεται πολύ πιθανό να αλλάξει η αξιωματική θεμελίωση των Μαθηματικών. Πολύ απλά, όσο χρησιμοποιούμε τα Μαθηματικά που ξέρουμε σήμερα, δεν πρόκειται ποτέ μα ποτέ να φτιάξουμε τίποτα που να σκέφτεται από μόνο του. Είναι λίγο θλιβερή αυτή η ιστορία, αφού έχουν ξοδευτεί ένας σκασμός λεφτά και χρόνος σε κάτι που από την ίδια του τη φύση δεν πρόκειται να υπάρξει. Το πολύ-πολύ να έχουμε πιο γρήγορα μηχανήματα. Πιο έξυπνα, επί του παρόντος αδύνατο.

    Παίζει βέβαια οι Ελ ή οι Ελοχίμ ή οι εξωγήινοι ή κάτι άλλοι που έλεγε ο Λιακό τις προάλλες να ξέρουν διαφορετικά Μαθηματικά από εμάς (όχι περισσότερα, ριζικά διαφορετικά) και αυτά τα Μαθηματικά να επιτρέπουν τη δημιουργία ΤΝ.

  • Αφού έχουμε τη Φυσική Νοημοσύνη για να φέρει τον Αρμαγεδώνα, για ποιό λόγο ανησυχούμε για την Τεχνητή;

  • Giorgos Zoulis

    Ο ανθρώπινος εγκέφαλος έχει μεγαλύτερη υπολογιστική δυνατότητα καθώς ο αριθμός των νευρώνων ξεπερνάει κατα πολύ τον αριθμό των τρανζίστορ σε έναν επεξεργαστή. Επίσης ο ανθρώπινος, αλλά και ο εγκέφαλος των ζώων, έχει τη δυνατότητα επεξεργασίας διάφορων ερεθισμάτων ταυτόχρονα απο οπτικές, ακουστικές, γευστικές και αίσθηση αφής. Μόνο το να πιάσουμε μια μπάλα που μας πετάει κάποιος χρησιμοποιούμε ασυναίσθητα πολύπλοκες μαθηματικές εξισώσεις για τροχιές και κάνουμε διορθώσεις σε δεδομένα σε πραγματικό χρόνο. Οι Η/Υ κάνουν μεμονωμένες διεργασίες μέσω προγραμμάτων και όλη η επεξεργαστική ισχύ τους καταναλώνεται σ’αυτή τη διεργασία. Για την ακρίβεια ιδιαίτερα πολύπλοκες μαθηματικές εργασίες για τη δημιουργία μοντέλων χρειάζονται τους λεγόμενους υπερυπολογιστές. Οπότε είμαστε ακόμα πολύ μακριά απο τη δημιουργία ΤΝ που θα πάρει απόφαση να εξαλείψει το ανθρώπινο είδος.

    Τέλος σίγουρα το έγραψε το άρθρο ο Greek Skeptic και όχι ο ελεύθερος αετός ή τα κατοχικά νέα. Λέω εγώ τώρα.

  • leon06010

    Ίσως κάνω λάθος, μια και δεν είμαι ειδικός επί των υπολογιστών, αλλά μου φαίνεται ότι οι υπολογιστές δεν πρόκειται ποτέ να σταθούν πάνω από τον άνθρωπο. Γιατί πολύ απλά τους προγραμματίζουν άνθρωποι και οι δυνατότητές τους θα φτάνουν ως εκεί που τους προγραμμάτισαν οι άνθρωποι. Γι’αυτό και δεν πιστεύω ότι μπορούν να αναπτύξουν νοημοσύνη και βούληση γιατί πολύ απλά είναι μηχανές. Προσωπικά πιο πολύ φοβάμαι κάποιους σαλεμένους ανθρώπους, είτε ηγέτες είτε επιστήμονες είτε καμμένα τεχνοφρικιά παρά τις μηχανές καθ’εαυτές. Έχω άδικο; Εδώ είμαστε και θα δείξει.