Η Silicon Valley αντιμετωπίζει τη μοναδικότητα

Για δεκαετίες, η Silicon Valley περίμενε τη στιγμή που θα ερχόταν μια νέα τεχνολογία και θα άλλαζε τα πάντα. Θα ένωνε άνθρωπο και μηχανή, πιθανώς προς το καλύτερο αλλά πιθανώς προς το χειρότερο, και θα χώριζε την ιστορία σε πριν και μετά.

Το όνομα για αυτό το ορόσημο: το Singularity.

Θα μπορούσε να συμβεί με διάφορους τρόπους. Μια πιθανότητα είναι ότι οι άνθρωποι θα πρόσθεταν την επεξεργαστική ισχύ ενός υπολογιστή στη δική τους έμφυτη νοημοσύνη, μετατρέποντάς τους σε υπερτροφοδοτημένες εκδοχές του εαυτού τους. Ή ίσως οι υπολογιστές θα γινόταν τόσο πολύπλοκοι που θα μπορούσαν πραγματικά να σκεφτούν, δημιουργώντας έναν παγκόσμιο εγκέφαλο.

Σε κάθε περίπτωση, οι αλλαγές που θα προκύψουν θα ήταν δραστικές, εκθετικές και μη αναστρέψιμες. Μια υπεράνθρωπη μηχανή με επίγνωση του εαυτού της θα μπορούσε να σχεδιάσει τις δικές της βελτιώσεις πιο γρήγορα από οποιαδήποτε ομάδα επιστημόνων, πυροδοτώντας μια έκρηξη στη νοημοσύνη. Αιώνες προόδου θα μπορούσαν να συμβούν σε χρόνια ή και μήνες. Το Singularity είναι μια σφεντόνα στο μέλλον.

Η τεχνητή νοημοσύνη ταράζει την τεχνολογία, τις επιχειρήσεις και την πολιτική όσο τίποτα στην πρόσφατη μνήμη. Ακούστε τους εξωφρενικούς ισχυρισμούς και τους άγριους ισχυρισμούς που εκδίδονται από τη Silicon Valley, και φαίνεται ότι ο εδώ και καιρό υποσχεμένος εικονικός παράδεισος είναι επιτέλους κοντά.

Ο Sundar Pichai, ο συνήθως χαμηλών τόνων διευθύνων σύμβουλος της Google, αποκαλεί την τεχνητή νοημοσύνη «πιο βαθιά από τη φωτιά ή τον ηλεκτρισμό ή οτιδήποτε έχουμε κάνει στο παρελθόν». Ο Reid Hoffman, ένας δισεκατομμυριούχος επενδυτής, λέει: «Η δύναμη να κάνεις θετικές αλλαγές στον κόσμο πρόκειται να λάβει τη μεγαλύτερη ώθηση που είχε ποτέ». Και ο συνιδρυτής της Microsoft Bill Gates διακηρύσσει ότι η τεχνητή νοημοσύνη «θα αλλάξει τον τρόπο που οι άνθρωποι εργάζονται, μαθαίνουν, ταξιδεύουν, λαμβάνουν υγειονομική περίθαλψη και επικοινωνούν μεταξύ τους».

Η τεχνητή νοημοσύνη είναι το απόλυτο νέο προϊόν της Silicon Valley: η υπέρβαση της ζήτησης.

Αλλά υπάρχει μια σκοτεινή ανατροπή. Λες και οι εταιρείες τεχνολογίας εισήγαγαν αυτοκίνητα αυτόνομης οδήγησης με την προειδοποίηση ότι θα μπορούσαν να ανατιναχτούν πριν φτάσετε στο Walmart.

«Η έλευση της τεχνητής γενικής νοημοσύνης ονομάζεται Singularity επειδή είναι τόσο δύσκολο να προβλεφθεί τι θα συμβεί μετά από αυτό», δήλωσε στο CNBC τον περασμένο μήνα ο Elon Musk, ο οποίος διευθύνει το Twitter και την Tesla. Είπε ότι πίστευε ότι θα προέκυπτε «μια εποχή αφθονίας», αλλά υπήρχε «κάποια πιθανότητα» να «καταστρέψει την ανθρωπότητα».

Ο μεγαλύτερος cheerleader για την τεχνητή νοημοσύνη στην τεχνολογική κοινότητα είναι ο Sam Altman, διευθύνων σύμβουλος του OpenAI, της start-up που προκάλεσε την τρέχουσα φρενίτιδα με το ChatGPT chatbot. Λέει ότι η τεχνητή νοημοσύνη θα είναι «η μεγαλύτερη δύναμη για οικονομική ενδυνάμωση και πολλοί άνθρωποι να πλουτίζουν που έχουμε δει ποτέ».

Αλλά λέει επίσης ότι ο κ. Μασκ, επικριτής της τεχνητής νοημοσύνης, ο οποίος ίδρυσε επίσης μια εταιρεία για την ανάπτυξη διεπαφών εγκεφάλου-υπολογιστή, μπορεί να έχει δίκιο.

Το Apocalypse είναι γνώριμο, ακόμη και αγαπημένο έδαφος για τη Silicon Valley. Πριν από μερικά χρόνια, φαινόταν ότι κάθε στέλεχος τεχνολογίας είχε ένα πλήρως εφοδιασμένο καταφύγιο αποκάλυψης κάπου απομακρυσμένο αλλά προσβάσιμο. Το 2016, ο κ. Άλτμαν είπε ότι συγκέντρωνε «όπλα, χρυσό, ιωδιούχο κάλιο, αντιβιοτικά, μπαταρίες, νερό, μάσκες αερίων από την Ισραηλινή Αμυντική Δύναμη και ένα μεγάλο κομμάτι γης στο Big Sur στο οποίο μπορώ να πετάξω». Η πανδημία του κορωνοϊού έκανε τους προπονητές της τεχνολογίας να αισθάνονται δικαιωμένοι, για λίγο.

Τώρα, προετοιμάζονται για το Singularity.

«Τους αρέσει να πιστεύουν ότι είναι λογικοί άνθρωποι που κάνουν σοφά σχόλια, αλλά ακούγονται περισσότερο σαν μοναχοί το έτος 1000 που μιλούν για την Αρπαγή», είπε ο Baldur Bjarnason, συγγραφέας του «The Intelligence Illusion», μια κριτική εξέταση της AI «Είναι ένα λίγο τρομακτικό», είπε.

Οι ρίζες της υπέρβασης

Οι πνευματικές ρίζες του Singularity ανάγονται στον John von Neumann, έναν πρωτοπόρο επιστήμονα υπολογιστών που τη δεκαετία του 1950 μίλησε για το πώς «η συνεχώς επιταχυνόμενη πρόοδος της τεχνολογίας» θα απέφερε «κάποια ουσιαστική μοναδικότητα στην ιστορία της φυλής».

Ο Ίρβινγκ Τζον Γκουντ, ένας Βρετανός μαθηματικός που βοήθησε στην αποκωδικοποίηση της γερμανικής συσκευής Enigma στο πάρκο Bletchley κατά τη διάρκεια του Β’ Παγκοσμίου Πολέμου, ήταν επίσης ένας ισχυρός υποστηρικτής. «Η επιβίωση του ανθρώπου εξαρτάται από την πρώιμη κατασκευή μιας εξαιρετικά ευφυούς μηχανής», έγραψε το 1964. Ο σκηνοθέτης Στάνλεϊ Κιούμπρικ συμβουλεύτηκε τον κ. Good στο HAL, τον καλοήθη μετατρεπόμενο σε κακόβουλο υπολογιστή στο «2001: A Space Odyssey» — ένα πρώιμο παράδειγμα των πορωδών συνόρων μεταξύ της επιστήμης των υπολογιστών και της επιστημονικής φαντασίας.

Ο Hans Moravec, επίκουρος καθηγητής στο Ινστιτούτο Ρομποτικής στο Πανεπιστήμιο Carnegie Mellon, πίστευε ότι η τεχνητή νοημοσύνη θα ήταν ένα όφελος όχι μόνο για τους ζωντανούς: Οι νεκροί, επίσης, θα ανακτηθούν στη Μοναδικότητα. «Θα είχαμε την ευκαιρία να αναδημιουργήσουμε το παρελθόν και να αλληλεπιδράσουμε μαζί του με πραγματικό και άμεσο τρόπο», έγραψε στο «Mind Children: The Future of Robot and Human Intelligence».

Τα τελευταία χρόνια, ο επιχειρηματίας και εφευρέτης Ray Kurzweil είναι ο μεγαλύτερος πρωταθλητής του Singularity. Ο κ. Kurzweil έγραψε το «The Age of Intelligent Machines» το 1990 και το «The Singularity Is Near» το 2005 και τώρα γράφει το «The Singularity Is Nearer».

Μέχρι το τέλος της δεκαετίας, αναμένει ότι οι υπολογιστές θα περάσουν το τεστ Turing και δεν θα διακρίνονται από τους ανθρώπους. Δεκαπέντε χρόνια μετά από αυτό, υπολογίζει, θα έρθει η αληθινή υπέρβαση: η στιγμή που «ο υπολογισμός θα είναι μέρος του εαυτού μας και θα αυξήσουμε τη νοημοσύνη μας εκατομμυριοπλάσια».

Μέχρι τότε, ο κ. Kurzweil θα είναι 97. Με τη βοήθεια βιταμινών και συμπληρωμάτων, σχεδιάζει να ζήσει για να το δει.

Για ορισμένους επικριτές της Μοναδικότητας, είναι μια πνευματικά αμφίβολη προσπάθεια να αναπαραχθεί το σύστημα πεποιθήσεων της οργανωμένης θρησκείας στο βασίλειο του λογισμικού.

«Όλοι θέλουν αιώνια ζωή χωρίς την ταλαιπωρία να πιστεύουν στον Θεό», είπε ο Rodney Brooks, πρώην διευθυντής του Εργαστηρίου Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης.

Η καινοτομία που τροφοδοτεί τη σημερινή συζήτηση για το Singularity είναι το μεγάλο γλωσσικό μοντέλο, ο τύπος συστήματος AI που τροφοδοτεί τα chatbots. Ξεκινήστε μια συνομιλία με έναν από αυτούς τους LLM και μπορεί να αποκαλύψει τις απαντήσεις γρήγορα, συνεκτικά και συχνά με ικανοποιητικό βαθμό φωτισμού.

«Όταν κάνετε μια ερώτηση, αυτά τα μοντέλα ερμηνεύουν τι σημαίνει, καθορίζουν τι θα πρέπει να σημαίνει η απάντησή τους και στη συνέχεια το μεταφράζουν σε λέξεις – αν αυτό δεν είναι ορισμός της γενικής νοημοσύνης, τι είναι;» είπε ο Jerry Kaplan, ένας μακροχρόνιος επιχειρηματίας AI και συγγραφέας του “Artificial Intelligence: What Everyone Needs to Know”.

Ο κ. Kaplan είπε ότι ήταν δύσπιστος για τέτοια θαύματα όπως τα αυτοοδηγούμενα αυτοκίνητα και τα κρυπτονομίσματα. Προσέγγισε την τελευταία έκρηξη της τεχνητής νοημοσύνης με τις ίδιες αμφιβολίες, αλλά είπε ότι είχε κερδίσει.

«Αν αυτό δεν είναι «η μοναδικότητα», είναι σίγουρα μια μοναδικότητα: ένα μετασχηματιστικό τεχνολογικό βήμα που πρόκειται να επιταχύνει σε γενικές γραμμές μια ολόκληρη δέσμη τέχνης, επιστήμης και ανθρώπινης γνώσης — και να δημιουργήσει κάποια προβλήματα», είπε.

Οι επικριτές αντιτείνουν ότι ακόμη και τα εντυπωσιακά αποτελέσματα των LLM απέχουν πολύ από την τεράστια, παγκόσμια νοημοσύνη που υπόσχεται εδώ και καιρό η Singularity. Μέρος του προβλήματος στον ακριβή διαχωρισμό της διαφημιστικής εκστρατείας από την πραγματικότητα είναι ότι οι κινητήρες που οδηγούν αυτήν την τεχνολογία γίνονται κρυφοί. Το OpenAI, το οποίο ξεκίνησε ως μη κερδοσκοπικός οργανισμός χρησιμοποιώντας ανοιχτό κώδικα, είναι τώρα μια κερδοσκοπική επιχείρηση που οι επικριτές λένε ότι είναι ουσιαστικά ένα μαύρο κουτί. Η Google και η Microsoft προσφέρουν επίσης περιορισμένη ορατότητα.

Μεγάλο μέρος της έρευνας για την τεχνητή νοημοσύνη γίνεται από τις εταιρείες με πολλά να κερδίσουν από τα αποτελέσματα. Ερευνητές της Microsoft, η οποία επένδυσε 13 δισεκατομμύρια δολάρια στο OpenAI, δημοσίευσαν μια εργασία τον Απρίλιο στο συμπέρασμα ότι μια προκαταρκτική έκδοση του πιο πρόσφατου μοντέλου OpenAI «εμφανίζει πολλά χαρακτηριστικά νοημοσύνης», όπως «αφαίρεση, κατανόηση, όραμα, κωδικοποίηση» και «κατανόηση των ανθρώπινων κινήτρων και συναισθήματα.”

Ο Rylan Schaeffer, διδακτορικός φοιτητής στην επιστήμη των υπολογιστών στο Στάνφορντ, είπε ότι ορισμένοι ερευνητές τεχνητής νοημοσύνης είχαν δημιουργήσει μια ανακριβή εικόνα για το πώς αυτά τα μεγάλα γλωσσικά μοντέλα παρουσιάζουν «αναδυόμενες ικανότητες» – ανεξήγητες δυνατότητες που δεν ήταν εμφανείς σε μικρότερες εκδόσεις.

Μαζί με δύο συναδέλφους του Stanford, τον Brando Miranda και τον Sanmi Koyejo, ο κ. Schaeffer εξέτασε το ερώτημα σε μια ερευνητική εργασία που δημοσιεύθηκε τον περασμένο μήνα και κατέληξε στο συμπέρασμα ότι οι αναδυόμενες ιδιότητες ήταν «ένας αντικατοπτρισμός» που προκλήθηκαν από σφάλματα στη μέτρηση. Στην πραγματικότητα, οι ερευνητές βλέπουν αυτό που θέλουν να δουν.

Αιώνια ζωή, αιώνια κέρδη

Στην Ουάσιγκτον, το Λονδίνο και τις Βρυξέλλες, οι νομοθέτες ταράζουν τις ευκαιρίες και τα προβλήματα της τεχνητής νοημοσύνης και αρχίζουν να μιλούν για ρύθμιση. Ο κ. Altman είναι σε ένα road show, επιδιώκοντας να εκτρέψει την πρώιμη κριτική και να προωθήσει το OpenAI ως τον βοσκό της Singularity.

Αυτό περιλαμβάνει ένα άνοιγμα στη ρύθμιση, αλλά ακριβώς αυτό που θα έμοιαζε είναι ασαφές. Η Silicon Valley έχει γενικά την άποψη ότι η κυβέρνηση είναι πολύ αργή και ανόητη για να επιβλέπει τις ταχύτατες τεχνολογικές εξελίξεις.

«Δεν υπάρχει κανένας στην κυβέρνηση που μπορεί να το κάνει σωστά», είπε ο Έρικ Σμιντ, πρώην διευθύνων σύμβουλος της Google, σε συνέντευξή του στο «Meet the Press» τον περασμένο μήνα, υποστηρίζοντας την υπόθεση της αυτορρύθμισης της τεχνητής νοημοσύνης. «Αλλά η βιομηχανία μπορεί χονδρικά να τα καταφέρει σωστά».

Το AI, όπως και το Singularity, ήδη περιγράφεται ως μη αναστρέψιμο. «Η διακοπή του θα απαιτούσε κάτι σαν ένα παγκόσμιο καθεστώς επιτήρησης, και ακόμη και αυτό δεν είναι εγγυημένο ότι θα λειτουργήσει», έγραψαν ο κ. Άλτμαν και ορισμένοι από τους συναδέλφους του τον περασμένο μήνα. Αν η Silicon Valley δεν τα καταφέρει, πρόσθεσαν, θα τα καταφέρουν άλλοι.

Λιγότερο συζητημένα είναι τα τεράστια κέρδη που θα προκύψουν από τη μεταφόρτωση του κόσμου. Παρά όλες τις συζητήσεις ότι η τεχνητή νοημοσύνη είναι μια μηχανή απεριόριστης δημιουργίας πλούτου, οι άνθρωποι που πλουτίζουν είναι λίγο πολύ αυτοί που είναι ήδη πλούσιοι.

Η Microsoft έχει δει την κεφαλαιοποίησή της να εκτινάσσεται κατά μισό τρισεκατομμύριο δολάρια φέτος. Η Nvidia, κατασκευαστής τσιπ που τρέχει συστήματα τεχνητής νοημοσύνης, έγινε πρόσφατα μια από τις πιο πολύτιμες δημόσιες εταιρείες των ΗΠΑ όταν είπε ότι η ζήτηση για αυτά τα τσιπ είχε εκτοξευθεί στα ύψη.

«Η τεχνητή νοημοσύνη είναι η τεχνολογία που πάντα ήθελε ο κόσμος», έγραψε στο Twitter ο κ. Άλτμαν.

Είναι σίγουρα η τεχνολογία που πάντα ήθελε ο κόσμος της τεχνολογίας, φτάνοντας στην καλύτερη δυνατή στιγμή. Πέρυσι, η Silicon Valley ταλαιπωρήθηκε από απολύσεις και αυξανόμενα επιτόκια. Το Crypto, η προηγούμενη έκρηξη, ήταν μπλεγμένη στην απάτη και την απογοήτευση.

Ακολουθήστε τα χρήματα, είπε ο Τσαρλς Στρος, ένας συν-συγγραφέας του μυθιστορήματος «The Rapture of the Nerds», μια κωμική άποψη για το Singularity, καθώς και ο συγγραφέας του «Accelerando», μια πιο σοβαρή απόπειρα να περιγράψει τι θα μπορούσε να ζήσει σύντομα. να είσαι σαν.

«Η πραγματική υπόσχεση εδώ είναι ότι οι εταιρείες θα μπορούν να αντικαταστήσουν πολλές από τις ελαττωματικές, ακριβές, αργές, ανθρώπινες υπομονάδες επεξεργασίας πληροφοριών τους με κομμάτια λογισμικού, επιταχύνοντας έτσι τα πράγματα και μειώνοντας τα γενικά τους έξοδα», είπε.

Το Singularity έχει από καιρό φανταστεί ως ένα κοσμικό γεγονός, κυριολεκτικά συγκλονιστικό. Και μπορεί ακόμα να είναι.

Αλλά θα μπορούσε να εκδηλωθεί πρώτα και κύρια – χάρη, εν μέρει, στην εμμονή της σημερινής Silicon Valley – ως εργαλείο για να μειώσει τον αριθμό των κεφαλαίων των επιχειρήσεων της Αμερικής. Όταν κάνετε σπριντ για να προσθέσετε τρισεκατομμύρια στην κεφαλαιοποίηση της αγοράς σας, η Heaven μπορεί να περιμένει.