Μήπως τα πράγματα είναι πιο σοβαρά από όσα οι έντρομοι καχύποπτοι φοβούνται; Μήπως πλησιάζει η «Μέρα της Κρίσης» και φτάνει το «Τέλος του Παιχνιδιού» για την ανθρώπινη ζωή όπως προφητεύουν ζοφερά οι βαθιά σκεπτικιστές;
Δεν πρόκειται για δυστοπικά σενάρια επιστημονικής φαντασίας. Ο συναγερμός έχει ήδη σημάνει στον πραγματικό κόσμο. Η εξοντωτική κούρσα της Τεχνητής Νοημοσύνης για την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης παίζει στα ζάρια τη μοίρα της ανθρωπότητας. Το τρομακτικότερο είναι ότι την απειλεί με εξαφάνιση μέσα στην επόμενη δεκαετία.
Η περασμένη Τρίτη ήταν άλλη μια συνηθισμένη μέρα στο 10ώροφο κτίριο γραφείων της Anthropic στην οδό Χάουαρντ στη Νότια Αγορά του Σαν Φρανσίσκο. Καμία αμφιβολία δεν ράγιζε τη συμπαγή της βεβαιότητα ότι εκτελεί μια πρωτοποριακή αποστολή ως αφοσιωμένος μάρτυρας της προόδου.
Τίποτε δεν διατάρασσε την ακλόνητη πεποίθησή της ότι εργάζεται πιο δημιουργικά, υπεύθυνα και με μεγαλύτερη ασφάλεια ανάμεσα στους τεχνολογικούς γίγαντες των εταιρειών Τεχνητής Νοημοσύνης. Την ίδια μέρα ένας 27χρονος ερευνητής των εργαστηριών της, ονόματι Τζέικομπ Κόξτον, είχε ξαφνικά παραιτηθεί.
Η ανάρτηση
Διόλου παράξενο για την επαγγελματική κινητικότητα των στελεχών μιας νεοσύστατης εταιρείας μόλις πέντε ετών, αξίας περίπου 1 τρισ. δολαρίων, που απασχολεί σχεδόν 5.000 υπαλλήλους. Το απρόβλεπτο ήταν ότι ο υπάλληλος που παράτησε τη δουλειά του συνόδευσε την αποχώρησή του από την Anthropic με μια ανάρτηση στα social media.
Σε αυτή διαμήνυε προς την κοινωνία, ή, καλύτερα, την προειδοποιούσε πως οι άνθρωποι που κατασκευάζουν Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι αυτή θα μπορούσε «να μας σκοτώσει όλους έως το τέλος της δεκαετίας». Την οπτική και τον ισχυρισμό του συμμερίστηκε δημόσια ο Ιβαν Χούμπινγκερ, επικεφαλής της ίδιας εταιρείας, στον τομέα της ευθυγράμμισης των συστημάτων ΑΙ, του τμήματος δηλαδή που διασφαλίζει ότι η Τεχνητή Νοημοσύνη λειτουργεί σύμφωνα με τις ανθρώπινες αξίες, τις προθέσεις, τους στόχους και τα ηθικά κριτήρια.
Ταυτόχρονα σχεδόν ο καθηγητής Ρόμπερτ Τρέιγκερ, ειδικός στον αναδυόμενο τομέα της διακυβέρνησης της ΑΙ, περίγραψε την απειλή σαν το «Πρόγραμμα Μανχάταν» παραγωγής πυρηνικών όπλων στα μέσα του Β’ Παγκοσμίου Πολέμου, πριν αυτό πυροδοτήσει την πρώτη αυτοσυντηρούμενη αλυσιδωτή αντίδραση πυρηνικής σχάσης.
Ηρθε ελαφρά καθυστερημένος στα λόγια του επίσης ο καθηγητής και γκουρού της Τεχνητής Νοημοσύνης, Τζέφρι Χίντον, ο οποίος πριν από δύο χρόνια εξίσωνε τον κίνδυνο ανάπτυξης της υπερνοημοσύνης με τον πυρηνικό όλεθρο και τις ακατανίκητες θανατηφόρες πανδημίες.
Η γραπτή τους ανακοίνωση δεν σόκαρε μόνο τη Silicon Valley, συντάραξε όλο τον κόσμο. Λογικό. Μια και οι κοινωνίες έχουν αναθέσει στην Τεχνητή Νοημοσύνη μεγάλο μέρος της λειτουργίας τους. Δίκτυα ηλεκτρικής ενέργειας, συστήματα ύδρευσης, χρηματοπιστωτικές αγορές, διαστημικοί σταθμοί, προγραμματισμός νοσοκομείων, έλεγχος εναέριας κυκλοφορίας, αλυσίδες εφοδιασμού, εξαρτώνται λίγο πολύ από τη δυνατότητά της να συγκεντρώνει ταχύτατα τεράστιο όγκο δεδομένων και πληροφοριών.
Στις ικανότητές της στηρίζονται από τις υπηρεσίες ψηφιακής πλοήγησης μέχρι τα πρωτόκολλα διάγνωσης ασθενειών. Ολα, υποτίθεται, συντονίζονται υπό τις εγγυήσεις διατήρησης της ευθυγράμμισης αυτής της τεχνολογίας αιχμής με τους ανθρώπους. Ο φόβος που ελλοχεύει δεν εντοπίζεται τόσο σε πιθανές βλάβες εξοπλισμού, αστοχίες λογισμικού, κακόβουλους ιούς, σφάλματα αυτοματοποιημένων χειρισμών και αδιαφανών αποφάσεων.
Ούτε η αγωνία εστιάζεται στον εκ μέρους της επαναπρογραμματισμό συσκευών και εφαρμογών σε μαζική κλίμακα με αλυσιδωτές αντιδράσεις επειδή αναπάντεχα «έτσι της φάνηκε». Ο τρόμος που βαθμιαία αναδύεται επικεντρώνεται στη βάσιμη υπαρξιακή αγωνία ότι η ραγδαία εξελισσόμενη ΑΙ μπορεί να τροποποιήσει εκθετικά τον δικό της υποκείμενο κώδικα. Να ξεπεράσει σύντομα την ανθρώπινη νοημοσύνη και διαρκώς αυτοβελτιούμενη με διαρκώς ανανεούμενο βρόχο ανατροφοδότησης γνώσεων να αυτονομηθεί από αυτή.
Με δυο ανατριχιαστικά λόγια, να αποκτήσει δική της «συνείδηση» υπεροχής, να ελέγξει την ανθρωπότητα και, όποτε γουστάρει, να την καταστρέψει αλύπητα. Δεν θέλει και πολύ. Αρκεί με τις ασύμμετρες υπερδυνατότητές της να ελέγξει χημικά ή βιολογικά εργαστήρια και στρατιωτικό υλικό. Πόσο μάλλον να χακάρει τους απόρρητους κωδικούς πρόσβασης σε πυρηνικά όπλα. Σάμπως πρόκειται να δώσει μετά λογαριασμό σε κανέναν; Για ρομποτικά μηχανήματα μιλάμε. Τα οποία δεν ξεχωρίζουν την ουτοπία από τη δυστροπία σε έναν κόσμο που γλίτωσε οριακά τον πυρηνικό πόλεμο περισσότερες από δώδεκα φορές μέσα στον 20ό αιώνα.
Και ενώ οι μεγιστάνες των κορυφαίων τεχνολογικών εταιρειών βαθμιαία μετρίαζαν την αισιοδοξία τους για τα θαυμαστά επιτεύγματα του ΑΙ, ο υπόλοιπος κόσμος μάλλον δεν έπαιρνε χαμπάρι για την επικείμενη καταιγίδα. Αλλού ξημερωμένος, δεν ανησυχούσε καν για τον αποδεκατισμό θέσεων εργασίας από τις αυτοματοποιημένες δυνατότητες του ΑΙ.
Δεν φανταζόταν ότι σταδιακά μπορούσε να τον υποκαταστήσει κάνοντάς τον εργασιακά άχρηστο. Του έφτανε ότι η Τεχνητή Νοημοσύνη έγραφε ενδιαφέροντα βιβλία, στίχους, άρθρα και σενάρια. Συνέθετε υποφερτή μουσική, ζωγράφιζε συμπαθητικούς πίνακες, σχεδίαζε διασκεδαστικά βιντεοπαιχνίδια. Ασε που μεταμόρφωνε εικονικά τους πιο ματαιόδοξους χρήστες της σε γοητευτικούς υπερήρωες.
Ο υπερυπολογιστής
Από εδώ και πέρα τα σενάρια γίνονται ολοένα πιο εφιαλτικά. Προοιωνίζοντας δυσάρεστα μαντάτα για τις προοπτικές όλης της ανθρωπότητας. Θυμίζουν ίσως εκείνον τον φανταστικό υπερυπολογιστή HAL 9000, που παρουσιάζεται ενεργός με προηγμένες δυνατότητες αίσθησης στο διαστημόπλοιο «Discovery», στο έπος επιστημονικής φαντασίας «2001: Οδύσσεια του Διαστήματος» του Αρθουρ Κλαρκ. Τα βιβλίο έγινε ταινία το μακρινό 1968, σκηνοθετημένη από τον Στάνλεϊ Κιούμπρικ.
