Πώς θα μπορούσε πραγματικά η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα -Τα 5 σενάρια

Από την ανεξέλεγκτη και υπερανεπτυγμένη τεχνητή νοημοσύνη και τα βιολογικά μέχρι έναν πυρηνικό πόλεμο και την ίδια την ανθρώπινη κοινωνία, αυτά είναι τα πιθανά σενάρια που θα μπορούσαν να οδηγήσουν σε μια καταστροφή και το πιο πιθανό ίσως δεν είναι αυτό που φανταζόμαστε.

Νέα διάσταση στη συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης έδωσαν οι δηλώσεις ερευνητών που εργάζονται στον χώρο, προειδοποιώντας ακόμη και για το ενδεχόμενο η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία, αναφέρει η Daily Mail σε δημοσίευμά της, με αφορμή την σχετική συζήτηση που έχει φουντώσει για τα καλά το τελευταίο διάστημα.

Νωρίτερα αυτόν τον μήνα, ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον παραιτήθηκε από την Anthropic μόλις τέσσερις μήνες μετά την ένταξή του στην εταιρεία. Σε ανάρτησή του στην πλατφόρμα X ανέφερε χαρακτηριστικά: «Οι άνθρωποι που κατασκευάζουν τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Ο Έβαν Χούμπινγκερ, ανώτερο στέλεχος της Anthropic, συμφώνησε με την εκτίμηση, δηλώνοντας ότι προσωπικά θεωρεί πως η πιθανότητα να συμβεί κάτι τέτοιο μέσα στην επόμενη δεκαετία ξεπερνά το 10%.

Οι δηλώσεις αυτές προκάλεσαν έντονες αντιδράσεις και αναζωπύρωσαν τη συζήτηση για επιβράδυνση της έρευνας στην τεχνητή νοημοσύνη και για μεγαλύτερο «ανθρώπινο έλεγχο» της τεχνολογίας.

Πώς όμως θα μπορούσε στην πράξη η AI να οδηγήσει στην καταστροφή της ανθρωπότητας;

Δεν θα μπορούμε καν να γνωρίζουμε τι πρόκειται να κάνει

Ένα από τα επιχειρήματα όσων προειδοποιούν για την «καταστροφή από την AI» βασίζεται σε ένα παράδοξο: αν δημιουργηθεί μια πραγματικά υπερέξυπνη τεχνητή νοημοσύνη, ίσως να μην είμαστε σε θέση να προβλέψουμε τις ενέργειές της.

Για να προβλέψουμε τι μπορεί να κάνει μια οντότητα πολύ πιο έξυπνη από εμάς, θα έπρεπε ουσιαστικά να διαθέτουμε αντίστοιχο επίπεδο νοημοσύνης. Είναι, όπως αναφέρεται χαρακτηριστικά, σαν να ζητάμε από έναν σκύλο να φανταστεί έναν θερμοπυρηνικό πόλεμο.

Το θετικό είναι ότι η υπερευφυής AI ίσως απέχει ακόμη. Τα σημερινά μοντέλα είναι εξαιρετικά στην επίλυση συγκεκριμένων προβλημάτων, όμως αυτό δεν σημαίνει ότι είναι πιο έξυπνα από τον άνθρωπο σε όλους τους τομείς.

Παρόλα αυτά, η πρόοδος είναι γρήγορη. Πρόσφατα, AI κατάφερε να λύσει ένα από τα επτά δυσκολότερα γνωστά μαθηματικά προβλήματα, ενώ φέρεται να πλησιάζει και στην επίλυση άλλων.

Το σενάριο με τους… συνδετήρες

Ένα κλασικό υποθετικό σενάριο του φιλοσόφου του Πανεπιστημίου της Οξφόρδης Νικ Μπόστρουμ αφορά μια υπερέξυπνη AI που έχει προγραμματιστεί να μεγιστοποιεί την παραγωγή συνδετήρων, ένας στόχος που σύμφωνα με τον καθηγητή μπορεί να οδηγήσει την Τεχνητή Νοημοσύνη στα άκρα.

Η μηχανή θα μπορούσε να εκτελέσει τον στόχο της με απόλυτη αποτελεσματικότητα, μετατρέποντας τελικά κάθε διαθέσιμη ύλη -ανθρώπους, πλανήτες και άστρα -σε συνδετήρες. Το υποθετικό σενάριο προφανώς δεν αφορά συγκεκριμένα τους συνδετήρες αλλά οτιδήποτε τεθεί φαινομενικά ακίνδυνο ως καθήκον στην ΑΙ.

Το τρομακτικό στοιχείο δεν είναι ότι η AI «μισεί» τους ανθρώπους. Απλώς θα θεωρούσε ότι αποτελούνται από άτομα τα οποία θα μπορούσαν να αξιοποιηθούν καλύτερα για την παραγωγή συνδετήρων.

Ωστόσο, το σενάριο αυτό συγχέει τη νοημοσύνη με την πραγματική ισχύ. Ακόμη και μια υπερέξυπνη AI δεν θα διαθέτει αυτομάτως τη δυνατότητα να επιβάλει τους στόχους της.

Η μετατροπή ολόκληρου του πλανήτη σε εργοστάσια θα απαιτούσε άδειες, πολιτικές αποφάσεις και τεράστιους πόρους. Περιβαλλοντικές οργανώσεις, κοινωνικές ομάδες και δικαστήρια θα μπορούσαν να μπλοκάρουν την επέκταση.

Τα ίδια τα data centers μπορούν, κατά κάποιον τρόπο, να θεωρηθούν μια σύγχρονη εκδοχή του «σεναρίου των συνδετήρων», καθώς οι κοινωνίες ήδη αντιδρούν στην ολοένα μεγαλύτερη χρήση πόρων για την ανάπτυξη της AI.

Η δημιουργία βιολογικού όπλου

Ένα ακόμη σενάριο προβλέπει ότι μια υπερέξυπνη AI θα μπορούσε να σχεδιάσει και να δημιουργήσει ένα νέο, εξαιρετικά επικίνδυνο βιολογικό όπλο και να το απελευθερώσει στην ατμόσφαιρα.

Αυτό αποτελεί ένα από τα ενδεχόμενα που περιλαμβάνονται και στο «AI 2027», ένα σενάριο του μη κερδοσκοπικού AI Futures Project για την εξέλιξη της τεχνητής νοημοσύνης.

Οι ανησυχίες έγιναν πιο συγκεκριμένες μετά την ανακοίνωση ερευνητών του Πανεπιστημίου Stanford ότι χρησιμοποίησαν ένα γενετικό μοντέλο AI για να συνθέσουν 16 νέους ιούς.

Μάλιστα, σύμφωνα με το δημοσίευμα, οι ερευνητές έστειλαν τις γενετικές αλληλουχίες σε εργαστήριο που δέχεται παραγγελίες μέσω ταχυδρομείου και έλαβαν πίσω τους ιούς σε δοκιμαστικούς σωλήνες. Το συνολικό κόστος του πειράματος υπολογίστηκε σε μερικές εκατοντάδες χιλιάδες δολάρια.

Ωστόσο, είναι εξαιρετικά δύσκολο να εξαφανιστεί ολόκληρη η ανθρωπότητα από έναν νέο ιό. Ένας ιός πρέπει να είναι ιδιαίτερα μεταδοτικός για να εξαπλωθεί παγκοσμίως, ενώ οι εξαιρετικά θανατηφόροι ιοί τείνουν να μεταδίδονται δυσκολότερα.

Η COVID-19 σκότωσε λιγότερο από το 1% της ανθρωπότητας. Η πανδημία του Μαύρου Θανάτου, η φονικότερη στην καταγεγραμμένη ιστορία, σκότωσε περισσότερο από το ένα τρίτο του πληθυσμού της Ευρώπης τον 14ο αιώνα. Ακόμη και όμως, μια αντίστοιχη πανδημία σήμερα πιθανότατα θα ήταν λιγότερο θανατηφόρα χάρη στη σύγχρονη ιατρική και τις καλύτερες συνθήκες υγιεινής, αναφέρει το δημοσίευμα.

Ένας πυρηνικός πόλεμος που θα ξεκινήσει από την AI

Ένα άλλο ενδεχόμενο είναι η τεχνητή νοημοσύνη να αποκτήσει πρόσβαση στην αλυσίδα διοίκησης και ελέγχου των πυρηνικών όπλων και να οδηγήσει σε πυρηνική σύγκρουση.

Ο κίνδυνος ενός πυρηνικού πολέμου από λάθος υπολογισμό δεν είναι θεωρητικός. Τα τελευταία 50 χρόνια έχουν υπάρξει αρκετές περιπτώσεις κατά τις οποίες ο κόσμος βρέθηκε κοντά σε πυρηνικό πόλεμο εξαιτίας σφαλμάτων.

Παρά το γεγονός ότι τα συστήματα πυρηνικής διοίκησης και ελέγχου θεωρούνται απομονωμένα από το διαδίκτυο, η περίπτωση του Stuxnet το 2010 έδειξε ότι ακόμη και κρίσιμα συστήματα μπορούν να επηρεαστούν από κακόβουλο λογισμικό. Το Stuxnet, ένα κυβερνοόπλο που θεωρείται ότι εισήχθη μέσω USB, προκάλεσε σοβαρές ζημιές στις πυρηνικές φυγοκεντρητές του Ιράν.

Παράλληλα, μια AI θα μπορούσε να παρέχει στον στρατό ψευδείς πληροφορίες, οδηγώντας σε αποφάσεις που δεν θα μπορούσαν εύκολα να ανατραπούν.

Τα πυρηνικά οπλοστάσια έχουν μειωθεί, παραμένουν όμως αρκετά μεγάλα ώστε ένας πυρηνικός πόλεμος να μπορούσε, σύμφωνα με το σενάριο, να σκοτώσει έως και τον μισό παγκόσμιο πληθυσμό. Και οι περισσότεροι θάνατοι δεν θα προέρχονταν απαραίτητα από τις ίδιες τις εκρήξεις, αλλά από τον λιμό που θα ακολουθούσε έναν πυρηνικό χειμώνα.

Ίσως τελικά να καταστραφούμε μόνοι μας

Το τελευταίο και, σύμφωνα με την ανάλυση του άρθρου, πιθανότερο σενάριο δεν απαιτεί μια AI που αποφασίζει να σκοτώσει ανθρώπους.

Αρκεί η ίδια η κοινωνία να αρχίσει να διαλύεται υπό την επίδραση της τεχνολογίας.

Μια τεχνητή νοημοσύνη που προκαλεί μαζικές απώλειες θέσεων εργασίας, κατακλύζει τον πληροφοριακό χώρο με παραπληροφόρηση, εντείνει τον πολιτικό κατακερματισμό και υπονομεύει τις ανθρώπινες σχέσεις μέσω τεχνητών συντρόφων θα μπορούσε να προκαλέσει βαθιές κοινωνικές αναταράξεις.

Σε ένα τέτοιο σενάριο, η κοινωνία θα μπορούσε σταδιακά να πάψει να είναι σε θέση να στηρίζει την ανθρώπινη ζωή σε μεγάλη κλίμακα.

Το συμπέρασμα, επομένως, δεν είναι ότι η ανθρωπότητα βρίσκεται αναγκαστικά μπροστά σε μια αναπόφευκτη καταστροφή. Υπάρχουν, όμως, πραγματικοί λόγοι ανησυχίας γύρω από την ταχεία εξέλιξη της τεχνητής νοημοσύνης, από την κακόβουλη χρήση της έως τις απρόβλεπτες κοινωνικές και γεωπολιτικές συνέπειές της.

Και ίσως το μεγαλύτερο παράδοξο είναι ότι το μεγαλύτερο ρίσκο δεν είναι απαραίτητα μια υπερέξυπνη μηχανή που αποφασίζει να μας εξοντώσει, αλλά οι ίδιοι οι άνθρωποι και ο τρόπος με τον οποίο θα επιλέξουν να χρησιμοποιήσουν την τεχνολογία.