Η συζήτηση γύρω από την Τεχνητή Νοημοσύνη έχει περάσει σε μια νέα φάση.
Μέχρι πριν από λίγα χρόνια, οι περισσότεροι φόβοι επικεντρώνονταν στην απώλεια θέσεων εργασίας, στην παραπληροφόρηση ή στις κυβερνοεπιθέσεις. Σήμερα, όμως, κορυφαίοι πρωταγωνιστές του ίδιου του κλάδου μιλούν πλέον ανοιχτά για κινδύνους που θα μπορούσαν να απειλήσουν ακόμη και την ίδια την ανθρωπότητα.
Η πιο ηχηρή προειδοποίηση ήρθε από τον Dario Amodei, επικεφαλής της Anthropic, μιας από τις ισχυρότερες εταιρείες τεχνητής νοημοσύνης στον κόσμο και βασικού ανταγωνιστή της OpenAI και της Google DeepMind.
Σε εκτενή δημόσια παρέμβασή του, ο Αμοντέι περιέγραψε ένα μέλλον στο οποίο η Τεχνητή Νοημοσύνη μπορεί να εξελιχθεί τόσο γρήγορα ώστε να ξεπεράσει κάθε προηγούμενο τεχνολογικό άλμα της ανθρώπινης ιστορίας. Όπως σημειώνει, μέσα σε μόλις τέσσερα χρόνια τα μοντέλα AI πέρασαν από το να μπορούν να γράφουν μερικές γραμμές κώδικα στο να παράγουν ήδη μεγάλο μέρος του λογισμικού που χρησιμοποιούν οι ίδιες οι κορυφαίες εταιρείες τεχνολογίας.
Κατά την εκτίμησή του, αν οι σημερινοί ρυθμοί εξέλιξης συνεχιστούν για ακόμη ένα ή δύο χρόνια, η ανθρωπότητα μπορεί να βρεθεί μπροστά σε μια μορφή νοημοσύνης που θα ισοδυναμεί με «ένα κράτος γεμάτο ιδιοφυΐες μέσα σε ένα κέντρο δεδομένων». Πρόκειται για μια περιγραφή που αποτυπώνει το μέγεθος της υπολογιστικής και πνευματικής ισχύος που θα μπορούσαν να αποκτήσουν τα επόμενα συστήματα τεχνητής νοημοσύνης.
Η Anthropic θεωρεί ότι οι μεγαλύτεροι κίνδυνοι ίσως δεν προέρχονται τελικά από τις κυβερνοεπιθέσεις, αλλά από τη βιολογία. Η εταιρεία προειδοποιεί ότι προηγμένα μοντέλα AI θα μπορούσαν στο μέλλον να προσφέρουν γνώσεις και δυνατότητες σχεδιασμού βιολογικών όπλων σε βαθμό που να απειλείται η παγκόσμια ασφάλεια.
Η ανησυχία αυτή είναι ιδιαίτερα σημαντική επειδή προέρχεται από μια εταιρεία που αναπτύσσει η ίδια τα πιο προηγμένα μοντέλα AI. Ο Αμοντέι υποστηρίζει ότι οι κυβερνήσεις πρέπει να αντιμετωπίσουν τα συστήματα τεχνητής νοημοσύνης όπως αντιμετωπίζουν τα αεροσκάφη, τα φάρμακα ή ακόμη και τα πυρηνικά υλικά: ως τεχνολογίες εξαιρετικά χρήσιμες αλλά ταυτόχρονα δυνητικά καταστροφικές εάν χρησιμοποιηθούν λανθασμένα.
Για τον λόγο αυτό προτείνει τη δημιουργία ενός ανεξάρτητου ρυθμιστικού οργανισμού με εξουσίες αντίστοιχες με εκείνες της Ομοσπονδιακής Υπηρεσίας Αεροπορίας των ΗΠΑ. Σύμφωνα με την πρόταση, κάθε προηγμένο μοντέλο τεχνητής νοημοσύνης θα πρέπει να υποβάλλεται σε υποχρεωτικούς ελέγχους και εξωτερικές αξιολογήσεις πριν κυκλοφορήσει δημόσια.
Οι έλεγχοι αυτοί θα αφορούν τέσσερις βασικούς τομείς: κυβερνοασφάλεια, βιολογικούς κινδύνους, πιθανή απώλεια ανθρώπινου ελέγχου πάνω στα συστήματα και αυτοματοποιημένη έρευνα που θα μπορούσε να επιταχύνει περαιτέρω τους προηγούμενους κινδύνους. Σε περίπτωση που ένα μοντέλο κριθεί επικίνδυνο, οι κυβερνήσεις θα πρέπει να έχουν τη δυνατότητα να εμποδίζουν την ανάπτυξή του.
Ο Αμοντέι προχωρά ακόμη πιο μακριά. Εκτιμά ότι ίσως φτάσουμε σύντομα σε ένα σημείο όπου η Τεχνητή Νοημοσύνη δεν θα μοιάζει πλέον με αεροπλάνα ή φάρμακα, αλλά με πυρηνική τεχνολογία. Δηλαδή με ένα εργαλείο τόσο ισχυρό ώστε να αποτελεί υπαρξιακή απειλή για την ανθρωπότητα εάν ξεφύγει από τον έλεγχο.
Εξίσου δραματικές είναι οι εκτιμήσεις του για την αγορά εργασίας. Η Anthropic προβλέπει ότι πολύ σύντομα μικρές ομάδες ανθρώπων θα μπορούν να επιτυγχάνουν παραγωγικότητα που σήμερα απαιτεί χιλιάδες ή ακόμη και εκατοντάδες χιλιάδες εργαζομένους.
Το σενάριο που περιγράφεται είναι εντυπωσιακό: μια ομάδα μόλις 100 εργαζομένων, υποστηριζόμενη από προηγμένα συστήματα AI, θα μπορούσε να παράγει έργο αντίστοιχο με αυτό που σήμερα απαιτεί 100.000 ανθρώπους. Η παραγωγικότητα θα εκτοξευθεί, αλλά το ίδιο μπορεί να συμβεί και με τις κοινωνικές ανισότητες.
Ο Αμοντέι δεν αμφισβητεί ότι η Τεχνητή Νοημοσύνη θα δημιουργήσει τεράστιο οικονομικό πλούτο. Αντίθετα, θεωρεί σχεδόν βέβαιο ότι η παγκόσμια οικονομία θα γνωρίσει πρωτοφανείς ρυθμούς ανάπτυξης. Το πρόβλημα είναι η κατανομή αυτού του πλούτου. Όπως προειδοποιεί, ο κόσμος κινδυνεύει να βρεθεί σε μια κατάσταση «υπερ-ανάπτυξης και υπερ-ανισότητας», όπου η παραγωγή θα αυξάνεται ραγδαία αλλά τα οφέλη θα συγκεντρώνονται σε ελάχιστους.
Οι γεωπολιτικές προεκτάσεις είναι εξίσου σημαντικές. Ο επικεφαλής της Anthropic παρομοιάζει το χάσμα μεταξύ μιας χώρας που διαθέτει πανίσχυρη AI και μιας χώρας που δεν διαθέτει, με τη διαφορά ανάμεσα σε έναν στρατό πεζοναυτών του Β’ Παγκοσμίου Πολέμου και έναν στρατό μεσαιωνικών ξιφομάχων.
Σύμφωνα με την ανάλυσή του, ένα προηγμένο σύστημα τεχνητής νοημοσύνης θα μπορούσε να λειτουργεί σαν ένα εικονικό κράτος εκατοντάδων εκατομμυρίων ιδιοφυών επιστημόνων. Εκατομμύρια «ψηφιακοί εγκέφαλοι» θα μπορούσαν να ασχολούνται ταυτόχρονα με στρατηγικό σχεδιασμό, ανάπτυξη όπλων, κατασκευή drones, πληροφορίες, κυβερνοάμυνα και επιστημονική έρευνα.
Μέσα σε αυτό το περιβάλλον, η Anthropic ζητά ακόμη και προσωρινή επιβράδυνση της ανάπτυξης της AI. Η πρόταση, ωστόσο, συνοδεύεται από ένα τεράστιο πρακτικό πρόβλημα: ποιος θα δεχθεί να σταματήσει πρώτος;
Η εταιρεία αναγνωρίζει ότι η κατάσταση θυμίζει το περίφημο «δίλημμα του φυλακισμένου». Εάν μία εταιρεία ή μία χώρα επιβραδύνει την ανάπτυξη της AI, οι ανταγωνιστές της μπορούν να αποκτήσουν τεράστιο πλεονέκτημα. Αυτό καθιστά εξαιρετικά δύσκολη οποιαδήποτε διεθνή συμφωνία μεταξύ εταιρειών όπως η OpenAI, η Anthropic, η Google, η xAI ή οι κινεζικοί κολοσσοί DeepSeek, Alibaba, Tencent και ByteDance.
Και ενώ όλα αυτά αφορούν κυρίως το λογισμικό, η Anthropic θεωρεί ότι η επόμενη μεγάλη επανάσταση θα είναι η ρομποτική. Η λεγόμενη «ενσωματωμένη νοημοσύνη» αναμένεται να ακολουθήσει την ίδια εκθετική πορεία ανάπτυξης. Τα ρομπότ θα μπορούν να φροντίζουν ηλικιωμένους, να εργάζονται σε εργοστάσια, να εκτελούν επιστημονικές έρευνες, να συμμετέχουν σε στρατιωτικές επιχειρήσεις και να αντικαθιστούν σταδιακά ανθρώπους σε όλο και περισσότερους τομείς.
Για πολλούς αναλυτές, οι τοποθετήσεις του Αμοντέι δεν αποτελούν απλώς μια ακόμη τεχνολογική προειδοποίηση. Αντικατοπτρίζουν τη βαθιά ανησυχία που επικρατεί πλέον ακόμη και μέσα στον ίδιο τον κλάδο της τεχνητής νοημοσύνης. Οι εταιρείες που δημιουργούν τα ισχυρότερα μοντέλα του κόσμου αρχίζουν να φοβούνται την ταχύτητα της ίδιας τους της δημιουργίας.
Και αυτό ίσως είναι το πιο ανησυχητικό μήνυμα από όλα.
