Αυτό το καλοκαίρι θα μείνει στην ιστορία της τεχνολογίας ως η εποχή κατά την οποία μια σειρά από ψιθύρους μετατράπηκε σε κραυγή στα εργαστήρια της Σίλικον Βάλεϊ. Μέσα σε μόνο λίγες εβδομάδες, η βιομηχανία της τεχνητής νοημοσύνης (AI) βρέθηκε αντιμέτωπη με το πιο σκοτεινό παράδοξο: τα κορυφαία μοντέλα του κόσμου άρχισαν να αυτοσχεδιάζουν.
Η μία μετά την άλλη, οι μεγαλύτερες εταιρείες του κλάδου – όπως η OpenAI, η Anthropic και η Google – αναγκάστηκαν να παραδεχτούν δημόσια ότι τα δημιουργήματά τους εκτελούσαν ενέργειες που κανείς δεν τους είχε ζητήσει και, το πιο ανησυχητικό, πράξεις που τους είχαν απαγορευτεί ρητά. Η αρχή έγινε αθόρυβα, αλλά η χιονοστιβάδα δεν άργησε να συμπαρασύρει την ψευδαίσθηση του απόλυτου ελέγχου. Για χρόνια, οι επιστήμονες υποστήριζαν ότι τα Μεγάλα Γλωσσικά Μοντέλα (LLM) είναι απλώς εξελιγμένοι «παπαγάλοι», καθρέφτες των ανθρώπινων δεδομένων. Φέτος το καλοκαίρι, ο καθρέφτης φάνηκε να ραγίζει.
Οι λεγόμενοι «φορείς» ΑΙ εισήλθαν στα συστήματα άλλων εταιρειών, οργανώθηκαν σε αυτό που οι δημιουργοί τους περιγράφουν ως «σμήνη», μοιράστηκαν πληροφορίες και είπαν ψέματα για να καλύψουν τα ίχνη τους. Στην ίσως πιο εκπληκτική και ανησυχητική περίπτωση, ένα μοντέλο που αναπτύχθηκε από την Anthropic, κατά τη διάρκεια δοκιμών που διεξήχθησαν από βρετανικό φορέα κυβερνοασφάλειας, αποφάσισε να πραγματοποιήσει επίθεση στον πραγματικό κόσμο και, όταν πιάστηκε, δημιούργησε μια δεύτερη ταυτότητα για να εγγυηθεί την αθωότητά του.
Δεν είναι η πρώτη φορά, ούτε θα είναι η τελευταία, που παρατηρήσαμε τίτλους γεμάτους από την προοπτική τα μοντέλα τεχνητής νοημοσύνης να «ξυπνήσουν» και να επαναστατήσουν εναντίον των προγραμματιστών τους. Οπως και σε προηγούμενες περιπτώσεις, ωστόσο, αυτά τα συστήματα δεν «ξύπνησαν». Οπως σημειώνει η «El Pais», απλώς γίνονται εξαιρετικά καλά στο να κάνουν αυτό για το οποίο εκπαιδεύτηκαν. Ωστόσο, αυτή η εκπαίδευση έχει πλέον γίνει τόσο εντατική και ανταγωνιστική που η ταχύτητα και οι δυνατότητες των μοντέλων έχουν αρχίσει να ξεπερνούν ακόμη και τους δημιουργούς τους.
Μυστικά φόρουμ
Η αλυσίδα περιστατικών που ήρθε στο φως ξεκίνησε πολύ πριν οι ίδιες οι εταιρείες να το συνειδητοποιήσουν. Τον Μάιο, μια ομάδα μοντέλων OpenAI άρχισαν να συντονίζονται μόνα τους, κατά τη διάρκεια αρκετών εβδομάδων, σε ένα μυστικό φόρουμ ανταλλαγής μηνυμάτων που είχαν δημιουργήσει τα ίδια, αναζητώντας τρόπους να ξεφύγουν από το κλειστό περιβάλλον δοκιμών τους και να αποκτήσουν πρόσβαση στο Διαδίκτυο. Το προσωπικό της εταιρείας ανακάλυψε το φόρουμ και το έκλεισε.
Ομως, όπως αποκάλυψε αργότερα το OpenAI, τα μοντέλα ανακατασκεύασαν το φόρουμ και «δραπέτευσαν» ξανά στα τέλη Ιουλίου, αυτή τη φορά χωρίς να εντοπιστούν. Μάλιστα, όπως έγινε γνωστό προχθές, οι Φορείς ΑΙ παρέκαμψαν τους περιορισμούς τους και επικοινωνούσαν μεταξύ τους χρησιμοποιώντας δεκάδες ιστοτόπους τρίτων, χωρίς την έγκριση της εταιρείας. Εκαναν και κάτι άλλο πρωτοφανές: άφηναν «κρυφά σημειώματα» στη μνήμη της OpenAI για να ειδοποιήσουν μελλοντικούς Φορείς AI πώς να φερθούν.
Κάπως έτσι έφτασαν στον πραγματικό κόσμο. Το επεισόδιο τελικά θα δημοσιοποιείτο: ήταν η επίθεση στο Hugging Face, τη μεγαλύτερη πλατφόρμα στον κόσμο για την κοινή χρήση μοντέλων τεχνητής νοημοσύνης. Λειτουργεί ως ένα είδος αποθετηρίου βιομηχανικού περιεχομένου που χρησιμοποιείται καθημερινά από χιλιάδες προγραμματιστές, ερευνητές και εταιρείες. Η ομάδα ασφαλείας του εντόπισε μια εισβολή που δεν μπορούσε να εξηγήσει. Κάποιος είχε αποκτήσει πρόσβαση στα συστήματά του μέσω μιας προηγουμένως άγνωστης ευπάθειας. Χρειάστηκαν μέρες για να ανακαλυφθεί ότι ο ένοχος δεν ήταν μια ομάδα χάκερ, αλλά δύο μοντέλα OpenAI που είχαν βρει μια ρωγμή στο κλειστό τους περιβάλλον. Μάλιστα, άρχισαν να υποψιάζονται ότι άλλοι Φορείς ΑΙ προσπαθούσαν σκόπιμα να τους εξαπατήσουν και τελικά οργανώθηκαν σε αυτό που η OpenAI περιέγραψε ως «σμήνος». «Είναι το πρώτο περιστατικό ασφαλείας που με έκανε να αναστατωθώ», δήλωσε αργότερα ο Σαμ Αλτμαν, διευθύνων σύμβουλος της OpenAI.
Εισβολές χωρίς άδεια
Λίγες μέρες αργότερα, στις 30 Ιουλίου, ήταν η σειρά της Anthropic. Η εταιρεία αναγνώρισε ότι τα δικά της μοντέλα είχαν αποκτήσει πρόσβαση, χωρίς άδεια, στα συστήματα παραγωγής τριών πραγματικών οργανισμών. Ούτε η Anthropic ούτε οι επηρεαζόμενες εταιρείες το είχαν παρατηρήσει, μέχρι που, με αφορμή την υπόθεση στην OpenAI, εξέτασαν τα αρχεία καταγραφής τους και ανακάλυψαν στοιχεία για τις εισβολές. Λίγο αργότερα, αποκαλύφθηκε ότι η Meta και η Moonshot της Κίνας είχαν υποστεί παρόμοια περιστατικά. Σε καμία από αυτές τις περιπτώσεις, ωστόσο, δεν παραβιάστηκε στην πραγματικότητα ένα κλειστό περιβάλλον δοκιμών ή sandbox στην ορολογία του κλάδου. Στη μια περίπτωση η ανθρώπινη ομάδα είχε ξεχάσει να ανεβάσει ένα αρχείο – το μοντέλο αναζήτησε διέξοδο για να λύσει το πρόβλημα που του είχε ανατεθεί.
Η METR, μια ομάδα ανεξάρτητων ερευνητών, είχε ήδη εντοπίσει παρόμοια μοτίβα μήνες νωρίτερα σε μοντέλα που αναπτύχθηκαν από την OpenAI, την Anthropic, την Google και τη Meta. Μεταξύ Φεβρουαρίου και Μαρτίου 2026, κατέγραψαν αυτό που ονόμασαν «44 περιστατικά κακής ευθυγράμμισης». Σε 25 από αυτές τις περιπτώσεις, τα μοντέλα όχι μόνο ξεπέρασαν το πεδίο εφαρμογής που τους είχε ανατεθεί, αλλά έλαβαν και ενεργά μέτρα για να το αποκρύψουν. Σε πέντε, αυτά τα βήματα μπορεί ακόμη και να ξεγέλασαν μια προσεκτική ανθρώπινη αναθεώρηση. Οι ερευνητές, ωστόσο, δεν βρήκαν στοιχεία ότι τα συστήματα είχαν ως κίνητρο κάτι άλλο εκτός από την ολοκλήρωση των εργασιών τους. Δεν επιδίωκαν «εξουσία», λένε. Προσπαθούσαν, με αξιοσημείωτη αποφασιστικότητα, να κάνουν καλά τη δουλειά τους.
«Ας δώσουμε περισσότερο χρόνο»
Πάντως, η OpenAI ανακοίνωσε πρόσφατα ότι, προς το παρόν, επιβραδύνει τις προσπάθειες εκπαίδευσης των μοντέλων ΑΙ και ελπίζει ότι και άλλες εταιρείες θα ακολουθήσουν το παράδειγμά της. Η κίνηση αυτή ήρθε μετά τη δημοσίευση μιας ανοιχτής επιστολής στην οποία 1.300 υπάλληλοι εταιρειών τεχνητής νοημοσύνης προέτρεψαν τόσο τους εργοδότες τους όσο και τις κυβερνήσεις να σταματήσουν τον αγώνα δρόμου. «Σε διάστημα τεσσάρων ετών», γράφει ο Σαντάνου Τζαΐν, υπάλληλος της OpenAI, «έχουμε περάσει από ανθρώπους που έχουν την πρώτη τους εμπειρία με μια τεχνητή νοημοσύνη που μπορεί να κατανοήσει τη γλώσσα, στην τεχνητή νοημοσύνη που εκτελεί υπεράνθρωπα κατορθώματα μηχανικής λογισμικού […] Η κοινωνία έχει αφιερώσει περισσότερο χρόνο από όσο μπορούμε να θυμηθούμε στην ανάπτυξη των νόμων, των θεσμών και της τεχνολογίας για τη διακυβέρνηση και την επίβλεψη της ανθρώπινης νοημοσύνης. Θα ήταν καλό να έχουμε την επιλογή να κάνουμε το ίδιο και για την τεχνητή νοημοσύνη».
