Οι παραιτήσεις κορυφαίων ερευνητών της τεχνητής νοημοσύνης από τις θέσεις τους στις μεγάλες εταιρείες του κλάδου τείνουν να μετατραπούν σε φαινόμενο μεγάλων διαστάσεων. Η ανεξέλεγκτη κούρσα για την ανάπτυξη της τεχνητής νοημοσύνης οδηγεί ανθρώπους που τρέφονται από αυτήν να «χτυπήσουν το καμπανάκι» και να αποχωρήσουν, κάνοντας λόγο για «καταστροφικές συνέπειες για την ανθρωπότητα».
Η πρόσφατη παραίτηση του Τζέικομπ Κόξον, βρετανού ερευνητή με κομβικό ρόλο στην ανάπτυξη μοντέλων τόσο για την OpenAI όσο και για την Anthropic, ήταν ηχηρή. Ο Κόξον δεν άφησε απλώς αιχμές, αλλά κατηγόρησε ευθέως τις δύο ηγέτιδες εταιρείες για ανευθυνότητα. «Παίζουν τις ζωές μας στα ζάρια», δήλωσε, προειδοποιώντας ότι οι ίδιοι οι επιστήμονες που χτίζουν αυτά τα συστήματα πιστεύουν ειλικρινά πως η ΤΝ θα μπορούσε να εξοντώσει την ανθρωπότητα μέχρι το τέλος της δεκαετίας.
Το σημείο χωρίς επιστροφή που περιγράφει δεν αφορά τα σημερινά συστήματα, αλλά τη λεγόμενη «αναδρομική αυτοβελτίωση», δηλαδή τη στιγμή που η ΤΝ θα μπορεί να χακάρει υποδομές και να αναβαθμίζεται ραγδαία, αποκτώντας πραγματική ισχύ χωρίς καμία ανθρώπινη παρέμβαση. Ο Εβαν Χιούμπινγκερ, επικεφαλής του τομέα ευθυγράμμισης της Anthropic, υποστήριξε δημόσια τον Κόξον, εκτιμώντας πως οι πιθανότητες η ΤΝ να σκοτώσει όλους τους ανθρώπους μέσα στα επόμενα δέκα χρόνια ξεπερνούν το 10%.
Αντίστοιχα, ο επικεφαλής επιστήμονας της OpenAI Γιάκουμπ Παχότσκι, σε επιστολή του που δημοσιεύθηκε την περασμένη Κυριακή, αναγνώρισε το τεράστιο κενό ασφαλείας της εταιρείας. Μάλιστα, ζήτησε «εθελοντική επιβράδυνση» της ανάπτυξης της ΤΝ, καθώς καμία εταιρεία δεν έχει βρει τρόπο να ελέγξει αξιόπιστα μια μελλοντική «υπερ-νοημοσύνη».
Πριν από τρία χρόνια, ο γνωστός και ως «νονός» της ΤΝ, Τζέφρι Χίντον, είχε παραιτηθεί από την Google, ώστε να μπορεί – κατά δήλωσή του – να «μιλά ελεύθερα για τους κινδύνους της ΤΝ». Ο Χίντον, που το 2024 βραβεύθηκε με το βραβείο Νόμπελ Φυσικής για τη συνεισφορά του στη μηχανική εκμάθηση, ανέδειξε την ανάγκη για να εξερευνηθούν οι τρόποι με τους οποίους οι άνθρωποι θα μπορούσαν να ελέγξουν μοντέλα μεγαλύτερης νοημοσύνης από τους ίδιους.
Την ίδια στιγμή, οι «τρελές» δηλώσεις των επικεφαλής των εταιρειών της ΤΝ, που πολλές φορές προειδοποιούν για μια πραγματική δυστοπία χωρίς καν να το αντιλαμβάνονται, έχουν κατακτήσει τη δική τους γωνιά στα μέσα κοινωνικής δικτύωσης, με προφίλ με εκατοντάδες χιλιάδες ακολούθους να παραθέτουν καθημερινά παραδείγματα τρομακτικών δηλώσεων.
Εκτός ελέγχου
Παρά τις κατά καιρούς επιφυλακτικές τοποθετήσεις των επικεφαλής τους (π.χ. ο Ντάριο Αμοντέι της Anthropic αναλύει τις ανησυχίες του στο δοκίμιο «Η Εφηβεία της Τεχνολογίας»), οι εταιρείες ΤΝ συχνά προσπαθούν να παρακάμψουν ή να αποφύγουν την κρατική ρύθμιση. Τελευταίο παράδειγμα είναι της ίδιας της εταιρείας του Αμοντέι, που δεν έδωσε στο Ινστιτούτο Ασφαλείας Τεχνητής Νοημοσύνης (Aisi) της Βρετανίας πρόσβαση στην πιλοτική λειτουργία του Claude Mythos 5.1, που θεωρείται το πλέον ανεπτυγμένο μοντέλο ΤΝ για τις επιστήμες ζωής και την κυβερνοασφάλεια.
Αυτή ήταν η πρώτη φορά που το Aisi έμεινε εκτός της δοκιμαστικής χρήσης των νέων μοντέλων του κολοσσού της ΤΝ, με ορισμένους βρετανούς αξιωματούχους να υποστηρίζουν ότι πίσω από τον αποκλεισμό βρίσκεται η αμερικανική κυβέρνηση, που είχε βεβαίως πρόσβαση στην πιλοτική λειτουργία.
Παράλληλα, σταδιακά καταγράφονται περιστατικά όπου η ΤΝ δρα από μόνη της, όπως συνέβη στην περίπτωση μοντέλου της OpenAI που αυτονομήθηκε και «χάκαρε» τον Ιούλιο τα συστήματα της γαλλοαμερικανικής εταιρείας ΤΝ, Hugging Face. Μάλιστα, όπως αποκαλύφθηκε πριν από λίγες ημέρες, πριν από την Hugging Face, το μοντέλο της OpenAI είχε προηγουμένως «επιτεθεί» στη γερμανική «εγκυκλοπαιδική» ιστοσελίδα DseWiki. Οπως αναφέρει σχετική έρευνα της ομάδας Nightingale Collective, οι «πράκτορες» της OpenAI που «κατάστρωσαν» το επιθετικό σχέδιο δεν ήταν ένας ή δύο, αλλά περίπου 700!
