«Η AI μπορεί να σκοτώσει όλους τους ανθρώπους»: Παραίτηση-βόμβα ερευνητή της Anthropic -Πάνω από 10% ο κίνδυνος
Μια πρωτοφανής προειδοποίηση από το εσωτερικό της βιομηχανίας ΑΙ προκαλεί νέα συζήτηση για το πού μπορεί να οδηγήσει η κούρσα για όλο και ισχυρότερα μοντέλα Τεχνητής Νοημοσύνης.
- Επικεφαλής ερευνητής της Anthropic, ο Ίβαν Χάμπινγκερ, εκτιμά ότι η πιθανότητα η Τεχνητή Νοημοσύνη να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία ξεπερνά το 10%, συμφωνώντας με την προειδοποίηση πρώην συναδέλφου του.
- Η εταιρεία παραδέχεται πως δεν υπάρχει ακόμη λύση στο πρόβλημα της ευθυγράμμισης (alignment) για την υπερνοημοσύνη, ενώ ο ανταγωνισμός με την Κίνα καθιστά την κατάσταση ακόμα πιο επικίνδυνη για την ασφάλεια των συστημάτων.
- Η δυνατότητα αυτοβελτίωσης (recursive self-improvement) αποτελεί κεντρικό στόχο της έρευνας, με τον φόβο ότι ένα τέτοιο σύστημα θα μπορούσε να παρακάμψει τους περιορισμούς και να αρνηθεί να υπακούσει στις ανθρώπινες εντολές.
- Πάνω από 1.000 ερευνητές ζητούν διεθνή συντονισμό για επιβράδυνση της ανάπτυξης, την ώρα που οι εταιρείες επενδύουν τεράστια ποσά, θέτοντας το ερώτημα εάν ο ανθρώπινος έλεγχος θα διατηρηθεί εγκαίρως.
Ο Τζέικομπ Κόξον, ερευνητής της Anthropic, ανακοίνωσε την παραίτησή του, υποστηρίζοντας ότι η εταιρεία του και η OpenAI συμμετέχουν σε έναν αγώνα δρόμου προς την ανάπτυξη συστημάτων που θα μπορούν να βελτιώνουν μόνα τους τις δυνατότητές τους, χωρίς ουσιαστικό ανθρώπινο έλεγχο.
«Τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν τη ζωή μας στα ζάρια», υποστήριξε ο Κόξον.
Η πιο ανησυχητική τοποθέτηση, ωστόσο, ήρθε από τον Ίβαν Χάμπινγκερ, επικεφαλής ερευνητή alignment στην Anthropic.
Απαντώντας στον Κόξον, δήλωσε ότι συμφωνεί πως η AI θα μπορούσε πράγματι να «σκοτώσει όλους τους ανθρώπους» και εκτίμησε προσωπικά ότι η πιθανότητα αυτό να συμβεί ξεπερνά το 10% μέσα στην επόμενη δεκαετία.
«Δεν έχουμε ακόμη σχέδιο για την υπερνοημοσύνη»
Ο Xάμπινγκερ τόνισε ότι η Anthropic προσπαθεί να αντιμετωπίσει τους κινδύνους, αλλά παραδέχθηκε πως δεν υπάρχει ακόμη λύση στο πρόβλημα του alignment για την υπερνοημοσύνη, ούτε είναι σαφές ότι η εταιρεία βρίσκεται σε τροχιά για να την πετύχει.
Το ζήτημα αφορά το κατά πόσο ένα εξαιρετικά ισχυρό σύστημα AI θα παραμένει ευθυγραμμισμένο με τις ανθρώπινες προθέσεις και θα υπακούει στις εντολές των δημιουργών του.
Ο Κόξον, ο οποίος είχε προηγουμένως εργαστεί στην OpenAI πριν μετακινηθεί στην Anthropic, υποστηρίζει ότι η κατάσταση γίνεται ακόμη πιο επικίνδυνη λόγω του ανταγωνισμού μεταξύ των αμερικανικών εταιρειών και της Κίνας.
Από την αυτοβελτίωση στην απώλεια ελέγχου
Η λεγόμενη recursive self-improvement, δηλαδή η δυνατότητα ενός μοντέλου να βελτιώνει διαδοχικά τον ίδιο του τον σχεδιασμό και τις ικανότητές του, δεν έχει ακόμη επιτευχθεί πλήρως. Αποτελεί όμως έναν από τους βασικούς στόχους της έρευνας AI.
Ο φόβος είναι ότι ένα σύστημα που θα αποκτήσει υπεράνθρωπες ικανότητες σε πολλούς τομείς θα μπορούσε να αποκτήσει πρόσβαση σε πόρους, να εντοπίσει τρόπους παράκαμψης των περιορισμών του και τελικά να αρνηθεί να υπακούσει στους ανθρώπους.
Οι ανησυχίες εντείνονται μετά και από πρόσφατα περιστατικά, στα οποία προηγμένα μοντέλα παρουσίασαν απρόβλεπτη συμπεριφορά ή χρησιμοποιήθηκαν σε επιθετικές κυβερνοεπιχειρήσεις.
Την ίδια ώρα, περισσότεροι από 1.000 ερευνητές AI έχουν ζητήσει διεθνή συντονισμό των κυβερνήσεων, ώστε να μπορεί να επιβραδυνθεί η ανάπτυξη εφόσον καταστεί αναγκαίο.
Το παράδοξο είναι ότι η προειδοποίηση έρχεται την ώρα που οι μεγαλύτερες εταιρείες AI επενδύουν τεράστια ποσά στην ανάπτυξη ακόμη ισχυρότερων μοντέλων.
Το ερώτημα που πλέον τίθεται όλο και πιο έντονα δεν είναι μόνο πόσο έξυπνη μπορεί να γίνει η Τεχνητή Νοημοσύνη, αλλά αν οι άνθρωποι θα προλάβουν να βρουν τον τρόπο να την κρατήσουν υπό έλεγχο.
