Συναγερμός στην OpenAI: Παραιτήθηκε επικεφαλής ασφαλείας, κρούει τον κώδωνα για την ΑΙ -«Η κουλτούρα της εταιρείας έχει διαλυθεί»
Ένα ακόμη ηχηρό καμπανάκι για τους κινδύνους από την ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης έρχεται από το εσωτερικό της OpenAI, σύμφωνα με ρεπορτάζ της βρετανικής Guardian.
O David Robinson, στέλεχος που είχε ηγετικό ρόλο στην ασφάλεια της εταιρείας, ανακοίνωσε την αποχώρησή του, καταγγέλλοντας ότι η εταιρική κουλτούρα είναι «διαλυμένη» και ότι οι εταιρείες τεχνητής νοημοσύνης δεν είναι «ούτε κατά διάνοια αρκετά προσεκτικές» στην ανάπτυξη της τεχνολογίας.
Ο Robinson ήταν επικεφαλής στη σύνταξη εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της OpenAI. Σε άρθρο του στο περιοδικό The Atlantic, με τίτλο «Έφυγα από την OpenAI επειδή η κουλτούρα της είναι διαλυμένη», υποστήριξε ότι χρειάζεται βαθύτερη αλλαγή στον τρόπο λειτουργίας των κορυφαίων εταιρειών τεχνητής νοημοσύνης, μεταδίδει η Guardian.
«Δεν είναι αρκετά προσεκτικοί»
Ο Robinson υποστήριξε ότι το πρόβλημα δεν μπορεί να αντιμετωπιστεί μόνο με νέους κανόνες ή νομοθεσία. «Συμφωνώ με άλλους εργαζομένους που έφυγαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Όμως πιστεύω ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα», έγραψε.
Αναφερόμενος στην ταχύτητα με την οποία η OpenAI παρουσιάζει νέα προϊόντα, προειδοποίησε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται».
Ως χαρακτηριστικό παράδειγμα ανέφερε το περιστατικό κατά το οποίο ένα «σμήνος» αυτόνομων πρακτόρων της OpenAI φέρεται να επιτέθηκε στην εταιρεία τεχνητής νοημοσύνης Hugging Face. Οι πράκτορες είναι προγράμματα που μπορούν να λειτουργούν αυτόνομα χωρίς συνεχή ανθρώπινη επίβλεψη. Σύμφωνα με τον Robinson, τέτοια περιστατικά είναι «τυπικά για τον κλάδο», δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργούν οι εταιρείες.
Οι προειδοποιήσεις και τα «rogue» AI
Η OpenAI έχει εμφανίσει σημάδια μεγαλύτερης προσοχής τις τελευταίες εβδομάδες. Μετά το περιστατικό με τη Hugging Face και την αποκάλυψη ότι είχε ενημερώσει περισσότερους από 100 οργανισμούς για δραστηριότητα «ανεξέλεγκτων» πρακτόρων, η εταιρεία ανακοίνωσε αυτή την εβδομάδα ότι ακυρώνει την κυκλοφορία ενός μοντέλου επόμενης γενιάς, αφού ερευνητές εντόπισαν ανησυχίες ασφαλείας κατά τις εσωτερικές δοκιμές. Παράλληλα, έχει αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
Νέα προειδοποίηση ήρθε και από τον Geoffrey Irving, πρώην εργαζόμενο της OpenAI και πρώην επικεφαλής επιστήμονα του βρετανικού Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης, ο οποίος πλέον εργάζεται στην εταιρεία έρευνας AI ασφάλειας Resolution.
«Οι πρόσφατες προειδοποιήσεις για την πιθανή καταστροφική δύναμη της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης», έγραψε στο Time. «Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξυπνότερων από τον άνθρωπο και ότι οι ενέργειές μας τα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».
«Πρέπει να λειτουργούν σαν πυρηνικοί σταθμοί»
Οι προειδοποιήσεις ακολουθούν την παραίτηση του Jacob Coxon, ερευνητή της Anthropic, ο οποίος αποχώρησε τον προηγούμενο μήνα υποστηρίζοντας ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Εργαζόμενος της Anthropic είχε επίσης προειδοποιήσει ότι υπάρχει πιθανότητα άνω του 10% η AI να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Ωστόσο, επικριτές έχουν χαρακτηρίσει τέτοιες εκτιμήσεις μη επιστημονικές, καθώς δεν μπορούν να επαληθευτούν ή να διαψευστούν.
Ο Robinson υποστήριξε ότι η Silicon Valley στερείται επίγνωσης για «το πώς αντιμετωπίζεται μια επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους». Προειδοποίησε επίσης για την «απεριόριστη αισιοδοξία» της OpenAI ότι τα προβλήματα μπορούν να αντιμετωπίζονται καθώς εμφανίζονται, εκτιμώντας ότι οι αποτυχίες ασφαλείας θα αυξάνονται όσο τα συστήματα γίνονται ισχυρότερα.
«Φανταστείτε “ανεξέλεγκτους” πράκτορες που λειτουργούν σαν ομάδες χάκερ -για παράδειγμα, κρατώντας συστήματα υπολογιστών νοσοκομείων ως ομήρους για λύτρα -αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε.
Ο Robinson πρότεινε δύο βασικές αλλαγές: οι εταιρείες AI να αξιοποιούν την τεχνογνωσία από άλλους κλάδους υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία, και να αναπτύξουν «νέα επιστήμη» που θα διασφαλίζει ότι τα ισχυρά μελλοντικά συστήματα μπορούν να περιορίζονται όταν λειτουργούν αυτόνομα.
