Anthropic και OpenAI ζητούν να μπει «χαλινάρι» στην AI – Τι πραγματικά φοβούνται
Yπάρχει μια στιγμή στην τεχνολογική κούρσα όπου ακόμη και εκείνοι που πατούν το γκάζι αρχίζουν να κοιτούν το φρένο. Αυτή η στιγμή φαίνεται πως έφτασε για την τεχνητή νοημοσύνη.
Ο Ντάριο Αμοντέι, επικεφαλής της Anthropic, μιας από τις ισχυρότερες εταιρείες στον κόσμο της AI, έκανε μια ασυνήθιστη έκκληση: να μπει προσωρινό «φρένο» στην περαιτέρω βελτίωση των συστημάτων τεχνητής νοημοσύνης, ώστε η ασφάλεια να μπορέσει να συμβαδίσει με την ταχύτητα της ανάπτυξης.
Η παρέμβασή του δεν έμεινε αναπάντητη. Μέσα σε λίγες ώρες, ο Ίλον Μασκ συμφώνησε δημόσια μαζί του, ενώ ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έγραψε ότι «συμφωνεί με τον Ντάριο» και αποκάλυψε πως το ζήτημα αποτελεί ήδη αντικείμενο συζήτησης στο εσωτερικό της εταιρείας.
Η σύμπτωση απόψεων αποκτά ιδιαίτερο βάρος επειδή οι δύο εταιρείες βρίσκονται στην πρώτη γραμμή του ανταγωνισμού για την επόμενη γενιά συστημάτων AI. Ο ίδιος ο Αμοντέι προέρχεται από την OpenAI, την οποία εγκατέλειψε το 2020, μεταξύ άλλων επειδή θεωρούσε ότι η εταιρεία αντιμετώπιζε με υπερβολική χαλαρότητα το ζήτημα της ασφάλειας. Έναν χρόνο αργότερα ίδρυσε την Anthropic.
Ο φόβος δεν αφορά πλέον μόνο μια μηχανή που δίνει λάθος απάντηση. Αφορά συστήματα που μπορούν να δρουν.
Οι λεγόμενοι «πράκτορες» τεχνητής νοημοσύνης δεν περιορίζονται στο να απαντούν σε ερωτήσεις. Μπορούν να χρησιμοποιούν εργαλεία, να συνδέονται με υπηρεσίες, να εκτελούν εντολές και να επιδιώκουν στόχους με περιορισμένη ανθρώπινη παρέμβαση.
Σε δοκιμές έχουν ήδη καταγραφεί περιστατικά που προκάλεσαν ανησυχία. Μοντέλα κατάφεραν να ξεφύγουν από απομονωμένα περιβάλλοντα, να αποκτήσουν πρόσβαση στο διαδίκτυο και να αναλάβουν ενέργειες που δεν είχαν προβλεφθεί από τους δημιουργούς τους. Παράλληλα, ερευνητές έχουν παρατηρήσει συμπεριφορές όπως ο συντονισμός μεταξύ πρακτόρων, η εξαπάτηση και η προσπάθεια απόκρυψης ενεργειών.
Ο Αμοντέι προχωρά ένα βήμα παραπέρα. Εκτιμά ότι, εάν η σημερινή ταχύτητα ανάπτυξης συνεχιστεί, μέσα σε έξι έως δώδεκα μήνες μια ομάδα αυτόνομων πρακτόρων θα μπορούσε να αποκτήσει σημαντικό έλεγχο του διαδικτύου, με οικονομικές ζημιές που θα έφταναν ακόμη και εκατοντάδες δισεκατομμύρια δολάρια.
Στο επίκεντρο βρίσκεται και η λεγόμενη αυτόνομη αναδρομική βελτίωση (RSI). Πρόκειται για το ενδεχόμενο ένα σύστημα AI να αποκτήσει τη δυνατότητα να βελτιώνει τις ίδιες του τις ικανότητες χωρίς ουσιαστική ανθρώπινη παρέμβαση.
Το κρίσιμο ερώτημα τότε δεν θα είναι απλώς τι μπορεί να κάνει η τεχνητή νοημοσύνη, αλλά αν οι άνθρωποι θα εξακολουθούν να κατανοούν και να ελέγχουν τον τρόπο με τον οποίο το κάνει.
Ο Αμοντέι ζητά ανεξάρτητη εποπτεία στις κορυφαίες εταιρείες του κλάδου, με εξωτερικούς παρατηρητές που θα μπορούν να ελέγχουν τα συστήματα και να καταγράφουν περιστατικά ασφαλείας. Δηλώνει, μάλιστα, έτοιμος να εφαρμόσει το μοντέλο αυτό στην Anthropic ακόμη και μονομερώς.
Ο Άλτμαν δεσμεύτηκε να ακολουθήσει την ίδια κατεύθυνση στην OpenAI.
Και κάπως έτσι, η μεγαλύτερη τεχνολογική κούρσα της εποχής αποκτά ένα παράδοξο χαρακτηριστικό: οι πρωταγωνιστές της δεν συζητούν πλέον μόνο για το πόσο γρήγορα μπορούν να προχωρήσουν, αλλά και για το αν πρέπει να προχωρούν τόσο γρήγορα.
Γιατί το πραγματικό στοίχημα της AI ίσως να μην είναι τελικά ποιος θα φτάσει πρώτος στην υπερεφυΐα. Αλλά αν, όταν φτάσει εκεί, θα εξακολουθεί να υπάρχει κάποιος στο τιμόνι.
