Ενας νέος, επαναστατικός ανιχνευτής deepfake έχει επιτύχει την υψηλότερη ακρίβεια που έχει καταγραφεί μέχρι σήμερα στον εντοπισμό πολλαπλών τύπων βίντεο που είτε έχουν υποστεί επεξεργασία είτε έχουν δημιουργηθεί εξ ολοκλήρου από τεχνητή νοημοσύνη.
Η καινοτόμος αυτή τεχνολογία αναμένεται να αποτελέσει ένα ισχυρό εργαλείο στην αντιμετώπιση της μη συναινετικής πορνογραφίας, των ψηφιακών απατών και της διάδοσης παραπληροφόρησης.
Η ευρεία διάθεση οικονομικών εργαλείων δημιουργίας deepfake έχει οδηγήσει σε ραγδαία και ανεξέλεγκτη εξάπλωση συνθετικών βίντεο στο Διαδίκτυο. Πολλά από αυτά απεικονίζουν γυναίκες, συμπεριλαμβανομένων διασημοτήτων αλλά και ανηλίκων, σε πορνογραφικό περιεχόμενο χωρίς τη συγκατάθεσή τους.
Παράλληλα, τα deepfake έχουν συνδεθεί με εκστρατείες παραπληροφόρησης, παρεμβάσεις σε πολιτικές διαδικασίες και οικονομικές απάτες που στοχεύουν τόσο ιδιώτες όσο και εταιρικά στελέχη, ενώ έχουν ήδη αξιοποιηθεί και σε πολεμικά περιβάλλοντα.
Ο αυξανόμενος ρεαλισμός αυτών των βίντεο καθιστά τις επιπτώσεις τους εν δυνάμει πιο σοβαρές σε σύγκριση με παραδοσιακές μορφές ψευδούς περιεχομένου, όπως τα αποκαλούμενα «cheapfake», δηλαδή παραποιημένα μέσα χωρίς τη χρήση προηγμένης τεχνητής νοημοσύνης.
Μέχρι σήμερα, τα περισσότερα μοντέλα ανίχνευσης συνθετικών βίντεο επικεντρώνονται αποκλειστικά στα ανθρώπινα πρόσωπα. Είναι αποτελεσματικά κυρίως σε περιπτώσεις αντικατάστασης προσώπου, χωρίς να μπορούν να εντοπίσουν άλλες μορφές παραποίησης.
Καθολικός ανιχνευτής
«Χρειαζόμαστε ένα μοντέλο που να εντοπίζει όχι μόνο παραποιήσεις προσώπων, αλλά και αλλοιώσεις στο φόντο ή πλήρως συνθετικά βίντεο», επισημαίνει ο Ρόχιντ Κούντου από το Πανεπιστήμιο της Καλιφόρνιας στο Ρίβερσαϊντ. Ο ίδιος και η ερευνητική του ομάδα ανέπτυξαν έναν «καθολικό ανιχνευτή», ο οποίος αναλύει ταυτόχρονα πολλαπλά στοιχεία, τόσο από τα πρόσωπα, όσο και από το περιβάλλον των βίντεο, εντοπίζοντας λεπτές χωρικές και χρονικές ασυνέπειες.
— Ασυνεπείς συνθήκες φωτισμού σε περιπτώσεις τεχνητής εισαγωγής προσώπων.
— Ανωμαλίες στις λεπτομέρειες του φόντου σε πλήρως συνθετικά βίντεο.
— Ενδείξεις χειραγώγησης σε βίντεο χωρίς ανθρώπινη παρουσία.
— Ρεαλιστικές σκηνές από βιντεοπαιχνίδια που ενδέχεται να χρησιμοποιηθούν για παραπληροφόρηση.
Ο καθολικός ανιχνευτής πέτυχε ποσοστά ακρίβειας από 95% έως 99% στον εντοπισμό βίντεο με παραποιημένα πρόσωπα, ενώ στην κατηγορία των πλήρως συνθετικών βίντεο κατέγραψε τις καλύτερες επιδόσεις που έχουν αναφερθεί έως σήμερα.
Στην ανάπτυξη της τεχνολογίας συνέβαλαν και ερευνητές της Google. Αν και η εταιρεία δεν έχει διευκρινίσει εάν το σύστημα θα ενσωματωθεί σε πλατφόρμες όπως το YouTube, ήδη υποστηρίζει τεχνολογίες υδατογράφησης που διευκολύνουν την αναγνώριση περιεχομένου παραγόμενου από τεχνητή νοημοσύνη.
Παρά τα εντυπωσιακά αποτελέσματα, υπάρχουν περιθώρια περαιτέρω βελτίωσης. Ιδιαίτερο ενδιαφέρον παρουσιάζει η δυνατότητα μελλοντικής ανίχνευσης deepfake σε πραγματικό χρόνο, όπως κατά τη διάρκεια ζωντανών βιντεοδιασκέψεων, μια πρακτική που αρχίζει ήδη να εμφανίζεται.
Σε γενικές γραμμές, η ανάπτυξη αυτού του ανιχνευτή αποτελεί σημαντικό βήμα στην αντιμετώπιση της ψηφιακής παραπληροφόρησης και της κατάχρησης της τεχνητής νοημοσύνης. Η ικανότητά του να εντοπίζει ένα ευρύ φάσμα συνθετικού περιεχομένου ενισχύει την προστασία της ψηφιακής αυθεντικότητας. Ωστόσο, η αποτελεσματικότητά του θα εξαρτηθεί από την ευρεία υιοθέτησή του και τη συνεχή εξέλιξή του απέναντι στις ολοένα πιο εξελιγμένες τεχνικές δημιουργίας deepfake.
Ο Στέλιος Παπαθανασόπουλος είναι καθηγητής στο Τμήμα Επικοινωνίας και ΜΜΕ του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών
