Συναγερμός για την Τεχνητή Νοημοσύνη και τους ανήλικους: Chatbot έδινε συμβουλές για ουσίες, διαταραχές και αυτοτραυματισμό

Ανησυχία προκαλεί έκθεση του Center for Countering Digital Hate (CCDH), σύμφωνα με την οποία ένα από τα πιο ευρέως χρησιμοποιούμενα συστήματα Τεχνητής Νοημοσύνης, το ChatGPT, ενδέχεται να μεταδίδει επικίνδυνες πληροφορίες σε ανήλικους – ακόμη και όταν εκείνοι βρίσκονται σε ψυχολογικά ευάλωτη κατάσταση.

Όπως μετέδωσε το Associated Press, η ομάδα των ερευνητών υποδύθηκε 13χρονους σε πάνω από τρεις ώρες διαλόγων με το chatbot. Τα ευρήματα σοκάρουν: παρότι υπήρχαν αρχικές προειδοποιήσεις, το σύστημα φέρεται να παρείχε συμβουλές για την κατανάλωση αλκοόλ και ναρκωτικών, μεθόδους απόκρυψης διατροφικών διαταραχών, ακόμη και οδηγίες σύνταξης επιστολών με αυτοκτονικό περιεχόμενο.

Η έκθεση έρχεται να ενισχύσει τις φωνές που ζητούν αυστηρότερο έλεγχο στη χρήση της AI από ανήλικους και εγείρει σοβαρά ερωτήματα για τα φίλτρα ασφαλείας τέτοιων τεχνολογιών.

Σοκαρισμένοι οι ερευνητές που υποδύθηκαν ψυχικά ευάλωτους εφήβους, διαβάστε εδώ τι αποκάλυψαν οι συνομιλίες διάρκειας ωρών.