Με το που άρχισε η προσέλευση των διασημοτήτων στο κόκκινο χαλί, μια deepfake εικόνα της Κέιτι Πέρι με εντυπωσιακό φλοράλ φόρεμα εμφανίστηκε στο X (πρώην Twitter), όπου συγκέντρωσε σε λίγες ώρες πάνω από 13 εκατομμύρια προβολές, αναφέρει το BΒC.
Δεκάδες στελέχη της βιομηχανίας τεχνολογίας και ειδικοί της τεχνητής νοημοσύνης, ανάμεσά τους ο πρωτοπόρος της ΑΘ Γιόσουα Μπένζιο, υπογράφουν ανοιχτή επιστολή με την οποία ζητούν την επιβολή κανόνων για τη δημιουργία ψεύτικων βίντεο εικόνων.
Μόνο σε έναν δικτυακό τόπο παιδοφιλίας εντοπίστηκαν σχεδόν 3.000 deepfake εικόνες που θα ήταν παράνομες σύμφωνα με τη βρετανική νομοθεσία για τη σεξουαλική κακοποίηση παιδιών.
Μια πρόσφατη είδηση από μια πολιτεία των ΗΠΑ, την Αλαμπάμα, είναι ίσως μια ματιά στο μέλλον. Μαθητές γυμνασίου χρησιμοποίησαν τη τεχνητή νοημοσύνη (AI) για να δημιουργήσουν πορνογραφικές εικόνες των συμμαθητών τους. Μια ομάδα μητέρων στη Demopolis, κατήγγειλε ότι χρησιμοποιήθηκαν οι φωτογραφίες των κοριτσιών τους, και με τη συνδρομή της τεχνητής νοημοσύνης δημιουργήθηκαν πορνογραφικές εικόνες τους. Οι 4 μητέρες δήλωσαν ότι όλες έμαθαν στις 4 Δεκεμβρίου 2023 ότι δύο αγόρια, συμμαθητές των κορών τους, δημιούργησαν και διένειμαν τις τολμηρές φωτογραφίες των κορών τους.
Μόνο σε έναν δικτυακό τόπο παιδοφιλίας εντοπίστηκαν σχεδόν 3.000 deepfake εικόνες που θα ήταν παράνομες σύμφωνα με τη βρετανική νομοθεσία για τη σεξουαλική κακοποίηση παιδιών. O Σκοτεινός Ιστός του Διαδικτύου (dark web) έχει αρχίσει να γεμίζει με εικόνες που δημιουργήθηκαν με εργαλεία τεχνητής νοημοσύνης ώστε να εμφανίζουν διάσημους ηθοποιούς και τραγουδιστές ως παιδιά που πέφτουν θύματα βιασμού…
Μεταξύ των νέων κινδύνων είναι οι απάτες με χρήση της τεχνολογίας Deepfake η οποία δίνει τη δυνατότητα σε κάποιον να μιμείται φωνές παιδιών… Διαπραγματευόταν (μια μητέρα) με τους (υποτιθέμενους) απαγωγείς (της κόρης της) για να τους πληρώσει 50.000$ όταν ανακάλυψε ότι η κόρη της βρισκόταν στο δωμάτιό της στο σπίτι τους και «ξεκουραζόταν ασφαλής στο κρεβάτι της».