Οι Deep Fakes είναι ψεύτικες εικόνες, ήχους και βίντεο που ακούγονται και φαίνονται πραγματικά. Η ίδια η λέξη deepfake είναι ένα portmanteau της βαθιάς μάθησης και του ψεύτικου, που αναφέρεται στον τρόπο που η μηχανική μάθηση και η τεχνητή νοημοσύνη (AI) αξιοποιούνται για να δημιουργήσουν αυτά τα ψεύτικα. Η βαθιά ψεύτικη τεχνολογία έχει χρησιμοποιηθεί για ψυχαγωγικούς σκοπούς, αλλά έβαλε επίσης λόγια στο στόμα των πολιτικών, επέτρεψε απάτες κοινωνικής μηχανικής και ακόμη και έβαλε πρόσωπα διασημοτήτων σε πορνογραφικό περιεχόμενο χωρίς συγκατάθεση
Πώς δημιουργούνται οι Deep Fakes;
Μπορεί να ακούγεται σαν επιστημονική φαντασία ή μαγεία ειδικών εφέ του Χόλιγουντ, αλλά η βαθιά ψεύτικη τεχνολογία είναι εκπληκτικά προσβάσιμη. Η πιο συνηθισμένη μέθοδος είναι η ανταλλαγή προσώπου βαθιά ψεύτικη, η οποία αντικαθιστά το πρόσωπο ενός ατόμου σε ένα βίντεο με το πρόσωπο ενός διαφορετικού ατόμου. Αυτή η μέθοδος ανταλλαγής προσώπων βασίζεται στη τροφοδοσία δεδομένων βίντεο του αρχικού ατόμου και φωτογραφιών του προσώπου αντικατάστασης σε αλγόριθμο AI. Το AI αναλύει το αρχικό πρόσωπο και το νέο πρόσωπο, βρίσκει ομοιότητες και χαρτογραφεί το νέο πρόσωπο στο υπάρχον καρέ βίντεο ανά καρέ. Ολόκληρη η διαδικασία δημιουργίας ενός βαθιού ψεύτικου μπορεί να αυτοματοποιηθεί από υπηρεσίες που βασίζονται στον Ιστό, αλλά οι αλγόριθμοι AI είναι επίσης διαθέσιμοι για λήψη, επιτρέποντας σε οποιονδήποτε με αρκετή εμπειρία να δημιουργήσει βαθιές ψεύτικες στον δικό του οικιακό υπολογιστή. Παρόμοιες διαδικασίες μπορούν να χρησιμοποιηθούν για τη δημιουργία ψεύτικων εικόνων που φαίνονται πραγματικές, ζωντανεύουν ακίνητες φωτογραφίες χρησιμοποιώντας δεδομένα κίνησης από έναν ηθοποιό, και ακόμη και ρεαλιστικά πλαστοπροσωπούν τη φωνή ενός ατόμου. Όλα βασίζονται στην τεχνητή νοημοσύνη για να αναλύσουν τα δεδομένα εισόδου, όπως φωτογραφίες, βίντεο και ηχογραφήσεις και στη συνέχεια να συνθέσουν νέα μέσα που δεν διακρίνονται από το πραγματικό.
Λίγα παραδείγματα Deep Fake
Πολλά βαθιά ψεύτικα είναι κακόβουλα, όπως η τοποθέτηση λέξεων στο στόμα ενός πολιτικού ή πορνογραφικού χαρακτήρα, αλλά η τεχνολογία έχει επίσης χρησιμοποιηθεί για πιο ελαφριά μέσα. Εδώ είναι μερικά βαθιά ψεύτικα που μπορείτε να δείτε μόνοι σας:
- George Lucas και Harrison Ford: Αυτό το βαθύ ψεύτικο βίντεο είναι ένα μόνο από μια σειρά χιουμοριστικών βίντεο Collider που κινηματογραφούν ταλαντούχους ιμπρεσιονιστές και αντικαθιστούν τα πρόσωπά τους με διασημότητες. Σε αυτό το παράδειγμα, ο George Lucas και ο Harrison Ford αντιδρούν στο Baby Yoda από Το Mandalorian.
- The Rock βαθιά πλαστά στο The Rock: Σε αυτό το βαθύ ψεύτικο από το Corridor Crew, χρησιμοποιούν βαθιά ψεύτικη τεχνολογία για να διορθώσουν την παράξενη απεικόνιση της κοιλάδας του Dwayne Johnson ως Scorpion King τροφοδοτώντας δεδομένα βίντεο AI του Johnson από νωρίτερα στην ίδια ταινία.
- Τα χείλη του Χένρι Κάβιλ στερεώθηκαν στο Σούπερμαν: Οι καλλιτέχνες της VFX αναγκάστηκαν να κρύψουν το μουστάκι του Κάβιλ σε μερικές σκηνές της Justice League με καρτούν. Αυτή η σύγκριση δίπλα-δίπλα δείχνει πόσο καλύτερα μπορεί να κάνει ένα βαθύ ψεύτικο.
- Το πρόσωπο του Άρνολντ Σβαρτσενέγκερ στο Μπιλ Χάιντερ: Σε αυτό το κλιπ, ο Μπιλ Χάιντερ πλαστοπροσωπεί τη φωνή του Άρνολντ και το πρόσωπο του Άρνολντ είναι βαθιά πλαστό από τον Ctrl Alt Face στο σώμα του Χάδερ. Το εφέ αφαιρείται όταν ο Hader χρησιμοποιεί την κανονική του φωνή και εφαρμόζεται όταν μιμείται τον Schwarzenegger.
- Η φωνή του Joe Rogan παραπλανήθηκε από το AI: Σε αυτό το κλιπ, ο ήχος από το podcast του Joe Rogan τροφοδοτήθηκε σε έναν αλγόριθμο AI για να δημιουργήσει ένα ρεαλιστικό μοντέλο φωνής ικανό να πει σχεδόν οτιδήποτε.
Πώς εντοπίζετε Deep Fakes;
Καθώς η τεχνολογία εξελίσσεται, έχει γίνει όλο και πιο δύσκολο να εντοπιστεί η διαφορά μεταξύ ενός βαθιού ψεύτικου και του πραγματικού. Μερικά είναι πιο εύκολο να εντοπιστούν από άλλα, αλλά τα καλύτερα φαίνονται και ακούγονται εξαιρετικά πραγματικά. Θα έχετε έναν ευκολότερο εντοπισμό χρόνου που δημιουργούνται από ερασιτέχνες που δεν είναι σε θέση να αξιοποιήσουν έναν τόνο εμπειρίας και επεξεργασίας, αλλά πρέπει να είστε επιφυλακτικοί για ενδεικτικά σημάδια παρεμβολής στο AI. Δείτε πώς μπορείτε να εντοπίσετε ένα βαθύ ψεύτικο:
- Κοιτάξτε τις άκρες του προσώπου: Εάν το AI δεν διαθέτει αρκετά δεδομένα εισόδου, το νέο πρόσωπο μπορεί να επικολληθεί αδέξια στην αρχική κεφαλή, δημιουργώντας προφανείς γραμμές οριοθέτησης ή με αποτέλεσμα ένα σχήμα προσώπου που δεν φαίνεται σωστό.
- Εξετάστε τα μαλλιά: Εάν μπορείτε να δείτε μεμονωμένες τρίχες να διασχίζουν το πρόσωπο, είναι πιθανώς ένα πραγματικό βίντεο. Το AI έχει δυσκολία στη δημιουργία ρεαλιστικών μαλλιών και οι μεμονωμένες τρίχες συνήθως δεν θα είναι ορατές σε τμήματα βίντεο που δημιουργούνται από AI.
- Δώστε προσοχή στα στόματα και τα δόντια: Το AI συνήθως έχει πρόβλημα να δημιουργήσει μεμονωμένα δόντια, τα οποία μπορεί να εντοπιστούν εύκολα εάν το βίντεο έχει υψηλή ανάλυση. Επίσης, αναζητήστε τυχόν λάθη όταν το στόμα ανοίγει και κλείνει.
- Εάν το άτομο κοιτάζει μακριά, σταματήστε το βίντεο: Τα βαθιά ψεύτικα ταιριάζουν πολύ καλά όταν το άτομο βλέπει την κάμερα, αλλά μπορεί να δυσκολευτεί όταν μεταβεί σε λήψη προφίλ ή αν το άτομο σβήσει εντελώς από την κάμερα.
- Να είστε προσεκτικοί για άγνωστες πηγές πληροφοριών: Παρόλο που είναι πιθανό να παραπλανηθεί μια αξιόπιστη πηγή και να εκτελέσει ένα βαθύ ψεύτικο σαν να ήταν πραγματικό, είναι πολύ λιγότερο πιθανό να παραπλανηθείτε εάν κολλήσετε σε αξιόπιστες πηγές ειδήσεων.