Το ψεύτικο βίντεο είναι εύκολο, βαθιά νοσταλγία

Βασικές επιλογές

• Το Deep Nostalgia είναι ένα νέο πρόγραμμα που σας επιτρέπει να ζωγραφίζετε παλιές φωτογραφίες.
• Η τεχνολογία δείχνει πόσο εύκολο είναι να δημιουργείτε βίντεο ανθρώπων που κάνουν πράγματα που στην πραγματικότητα δεν έχουν κάνει στην πραγματική ζωή.
• Η βαθιά ψεύτικη τεχνολογία είναι ήδη τόσο εξελιγμένη που είναι δύσκολο να διαπιστωθεί εάν ένα βίντεο είναι πραγματικό ή δημιουργείται από υπολογιστή, λέει ένας ειδικός.

Προσέξτε το νέο λογισμικό που μπορεί να δημιουργήσει τα λεγόμενα «βαθιά ψεύτικα», στα οποία μπορούν να προσομοιωθούν βίντεο πραγματικών ανθρώπων, προειδοποιούν οι ειδικοί. Η βαθιά νοσταλγία, που κυκλοφόρησε από την εταιρεία MyHeritage, είναι δημοφιλής στα κοινωνικά μέσα, με τους χρήστες να ανανεώνουν όλους από διάσημους συνθέτες έως νεκρούς συγγενείς. Το λογισμικό δημιουργεί μικτές αντιδράσεις, με μερικούς ανθρώπους ενθουσιασμένους από τις δημιουργίες, και άλλοι τις βρίσκουν ανατριχιαστικές. Η τεχνολογία δείχνει πόσο εύκολο είναι να δημιουργείτε βίντεο ανθρώπων που κάνουν πράγματα που στην πραγματικότητα δεν έχουν κάνει στην πραγματική ζωή. «Η τεχνολογία Deepfake γίνεται πιο εξελιγμένη και πιο επικίνδυνη», δήλωσε ο Aaron Lawson, βοηθός διευθυντής του εργαστηρίου τεχνολογίας και έρευνας ομιλίας της SRI International (STAR), σε συνέντευξή του μέσω email. «Αυτό οφείλεται εν μέρει στη φύση της τεχνητής νοημοσύνης. Όπου η» παραδοσιακή «τεχνολογία απαιτεί ανθρώπινο χρόνο και ενέργεια για να βελτιωθεί, η AI μπορεί να μάθει από μόνη της.» Αλλά η ικανότητα της AI να αναπτυχθεί είναι ένα δίκοπο σπαθί «, συνέχισε ο Lawson.» Εάν δημιουργηθεί μια τεχνητή νοημοσύνη για να κάνει κάτι καλό, καλό. Αλλά όταν ένα AI έχει σχεδιαστεί για κάτι κακόβουλο όπως βαθιά ψεύτικα, ο κίνδυνος είναι άνευ προηγουμένου. »

Το λογισμικό ζωντανεύει τις φωτογραφίες

Ο γενεαλογικός ιστότοπος MyHeritage παρουσίασε τη μηχανή κινουμένων σχεδίων τον περασμένο μήνα. Η τεχνολογία, γνωστή ως Deep Nostalgia, επιτρέπει στους χρήστες να κινούν φωτογραφίες μέσω του ιστότοπου MyHeritage. Μια εταιρεία που ονομάζεται D-ID σχεδίασε αλγόριθμους για το MyHeritage που αναδημιουργούν ψηφιακά την κίνηση των ανθρώπινων προσώπων. Το λογισμικό εφαρμόζει τις κινήσεις στις φωτογραφίες και τροποποιεί τις εκφράσεις του προσώπου ώστε να κινείται όπως συνήθως κάνουν τα ανθρώπινα πρόσωπα, σύμφωνα με την ιστοσελίδα MyHeritage. Η βαθιά νοσταλγία δείχνει ότι η βαθιά ψεύτικη τεχνολογία γίνεται πιο προσιτή, δήλωσε ο Lior Shamir, καθηγητής της επιστήμης των υπολογιστών στο κρατικό πανεπιστήμιο του Κάνσας. Προχωράει γρήγορα και εξαλείφει ακόμη και τις λεπτές διαφορές μεταξύ του ψεύτικου και του πραγματικού βίντεο και ήχου.

«Έχει επίσης σημειωθεί σημαντική πρόοδος προς το βαθύ ψεύτικο σε πραγματικό χρόνο, πράγμα που σημαίνει ότι τα πειστικά βαθιά ψεύτικα βίντεο δημιουργούνται κατά τη στιγμή της επικοινωνίας βίντεο», δήλωσε ο Shamir. «Για παράδειγμα, μπορεί κανείς να έχει μια συνάντηση Zoom με ένα συγκεκριμένο άτομο, ενώ βλέπει και ακούει τη φωνή ενός εντελώς διαφορετικού ατόμου.» Υπάρχει επίσης ένας αυξανόμενος αριθμός απομιμήσεων που βασίζονται στη γλώσσα, δήλωσε ο Jason Corso, διευθυντής του Ινστιτούτου Τεχνητής Νοημοσύνης του Stevens στο Ινστιτούτο Τεχνολογίας του Stevens. «Η δημιουργία ολόκληρων παραγράφων βαθύ ψεύτικου κειμένου προς μια συγκεκριμένη ατζέντα είναι αρκετά δύσκολη, αλλά οι σύγχρονες εξελίξεις στην επεξεργασία φυσικής γλώσσας καθιστούν δυνατή», πρόσθεσε.

Πώς να εντοπίσετε ένα βαθύ ψεύτικο

Ενώ η τεχνολογία ανίχνευσης σε βαθιά ψεύτικη κατάσταση βρίσκεται ακόμη σε στάδιο εκκίνησης, υπάρχουν μερικοί τρόποι με τους οποίους μπορείτε να εντοπίσετε έναν, είπε ο Corso, ξεκινώντας από το στόμα. «Η μεταβλητότητα στην εμφάνιση του εσωτερικού του στόματος όταν κάποιος μιλάει είναι πολύ υψηλή, γεγονός που καθιστά δύσκολη την κινούμενη εικόνα πειστικά», εξήγησε ο Corso. «Μπορεί να γίνει, αλλά είναι πιο δύσκολο από το υπόλοιπο κεφάλι. Παρατηρήστε πως τα βίντεο της Deep Nostalgia δεν δείχνουν την ικανότητα της φωτογραφίας να λέει« σ ‘αγαπώ »ή κάποια άλλη φράση κατά τη διάρκεια της βαθιάς ψεύτικης δημιουργίας. θα απαιτούσε το άνοιγμα και το κλείσιμο του στόματος, κάτι που είναι πολύ δύσκολο για την παραγωγή ψεύτικων.

Το Ghosting είναι ένα άλλο δώρο, πρόσθεσε ο Corso. Εάν δείτε να θολώνει γύρω από τις άκρες του κεφαλιού, αυτό είναι αποτέλεσμα της «γρήγορης κίνησης ή περιορισμένων εικονοστοιχείων που διατίθενται στην αρχική εικόνα. Ένα αυτί μπορεί μερικώς να εξαφανιστεί στιγμιαία ή τα μαλλιά να γίνουν θολά όπου δεν θα το περιμένατε», είπε. Μπορείτε επίσης να αναζητήσετε παραλλαγές χρώματος όταν προσπαθείτε να εντοπίσετε ένα βαθύ ψεύτικο βίντεο, όπως μια αιχμηρή γραμμή σε όλο το πρόσωπο, με πιο σκούρα χρώματα στη μία πλευρά και ελαφρύτερα από την άλλη. «Οι αλγόριθμοι υπολογιστών συχνά εντοπίζουν αυτά τα μοτίβα παραμόρφωσης», δήλωσε ο Shamir. «Αλλά οι βαθιές ψεύτικες αλγόριθμοι προχωρούν γρήγορα. Είναι αναπόφευκτο να απαιτούνται αυστηροί νόμοι για την προστασία από το βαθύ ψεύτικο και τη ζημιά που μπορούν εύκολα να προκαλέσουν.»