Γιατί η χρήση του Instagram από το Facebook για την εκπαίδευση AI αυξάνει τις σημαίες απορρήτου

Βασικές επιλογές

• Οι ειδικοί της ιδιωτικής ζωής δημιουργούν ανησυχίες σχετικά με τη χρήση δημόσιων φωτογραφιών Instagram από το Facebook για την εκπαίδευση της τεχνητής νοημοσύνης.
• Το πρόγραμμα διδάχθηκε να αναγνωρίζει εικόνες, δείχνοντας στον υπολογιστή πάνω από 1 δισεκατομμύριο δημόσιες φωτογραφίες.
• Η πολιτική απορρήτου του Instagram περιλαμβάνει μια ενότητα που επιτρέπει στους χρήστες να γνωρίζουν ότι οι πληροφορίες μπορούν να χρησιμοποιηθούν στην έρευνα και την ανάπτυξη.

Η χρήση των φωτογραφιών Instagram από το Facebook για την εκπαίδευση τεχνητής νοημοσύνης δημιουργεί ανησυχίες σχετικά με το απόρρητο. Ο γίγαντας των κοινωνικών μέσων ενημέρωσης ανακοίνωσε πρόσφατα ότι είχε κατασκευάσει λογισμικό που μπορεί να μάθει από αυτό που κοιτάζει. Το πρόγραμμα διδάχτηκε να αναγνωρίζει εικόνες με κριτική πάνω από 1 δισεκατομμύριο δημόσιες φωτογραφίες. Οι ειδικοί λένε ότι οι χρήστες πρέπει να γνωρίζουν ότι το Facebook χρησιμοποιεί τις φωτογραφίες τους. «Είναι όλα σχετικά με τη γνώση της συγκατάθεσης», δήλωσε ο James E. Lee, διευθύνων σύμβουλος του Κέντρου Πόρων Identity Theft, σε συνέντευξη μέσω email. «Η πολιτική απορρήτου του Instagram – την οποία πιθανότατα δεν διαβάζουν οι περισσότεροι – δηλώνει πολύ ξεκάθαρα ότι η εταιρεία διατηρεί το δικαίωμα να χρησιμοποιήσει τις φωτογραφίες που δημοσιεύετε για έρευνα. Οι χρήστες μπορούν να ενεργοποιήσουν / απενεργοποιήσουν την αναγνώριση προσώπου στις ρυθμίσεις απορρήτου τους.»

Καλύτερα από τα υπόλοιπα

Το πρόγραμμα του Facebook, με το ψευδώνυμο SEER για την επίβλεψη SElf, κέρδισε άλλα μοντέλα τεχνητής νοημοσύνης (AI) σε μια δοκιμή αναγνώρισης αντικειμένων, ισχυρίστηκε η εταιρεία. Το πρόγραμμα πέτυχε μια «βαθμολογία ακρίβειας ταξινόμησης» 84,2% όταν υποβλήθηκε σε μια δοκιμή που ελέγχει εάν ένα πρόγραμμα AI μπορεί να προσδιορίσει τι υπάρχει σε μια εικόνα. «Η απόδοση του SEER καταδεικνύει ότι η αυτο-εποπτευόμενη μάθηση μπορεί να υπερέχει σε καθήκοντα όρασης υπολογιστή σε πραγματικό περιβάλλον», ανέφερε η εταιρεία σε δημοσίευση στο blog. «Αυτή είναι μια σημαντική ανακάλυψη που τελικά ανοίγει το δρόμο για πιο ευέλικτα, ακριβή και προσαρμόσιμα μοντέλα όρασης υπολογιστή στο μέλλον.» «Αν και οι όροι και οι προϋποθέσεις του Facebook μπορεί να τους επιτρέψουν να αξιοποιήσουν τα δεδομένα των χρηστών με τέτοιο τρόπο, οι περισσότεροι χρήστες δεν γνωρίζουν ρητά και ενεργά ότι τα δεδομένα τους εξορύσσονται για τέτοιους σκοπούς.» Εάν κυκλοφορήσει εμπορικά, ο SEER θα βοηθούσε στον εντοπισμό αντικειμένων – όχι ατόμων – χωρίς να προγραμματιστεί να γνωρίζει μέσω μιας ετικέτας τι υπάρχει σε μια φωτογραφία, είπε ο Lee. «Αυτός είναι ένας πιο αποτελεσματικός και πιο γρήγορος τρόπος από την τρέχουσα μέθοδο που απαιτεί τεράστια σύνολα δεδομένων για να ταιριάξει ένα αντικείμενο με την ταυτότητά του», πρόσθεσε. «Υπάρχει πάντα η πιθανότητα κακής χρήσης, αλλά υπάρχουν επίσης νόμιμα πιθανά οφέλη αυτού του είδους της τεχνολογίας». Το πρόγραμμα του Facebook θα μπορούσε να βοηθήσει την εταιρεία να βελτιώσει το περιεχόμενο της αστυνομίας που παραβιάζει τις πολιτικές της, για παράδειγμα, περιορίζοντας την ανεπιθύμητη έκθεση σε άσεμνες ή γραφικές εικόνες, δήλωσε ο Aimee O’Driscoll, ερευνητής ασφάλειας στον ιστότοπο απορρήτου Comparitech, σε συνέντευξη μέσω email. Θα μπορούσε επίσης να χρησιμοποιηθεί για την αυτόματη περιγραφή των εικόνων, βελτιώνοντας τις εμπειρίες των χρηστών για άτομα με προβλήματα όρασης.

Έχετε ήδη συμφωνήσει σε αυτό το πρόγραμμα

Η πολιτική απορρήτου του Instagram περιλαμβάνει μια ενότητα που επιτρέπει στους χρήστες να γνωρίζουν ότι οι πληροφορίες μπορούν να χρησιμοποιηθούν στην έρευνα και ανάπτυξη. «Η εταιρεία χρησιμοποιεί τα δεδομένα της για ένα άλλο μέρος της επιχείρησής της, παρόμοια με τον τρόπο που χρησιμοποιεί δεδομένα χρηστών για να τροφοδοτήσει τη διαφημιστική της επιχείρηση», δήλωσε ο O’Driscoll. «Ακόμα κι έτσι, οι χρήστες μπορεί να εξακολουθούν να αισθάνονται άβολα με τη χρήση των εικόνων τους με αυτόν τον τρόπο.» Ο Yashar Behzadi, Διευθύνων Σύμβουλος της Synthesis AI, μιας εταιρείας που χρησιμοποιεί τεχνητή νοημοσύνη για την όραση του υπολογιστή, δήλωσε ότι οι τελευταίες εξελίξεις στο AI στο Facebook αντιπροσωπεύουν μια «σημαντική βελτίωση» στην ικανότητα υπολογιστικής όρασης. «Οι χρήστες μπορούν να αναμένουν καλύτερη ετικέτα εικόνας και αναζήτηση με βάση τα συμφραζόμενα, ενώ οι διαφημιζόμενοι θα επωφεληθούν από την ακριβέστερη στόχευση χρηστών», πρόσθεσε. Ωστόσο, η προσέγγιση του Facebook να αξιοποιεί δισεκατομμύρια εικόνες Instagram δημιουργεί σοβαρές ανησυχίες σχετικά με την προστασία της ιδιωτικής ζωής και των κανονιστικών ρυθμίσεων, δήλωσε ο Behzadi.

«Αν και οι όροι και οι προϋποθέσεις του Facebook μπορεί να τους επιτρέψουν να αξιοποιήσουν τα δεδομένα των χρηστών με τέτοιο τρόπο, οι περισσότεροι χρήστες δεν γνωρίζουν ρητά και ενεργά ότι τα δεδομένα τους εξορύσσονται για τέτοιους σκοπούς», είπε. «Πιστεύουμε ότι οι εταιρείες πρέπει να είναι πιο ειλικρινείς και διαφανείς με τους χρήστες, επιτρέποντάς τους τον πλήρη έλεγχο των δεδομένων τους.» Πολλές άλλες εταιρείες έχουν χρησιμοποιήσει τεχνητή νοημοσύνη για να εντοπίσουν τα περιεχόμενα μιας εικόνας, επεσήμανε ο Bobby Gill, Διευθύνων Σύμβουλος της Blue Label Labs, σε συνέντευξη μέσω email. «Ωστόσο, το γεγονός ότι αυτό σχεδόν σίγουρα θα χρησιμοποιηθεί για το μάρκετινγκ είναι αυτό που προκαλεί ανησυχία», πρόσθεσε. Το νέο πρόγραμμα θα μπορούσε να εγείρει πιθανές ανησυχίες σχετικά με το απόρρητο, ανάλογα με τον τρόπο με τον οποίο το Facebook σκοπεύει να χρησιμοποιήσει το σύστημα, δήλωσε ο Gill. «Αυτά τα δεδομένα θα ήταν πιθανώς προσβάσιμα σε τεχνικούς εμπόρους που θα τα χρησιμοποιούσαν για να προσδιορίσουν συγκεκριμένες τάσεις με βάση διάφορα στοιχεία που προσδιορίζονται σε μια εικόνα», είπε. Για παράδειγμα, το να μπορείς να τραβάς πληροφορίες από εικόνες που δημοσιεύουν οι χρήστες προσθέτει μια άλλη διάσταση για συσχετιστικά συστήματα που χρησιμοποιούν γενικά συμπεριφορά για να σχεδιάζουν και να στοχεύουν άτομα. Μπορεί να μάθουμε ότι οποιοσδήποτε με, για παράδειγμα, βάτραχος στο 3-7% των φωτογραφιών του είναι πολύ πιθανό να αγοράσει εξοπλισμό γυμναστικής στο σπίτι. »