TLAXCALA تلاكسكالا Τλαξκάλα Тлакскала la red internacional de traductores por la diversidad lingüística le réseau international des traducteurs pour la diversité linguistique the international network of translators for linguistic diversity الشبكة العالمية للمترجمين من اجل التنويع اللغوي das internationale Übersetzernetzwerk für sprachliche Vielfalt a rede internacional de tradutores pela diversidade linguística la rete internazionale di traduttori per la diversità linguistica la xarxa internacional dels traductors per a la diversitat lingüística översättarnas internationella nätverk för språklig mångfald شبکه بین المللی مترجمین خواهان حفظ تنوع گویش το διεθνής δίκτυο των μεταφραστών για τη γλωσσική ποικιλία международная сеть переводчиков языкового разнообразия Aẓeḍḍa n yemsuqqlen i lmend n uṭṭuqqet n yilsawen dilsel çeşitlilik için uluslararası çevirmen ağı

 15/11/2019 Tlaxcala, the international network of translators for linguistic diversity Tlaxcala's Manifesto  
English  
 UNIVERSAL ISSUES 
UNIVERSAL ISSUES / Il lato oscuro di FaceApp e DeepFake
Date of publication at Tlaxcala: 21/07/2019

Il lato oscuro di FaceApp e DeepFake

Marcello Pamio

 

Oggi vero e falso sono la stessa cosa,
talmente identici da non essere più distinguibili,
e anzi hanno finito per farsi intercambiabili.

Siamo abituati ad ogni estate avere il classico tormentone, ma quest'anno non è una canzone di Mahamood, ma bensì un’applicazione per il cellulare.
L’app che sta facendo letteralmente impazzire il cyberspazio, vip compresi, si chiama «FaceApp».
Una applicazione prodotta nel 2017 dalla società «Wireless Lab OOO» con sede a San Pietroburgo, fondata da un certo Yaroslav Goncharov.
Nel mondo sempre più persone la stanno usando e i numeri parlano da soli: «oltre 80 milioni di utenti attivi», così almeno è quanto scritto nel sito ufficiale.

Cos'ha di così attraente FaceApp?

Innanzitutto l’utilizzo è facilissimo e immediato: una volta scaricata gratuitamente da PlayStore o AppleStore, basta farsi una fotografia in primo piano (selfie) con il cellulare e poi ci penserà l’applicazione a trasformarla con dei filtri appositi.
Fin qui nulla di strano: esistono centinaia di programmi di grafica che modificano e alterano le foto, per cui cosa c’è di speciale in questa?
Per capirlo è necessario conoscere il cuore e il cervello di «FaceApp»: potenti algoritmi di Intelligenza Artificiale! Avete letto bene, questa non è una normale applicazione, perché qui viaggiamo nel mondo dell’AI.
Lo spiega lo stesso fondatore Goncharov: «abbiamo sviluppato una nuova tecnologia che sfrutta le reti neurali per modificare in maniera realistica il volto nelle foto».
Quello che differenzia la sua applicazione da tutte le altre è il fotorealismo!
In pochissimi secondi, con un clic è possibile modificare il volto: dall’acconciatura, al sesso, fino all’età, dove per quest’ultima (il filtro che ha spopolato il web) è presente sia la funzione che invecchia che quella che ringiovanisce! Esistono ben 21 filtri diversi in grado di modificare le immagini, di cui alcuni solo nella versione a pagamento (3,99 euro per l’abbonamento mensile; 19,99 euro per quello annuale, 43,99 euro per sempre).
I risultati come detto sono sconvolgenti sia per realismo che per qualità, e questo è il motivo per cui i social (Facebook, Instagram, ecc.), di punto in bianco sono diventati ospizi pieni di vecchietti.

Qui sopra un Fedez e una Ferragni attempati

Luigi Di Maio e Matteo Salvini in pensione (forse)

Quali sono i pericoli?

Fino qui nulla da eccepire, soprattutto per i risultati grafici: ma è tutto oro quello che luccica?
Vediamo quindi il rovescio della medaglia e cioè quali potrebbero essere i rischi di un utilizzo non corretto.
Innanzitutto, mentre i sudditi dell’Impero si divertono a vedersi come saranno tra 30  o 50 anni, le loro foto transitano su vari server (dove saranno archiviate e lavorate) all’estero sia negli Stati Uniti (dove FaceApp dichiara di avere sede) che in qualunque altro paese dove FaceApp ha i suoi affiliati e/o fornitori del servizio (Russia, ecc.).

Quindi queste foto che fine faranno? E per quanto tempo possono tenersele?
La società di Goncharov ovviamente non specifica nel sito, per quanto tempo verranno conservate le immagini nei loro hard disk, né dove sono localizzati fisicamente i server.
In ogni caso viene totalmente ignorata la nuova normativa sulla protezione dei dati personali, la tristemente nota Gdpr.
Un dato però è certo: le immagini saranno utilizzate dalle reti neurali come addestramento dell’intelligenza artificiale al riconoscimento facciale, a fini commerciali o anche per altri scopi molto meno positivi. Vediamo cosa…
La tecnologia alla base delle reti neurali più volti analizza nel loro database, più il sistema diventerà bravo e perfetto nel creare volti «sintetici», volti finti che non esistono ma così reali da non saperli distinguere.
Il riferimento va alle cosiddette «identità fasulle» che poi possono essere associate a veri profili social veri e propri!
Oggi è possibile creare un numero impensabile di utenti inventati (Facebook, Instagram, Twitter, ecc.), ma assolutamente credibili e realistici, che possono poi influenzare l’opinione pubblica e pesare anche sulla politica...
Qui non si parla del classico troll con il profilo finto, che scandaglia la Rete per creare zizzania, perché pagato per farlo, qua il discorso è molto più complesso. Tecnicamente (DeepFake) è possibile creare un esercito di profili fasulli, arricchiti da foto e video fasulli, ma che sembrano veri.
Un’altra cosetta importante è che stiamo letteralmente regalando i nostri «dati biometrici» a società e aziende di cui non conosciamo nulla. E’ pur vero che lo facciamo già grazie ai social, quando pubblichiamo delle foto che ci ritraggono, ma ora la tecnologia permette di creare i famigerati «DeepFake», ovvero immagini e video falsati impossibili da riconoscere come tali.

Il lato oscuro di DeepFake

Questa tecnologia sta facendo molto parlare di sé da qualche anno, anche se non tutti hanno compreso il gravissimo rischio di un suo utilizzo sbagliato. Il termine deriva da «Deep Lerning», che significa «apprendimento profondo» e «Fake» che vuol dire «falso».
Siamo anche qui all’interno del mondo AI, basata sulla sintesi di immagini umane, combinate e sovrapposte dal computer, il quale usa degli algoritmi di apprendimento non supervisionati (auto-intelligenza) che vanno sotto il nome di GAN: «Generative adversarial network» (Rete generativa avversaria, a base di reti neurali).
Tutti questi paroloni per dire che si possono creare video falsi, ma così realistici che non si può stabilire a priori la manipolazione.
Quello che è possibile fare con un programma di fotoritocco su una foto, oggi lo si può fare all’interno di un video, riuscendo a far fare e/o a far dire al soggetto vero nel video, tutto quello che si vuole!
E’ la stessa tecnologia usata da Hollywood nei film, ma oggi è alla portata di tutti e questo apre scenari impensabili e a dir poco inquietanti.
Nel film Rogue One della saga Star Wars (immagine qui sopra), per la principessa Leia hanno utilizzato FakeApp inserendo la faccia di Carrie Fisher (a destra) presa dalla trilogia originale sopra quella dell'attrice svedese Ingvild Deila (a sinistra) che ha girato le scene.
Nella stessa cinematografia per esempio gli sbocchi di tale applicazione sono tantissimi: ringiovanimento degli attori; creazione di «attori sintetici» mai esistiti prima; possibilità di farli resuscitare nel caso che un attore vero muoia veramente, ecc.
Tanto per capire, ecco cos'è successo poco tempo fa, quando un utente anonimo su Reddit (sito internet di social news e intrattenimento) con il nickname (guarda caso) «Deepfake», ha iniziato a postare una serie di video per adulti, le cui attrici protagoniste erano le bellissime Daisy Ridley e Gal Gadot (foto di lato). 
Ma le due star non hanno mai girato nessun film piccante.

 

Deepfake con Daisy Ridley. Notare la qualità incredibile

Una cosa del genere è stata resa possibile proprio da Deepfake: in pratica i volti delle due porno-attrici che hanno girato il film sono stati sostituiti da quelli della Ridley e della Gadot.
Il risultato è un video verissimo!

La porno attrice ha il volto di Gal Gadot

Esistono siti porno dedicati a questo sistema, come per esempio MrDeepfakes, che pubblica film hard con le star più famose del firmamento…

Sito porno dove puoi scegliere l'attrice

Ma oltre al porno però si spalancano portoni molto oscuri.
E’ possibile per esempio prendere un video dalla rete, sostituire il volto con quello della persona che più odiamo (la donna che ci ha lasciato, il titolare del lavoro, ecc.), per farle dire e/o fare quello che vogliamo, per poi rimetterlo in circolazione nel web.
Le ripercussioni sono incalcolabili perché non si riconosce il falso!
Dovesse capitare a noi stessi? Come possiamo dimostrare che non eravamo noi nel video?
A questo aggiungiamoci che un’azienda israeliana ha recentemente sviluppato un software che permette di modificare il movimento della bocca di una persona ripresa in un video, il gioco diventa una passeggiata.

I dirigenti di Facebook sono molto preoccupati per la crescita di questo fenomeno (ne sa qualcosa Marck Zuckerberg stesso, come vedremo) e hanno dichiarato che stanno prendendo provvedimenti per limitare al massimo l’uso sbagliato della tecnologia.
E se per caso alla fine le vittime del DeepFake fossimo proprio noi?
Immaginate un futuro in cui con qualche click, alcune foto o video sia possibile creare un DeepFake totalmente convincente da far dire o fare alla nostra vittima quello che vogliamo?
Il paradosso è che se tutto ciò non verrà fermato, arriveremo che neppure i video catturati dalle telecamere di videosorveglianza costituiranno una prova schiacciante per incastrare un criminale: chi ci assicura infatti che non siano stati manipolati con Deepfake?
Ecco cos'è accaduto al patron di FB...
A metà giugno 2019 Mark Zuckerberg è apparso in un breve video nel quale ha dichiarato: «Immaginatevi per un istante un uomo, con il controllo totale sui dati rubati a milioni di persone. Su tutti i loro segreti, le loro vite e il loro futuro.
Si deve tutto a Spectre.
Spectre mi ha fatto capire che, chi controlla i dati controlla il futuro».

Per il video cliccare sull'immagine, oppure seguire la url : https://www.instagram.com/p/ByaVigGFP2U/?utm_source=ig_embed

Parole simili, messe in bocca a chi detiene realmente i dati di miliardi di persone è agghiacciante!
La smentita ufficiale è uscita subito dopo, perché Zuckerberg non pronunciò quelle parole, era un Deepfake ben fatto e indistinguibile.
Questo semplice esempio dovrebbe farci riflettere e pensare molto seriamente, perché Deepfake potrebbe diventare una minaccia globale per tutti quanti!





Courtesy of Disinformazione
Source: https://disinformazione.it/2019/07/20/da-faceapp-a-deepfake/
Publication date of original article: 19/07/2019
URL of this page : http://www.tlaxcala-int.org/article.asp?reference=26578

 

Tags: FaceAppDeepFakeFacebookPrivacyDiritti
 

 
Print this page
Print this page
Send this page
Send this page


 All Tlaxcala pages are protected under Copyleft.