Non puoi credere a ciò che vedi

Online circolano foto, video e audio di ogni genere. Come distingui il vero dal falso?

E buongiornoooo💛

L’altro giorno è successa una cosa strana. Stavo scrollando su Instagram, ero nella sezione dei Reels dei profili che non segui, e mi sono imbattuto nel video di una ragazza. Non faceva niente di che: sorrideva, raccontava qualcosa di banale e nel frattempo si preparava. Poi ho iniziato a leggere i commenti. Centinaia di persone si chiedevano se quella ragazza fosse vera o meno. Chi sosteneva che avesse le mani un po’ strane, chi diceva che il viso era troppo sfocato e poco chiaro, altri invece erano convinti fosse una ragazza in carne ed ossa. Ti dico la verità: io non ho capito se fosse una ragazza vera o un’immagine generata dall’IA.

Purtroppo non ritrovo il video, ma la sensazione che mi ha lasciato addosso era di incertezza. Possibile che anche dopo aver rivisto il video tante volte io non sapessi capirne la natura? Se mi è successo con un video così, quante altre volte mi è successo?

E così, da queste domande nasce Direct, che oggi ospita anche Rudy Bandiera che mi ha dato una mano nel capirci qualcosa.

Iniziamoooo🚀

San Tommaso diceva che se non vedeva, non credeva. Oggi, nell’era della post-verità, questo assunto non è più valido come un tempo. Perché ogni giorno mi rendo sempre più conto che online rischio di confondere il vero con il falso, l’autenticità con l’artificialità.

Allora, con ordine: cos’è l’era della post-verità, o post-truth? Si tratta di un termine certamente datato, visto che nel 2004 già esistevano libri con questo titolo. Però è nel 2016 che l’Oxford Dictionary l’ha resa la parola dell’anno. Perché il 2016? Perché è stato l’anno delle elezioni presidenziali negli Stati Uniti Trump contro Clinton e anche della Brexit. Due esempi già storici di disinformazione, manipolazione e caos mediatico.

Una bella definizione di post-verità viene data da Lee McIntyre, ricercatore al Centro di filosofia e storia della scienza all’università di Boston e docente di etica all’Harvard Extension School e autore del libro “Post-truth”:

“Che le persone mentano, e che la politica usi la propaganda per perseguire i propri fini non è certo una novità. Per post-verità io però intendo qualcosa di molto diverso: un contesto in cui l’ideologia ha la meglio sulla realtà perché quale sia la verità interessa poco o niente. Quando si mente, si cerca di convincere qualcuno che quel che si sostiene è vero. Con la post-verità, tutto questo è irrilevante. Non occorre sforzarsi di ingannare nessuno. Non si devono costruire prove false. Quel che conta è avere la forza di imporre la propria versione, indipendentemente dai fatti. Basta ripetere concetti semplici e accattivanti, anche se infondati, perché a nessuno conviene verificarli”.

Insomma, in questa epoca l’obiettivo non è nemmeno più l’inganno in sé, la fake news in sé. Non è più necessario costruire un inganno credibile, perché ci siamo già abituati a un clima di sfiducia e disillusione sistemica che allo stesso tempo legittima e delegittima tutto. Per questo mediamente ci siamo abituati a dare più peso alle opinioni che ai fatti. Come ha detto il giornalista Michele Smargiassi:

“La post-verità forse è proprio questo: non la diffusione della bugia, ma la disponibilità dei lettori a non attribuire più una grande importanza alla differenza fra vero e falso”.

Il caos è quotidiano ⛈️

Facendo un passo oltre, è cruciale analizzare anche il tema dei deepfake nello specifico. I deepfake sono foto, video e audio creati grazie a software di intelligenza artificiale che modificano o ricreano contenuti reali in modo estremamente realistico. La giornalista esperta di scienza e tecnologia Esther Paniagua, definisce i deepfake “falsificazioni iperrealiste”, che è secondo me un modo molto didascalico ed evocativo per esprimere il concetto.

Uno dei primi deepfake virali è del 2018. Il protagonista era Barack Obama che diceva che “Trump è un imbecille assoluto”. Si è trattato di un esperimento condotto dal sito di notizie e intrattenimento Buzzfeed per mostrare come fosse facile creare contenuti apparentemente realistici ma in realtà del tutto falsi.

Come evidente, il video di Obama usava tecnologie meno sviluppate di quelle di oggi. Ma se 6 anni fa già questo esperimento era credibile, ciò che si può fare oggi è sconfinatamente più potente.

Lo sviluppo dei social, parallelo a quello dell’Intelligenza Artificiale, ha sezionato in miliardi di pezzi la realtà. Facci caso: prova a chiedere a un tuo amico quali sono stati i temi più caldi degli ultimi giorni, e confronta le sue risposte con le tue. Con ogni probabilità, tu e lui avrete notizie, spunti, fatti e trend diversi. Questo perché i social tendono a iperpersonalizzare i contenuti e quindi a mostrare a ognuno un brandello di realtà legato ai propri interessi.

Per anni, ricercatori e giornalisti hanno messo in guardia dal rischio che i deepfakes e gli strumenti di intelligenza artificiale generativa potessero distruggere proprio quegli ultimi brandelli di realtà condivisa rimasti. Gli esperti pensavano che la tecnologia potesse diventare così brava a creare media sintetici da rendere difficile per chiunque credere a qualcosa di cui non sia stato testimone in prima persona. Il problema è che pensavano che sarebbe accaduto tra tanti anni, mentre in realtà lo stiamo già vivendo.

Se pensi che sia una distopia, sbagli. Questo universo della post-verità non si sostanzia in un episodio di fantascienza caotica. È invece banale: le persone provano un disorientamento, un sospetto e una sfiducia pervasivi. L'era del deepfake non ha bisogno di essere alimentata da un'intelligenza artificiale generativa, basta un frettoloso Photoshop.

Paradossalmente, il sospetto è diventato così diffuso che non serve nemmeno usare il programma più sofisticato per ingannare. Basta gettare l’amo, e qualcuno abboccherà. Per citare ancora Esther Paniagua: “disinforma, qualcosa resterà”.

Superare il limite della realtà ✈️

E qui entra in gioco Rudy Bandiera che mi ha aiutato a fare il punto di tutte le informazioni di cui abbiamo parlato finora. (Rudy parlerà da inizio 🤖 a fine 🤖). Si autodescrive così: “🤖descrivermi è la cosa più complicata, non esiste un nome per quello che faccio. Amore dire che sono un divulgatore, scrivo i libri e uso i social per far sì che le persone non si terrorizzino davanti al cambiamento e all’innovazione🤖”

Gli ho chiesto cosa ne pensasse del termine post-verità e di come siamo entrati in questa fase.

“🤖Siamo nella post-verità o neo verità o non-verità o pseudo-verità, non so quale sia l’espressione migliore. Ci siamo entrati quando i social sono diventati un medium usato da tutti. Gli early adopter sono quelli più snob, poi arrivano tutti e diventa un luogo iper-frequentato. Da quel momento Umberto Eco dice “abbiamo dato dato voci a legioni di imbecilli”. Forse è un po’ eccessivo, ma insomma ci sta.

Cito il libro di Giuliano da Empoli, “Gli ingegneri del caos”.

“Ognuno di noi cammina nella propria bolla, dentro la quale si sentono alcune voci e non altre, esistono alcuni fatti e non altri, senza la minima possibilità di uscirne, figuriamoci scambiarla con quella di un’altra persona. Sembriamo pazzi gli uni agli altri perché a dividerci non sono più le opinioni che portiamo sui fatti, ma i fatti stessi”.

Inoltre ormai siamo tutti tifosi. Quando abbiamo un’idea la portiamo avanti a priori.🤖”

Qual è stato invece il ruolo dei deepfake?

“🤖Ogni tecnologia porta sempre scompiglio, pensiamo sempre che cambierà tutto in negativo. Le evoluzioni però portano sia rischi che opportunità. Stiamo iniziando a capire i rischi. Tik Tok nella policy dice che se un contenuto è creato con IA deve essere contrassegnato da un’etichetta, perché ormai non siamo più in grado di riconoscerle.
Però ci dà tantissime opportunità l’IA. L’importante è conoscere gli strumenti. Se non sappiamo che esistono allora non conosciamo i lati positivi. Se non conosci l’Intelligenza Artificiale, ne avrai paura, e questo vale per tutto. Dobbiamo sensibilizzare le persone sul fatto che questi temi riguardano tutti, sempre. Fin quando penseremo che non ci riguarda, allora saremo tutti diretti solo ai lati negativi. 🤖”

Come si evitano le divisioni e le fazioni digitali?

“🤖Baricco in “The game” dice che i social sono una nostra evoluzione, noi ne avevamo bisogno. Io sostengo da tempo che vada proibito l’anonimato sui social. E’ necessario introdurre un’identità digitale certificata. Nel momento in cui commenti e produci contenuti devi essere riconosciuto. Spesso le fake news vengono proprio prodotte da utenti falsi, da account bot che quindi non sono riconosciuti. Ovviamente la gente ha il diritto di dire ciò che vuole, ma con il proprio nome e la propria identità. 🤖”

factanza

A post shared by @factanza

Qual è stato il deepfake più bello secondo Rudy?

“🤖Per me il deepfake più bello e credibile è il Papa con il piumino Moncler. Non mi ero accorto fosse finto, quando l’ho visto ero convinto fosse vero. Poi quando ho visto che c’era la stessa foto in cui stava in moto e ho capito che era troppo. Abbiamo superato il limite oltre il quale non siamo più in grado di distinguere la realtà, senza dubbio. 🤖”

Quindi, in conclusione: capirci qualcosa online è diventato un bel casino. Dividersi, scontrarsi e soprattutto adottare un atteggiamento scettico e sfiduciato è sempre più comune, ma non per questo dobbiamo smettere di credere nel potere dei social e dell’IA. L’importante è CONOSCERE. Perché conoscere aiuta a capire il bene e il male. Poi sta a noi scegliere come usarli.

Il sondaggione artificiale 🕶️

Detto questo, sono curioso di sapere se anche a te sia mai capitata un’esperienza strana sui social nel rapporto con qualche immagine/video creato con intelligenza artificiale.

Quindi…

Se ti va, commenta alla fine della newsletter con un caso che ti ha colpito/a!

Inside Zeta 👀

(Ossia tu che spii i dietro le quinte e le cose carine di Zeta)

Che ti devo dire. Alla fine il FuturEU24, il nostro evento fatto insieme a EuropeDirect Roma Tre e con ospiti di Google, Chiara Piotto e diversi rappresentanti delle istituzioni europee, è andato. È andato oltre le aspettative, sarò onesto. La sala era piena, tutti sono rimasti soddisfatti e noi ci siamo portati a casa un’esperienza impagabile. Grazie a tutti quelli che hanno partecipato 💛

Direct finisce qui, noi ci sentiamo tra due settimane. Se vuoi, inoltra questo numero ad amici e parenti, ogni condivisione è un aiuto enorme.

Ciaoooooooooo