Camilla Sernagiotto per www.corriere.it

ritratto di meghan fox creato con lensa ai su instagram

 

Sui social network nelle ultime settimane si stanno moltiplicando immagini di avatar artistici dei propri contatti. Il fenomeno è dovuto al nuovo tormentone che va sotto il nome di Lensa AI. Si tratta di un’applicazione creata da Prisma Labs, la stessa società che nel 2016 ha dato i natali a un’altra app di successo (Prisma, che trasformava in dipinti le foto scattate con lo smartphone). Ora il medesimo team di sviluppatori torna a spopolare con Lensa AI.

 

Tuttavia parliamo di un’applicazione non certo nuova: è stata inaugurata nel 2018. Il successo di queste settimane è dovuto a una nuova funzione virale, chiamata «avatar magici», lanciata alla fine di novembre.  Qualche numero: secondo le stime preliminari fornite da Sensor Tower, nello stesso mese l'app è stata scaricata 1,6 milioni di volte, con un aumento del 631% rispetto a ottobre 2022.

 

ritratto di timothe??e chalamet creato con lensa ai su instagram

Oltre quattro milioni di persone in tutto il mondo hanno poi scaricato l'app nei primi cinque giorni di dicembre. E nello stesso arco di tempo, gli utenti hanno speso oltre otto milioni di dollari su Lensa AI. In totale, finora, dal suo debutto nel 2018, l'app è stata scaricata circa 22,2 milioni di volte.  Una curiosità: gli Stati Uniti generano il 58% della spesa totale degli utenti. Nell’ultimo periodo, però, l’applicazione è diventata particolarmente popolare in Brasile.

 

UN'APP A PAGAMENTO

Appena si scarica Lensa AI sul proprio dispositivo, apparirà sullo schermo un pop-up che invita a una prova gratuita (della durata di sette giorni). Per una settimana si potranno utilizzare gli strumenti di editing AI dell’app, ma attenzione: se ci si dimentica di annullare in tempo il passaggio da prova gratuita a utilizzo a pagamento, ci si vedrà addebitare 39,99 dollari. Pagando tale cifra, Lensa AI potrà essere usata illimitatamente per un anno intero.

 

ritratto di megan fox creato con lensa ai su instagram

Da sottolineare è che la versione gratuita dell'app non include la funzione «avatar magico», quella che ne ha decretato il trionfo (e quella per cui la maggior parte delle persone ora stanno scaricando Lensa). La nuova funzionalità così popolare si ottiene solo pagando, perlomeno con un acquisto in-app di minimo 3,99 dollari.  Con questa cifra si otterranno 50 avatar unici, in cinque varianti di 10 stili diversi.

 

Gli avatar targati Lensa segnano un momento epocale: è la prima volta che tante persone interagiscono con uno strumento di intelligenza artificiale generativa. Ed è anche la prima volta che tante persone pagano per ottenere arte generata al computer.

 

CHE FINE FANNO I NOSTRI SELFIE?

ritratto di lele pons creato con lensa ai su instagram

Le applicazioni di fotoritocco virali non sono viste di buon occhio, poiché molte di queste si sono rivelate veicoli di malware. In altri casi, invece, gli utenti si sono preoccupati di cosa accade alle proprie foto. Le applicazioni di editing AI di solito garantiscono che le immagini caricate vengono eliminate nel giro di quarantott'ore, tuttavia ci sono casi in cui si parla anche dell’eventualità di archiviare foto aggiornate nel cloud per «motivi di prestazioni e traffico».

 

Guardiamo al caso di Lensa AI. Cosa succede ai selfie che carichiamo sull'app per ottenere ritratti artistici di noi stessi? Prisma Labs, il team che ha sviluppato Lensa AI, ha dichiarato che nel momento stesso in cui viene finalizzato l’addestramento di un modello AI basato sulle foto di un utente, quelle stesse immagini vengono eliminate nell’immediato. È ciò che gli sviluppatori hanno affermato nelle interviste rilasciate ai media statunitensi (tra cui TechCrunch, il blog americano specializzato in tecnologia e informatica).

 

STABLE DIFFUSION, L'ARCHIVIO PER L'ADDESTRAMENTO DEGLI ALGORITMI

ritratto di lele pons creato con lensa ai su instagram

Ciò che lo scorso novembre hanno fatto gli sviluppatori di Lensa AI è stato aggiungere un nuovo strumento di generazione di avatar basato su Stable Diffusion. Quindi Lensa si appoggia su questo generatore di immagini open source, che è gratuito (ma che in questo caso funziona da intermediario). Stable Diffusion si basa a sua volta su circa 2,3 miliardi di immagini presenti su Internet.

 

 Tra queste miriadi di foto, compaiono pure opere protette da copyright, immagini da Pinterest, da Smugmug e Flickr. Ci sono perfino illustrazioni da DeviantArt e ArtStation, così come immagini stock da siti come Getty e Shutterstock. Secondo LAION, l'organizzazione no profit che mette a disposizione del pubblico le risorse di machine learning, questi dati sono elenchi di url di immagini in rete, abbinate al testo alternativo che le descrive.

 

ritratto di jared leto creato con lensa ai su instagram

LE PREOCCUPAZIONI DEGLI ARTISTI

È comprensibile il fatto che la preoccupazione degli artisti sia crescente. Illustratori, fotografi e artisti temono di venire sommersi dalle copie algoritmiche delle proprie opere. «So che molte persone hanno postato i loro ritratti di Lensa (e di altre app di IA) ultimamente» ha scritto sui social network la doppiatrice Jenny Yokobori (voce di Yoimiya in Genshin Impact e di Kuromi in Hello Kitty and Friends Supercute Adventures). «Vorrei incoraggiarvi a non farlo o, meglio ancora, a non utilizzare il servizio» ha aggiunto Yokobori in un thread su Twitter diventato molto popolare.

ritratto di chiara ferragni creato con lensa ai su instagram

 

LA TENDENZA ALGORITMICA A SESSUALIZZARE I SOGGETTI

Un aspetto inquietante dei ritratti generati attraverso l'intelligenza artificiale è la tendenza algoritmica a sessualizzare i soggetti. I termini di servizio di Lensa puntualizzano che si possono inviare solamente contenuti appropriati. Le foto sull’app non devono contenere nudi, e non è possibile uplodare immagini che ritraggono bambini: solo ed esclusivamente adulti. Nonostante queste siano le restrizioni, c'è chi infrange le regole.

 

Inoltre alcuni hanno notato che - quando si caricano foto lungi dall’essere audaci - l’app restituisce ritratti sessualizzati, con pose provocanti e seni resi più prosperosi. E quando le immagini originali non contengono nudi, Lensa talvolta genera comunque opere in cui la nudità viene contemplata. 

lensa ai 6

 

PREGIUDIZI E RAZZISMO

Alcuni utenti neri di sesso femminile hanno affermato che Lensa avrebbe sbiancato loro la pelle e modificato i lineamenti. Questa è una riprova del fatto che gli algoritmi di apprendimento automatico riproducono i pregiudizi culturali sia degli ingegneri che li codificano sia dei consumatori che li utilizzano, come hanno teorizzato gli studiosi Ruha Benjamin e Safiya Noble. Dunque gli standard di bellezza (che in questo caso sono canoni estetici occidentali) influirebbero sullo sviluppo degli algoritmi.

 

lensa ai 5

Del resto lo stesso Safiya Noble nel suo libro intitolato Algorithms of Oppression (2018) ha dato prova - tramite screenshot - dei risultati di una ricerca su Google Images condotta nel 2014: digitando nella stringa la parola « bella», il motore di ricerca restituiva immagini altamente sessualizzate di donne bianche.

 

IL TIMORE DEL DILAGARE DI IMMAGINI DI MINORI

Benché le restrizioni di Lensa AI vietino di caricare immagini di minori, ciò non impedisce ai malintenzionati di farlo. Inoltre svariati utenti che hanno provato a caricare delle foto della propria infanzia affermano di non aver incontrato alcun tipo di impedimento. Anzi: alcuni parlano di come normalissime immagini di bambini di sei anni, per esempio, siano state trasformate in scatti con soggetti, attributi e pose ben diverse.

 

lensa ai 4

«Negli ultimi 30 anni, gli sforzi per frenare gli abusi sui minori e il traffico di esseri umani si sono sviluppati insieme a Internet. Ma i generatori di arte AI eludono completamente la moderazione dei contenuti» scrive Olivia Snow sull’edizione statunitense del magazine Wired. Senza nessuna moderazione o supervisione, la violenza generata dall’IA potrebbe diventare davvero terrificante. Snow fa inoltre notare come Lensa non abbia nessuna politica che stabilisca che gli utenti possano caricare solo immagini di se stessi: le uniche specifiche rilevanti sono «la stessa persona su tutte le foto» e «nessun'altra persona sulla foto».

 

lensa ai 3

E un altro aspetto sconcertante e assai allarmante è il seguente: la frequenza di nudi indesiderati generati da un'app basata su algoritmi di apprendimento automatico indica che gli utenti hanno caricato foto esplicite su Lensa (nonostante i suoi termini di servizio) con una frequenza tale da far sì che la nudità si sia inoltrata prepotentemente nella tecnologia.

lensa ai 1 il ritratto di chiara ferragni creato con lensa ai su instagram lensa ai 2