Tag: deep fake

L’intelligenza Artificiale è una minaccia per l’umanità? Si, ma non come immaginate!

L’avvento dell’intelligenza artificiale (IA) potrebbe rappresentare una minaccia per l’umanità, ma non per il motivo che pensate; a dirlo è un gruppo di grandi esperti del settore.

Dimenticate Skynet e Ghost in the Shell, perchè la minaccia potrebbe venire da noi esseri umani.

Il protocollo della Center for AI Safety

Secondo gli avvertimenti di esperti del settore, tra cui Sam Altman, AD di ChatGPT OpenAI, Demis Hassabis, CEO di Google DeepMind e Dario Amodei di Anthropic la possibilità non è remota, al punto che la Center for AI Safety, un’organizzazione americana che riunisce esperti attivi nel campo, sostiene che mitigare il rischio di estinzione causato dall’IA dovrebbe essere una priorità globale, insieme ad altre minacce sociali come pandemie e guerre nucleari. Geoffrey Hinton, uno dei pionieri dell’IA, ha anche appoggiato questo appello.

Tra i firmatari dell’appello ci sono anche alcuni italiani, tra cui il fisico Roberto Battiston dell’Universitàdi Trento e Luca Simoncini, ex docente di Ingegneria dell’informazione all’Università di Pisa ed ex direttore dell’Istituto di tecnologie dell’informazione del Consiglio Nazionale delle Ricerche.

Battiston afferma che il pericolo non è rappresentato da una superintelligenza che sopraffare l’umanità, ma dalle conseguenze dell’uso quotidiano della IA nella società, come l’interferenza nei processi elettorali, la diffusione di notizie false e la creazione di canali di disinformazione. Simoncini osserva che l’uso estensivo dell’IA sta portando a una rivoluzione sociale. Questo però  comporta anche seri problemi, come la produzione di fake news e il controllo delle auto autonome, oltre a impatti economici, finanziari, politici, educativi ed etici.

Secondo Simoncini, è evidente che nessuno può opporsi se la tecnologia emergente viene utilizzata per scopi benefici, come nel campo biomedico o farmaceutico, ma nel campo sociale comporta dei dubbi pericolosi.

I primi esempi in rete

La fotografia che ritrae il presidente Trump arrestato da un gruppo di poliziotti americani ha fatto il giro del mondo ne è un’esempio: non è mai successo, ma si sono creati momenti di tensione sui social.

Fake image of Donald Trump being arrested by police officer

Ma era un falso realizzato da Midjourney. Eppure molti hanno visto realizzarsi le peggiori previsioni del gruppo complottisticio QUANON.

Cosa succederebbe se un domani vedessimo video ed immagini realizzati ad hoc per creare o confermare bufale, fake news e complotti vari?

Forse i toni della dichiarazione del Center for AI Safety che richiama all’attenzione i rischi dell’IA, paragonando la situazione a quanto affermato nel manifesti di Bertrand Russell e Albert Einstein nel 1955 riguardo ai pericoli delle armi nucleari può sembrare eccessiva, ma è evidente che non siamo preparati ad un mondo in cui la “verità” sarà sempre più liquida.

E voi cosa ne pensate?

Unrecord, un gioco così realistico da sembrare fake!

AI o non AI, questo è il dilemma! Negli ultimi mesi siamo così abituati a vedere elaborazioni grafiche così perfette create in pochi secondi dalle Intelligenze Artificiali che stiamo perdendo il gusto della “realtà artistica” creata da geniali menti umane e dall’esperienza di creativi competenti. Qualche settimana fa, milioni di utenti sono caduti nella trappola del “Papa con il Moncler“: non ci stupisce che lo stesso pubblico si domandi se un nuovo capolavoro videoludico come Unrecord sia davvero un gioco o un video fake opportunatamente postprodotto!

Unrecord - Official Early Gameplay Trailer

Unrecord non è un fake! Si tratta di un gioco (o meglio lo sarà al più presto), a quanto pare molto promettente a livello di gameplay, ma, sopratutto, estremamente realistico a livello grafico! Alexandre Spindler e il suo piccolo studio francese Drama hanno recentemente diffuso un video trailer di questo prossimo fps tattico realizzato in Unreal Engine 5, tanto realistico da sembrare falso, tanto bello da essere vero. Un progetto “non nuovo” ma che ha già alle spalle anni di studio e sviluppo per sfruttare le capacità di UE, utilizzando Lumen, Nanite e tutte le altre funzionalità incluse del motore di Epic.

Più reale del reale! Obiettivamente guardando il video del gioco per la prima volta il dubbio sorge sponetamento: le texture, i modelli, i movimenti del protagonista, la luce e le ombre estremamente dinamiche e realistiche: tutto ricorda una ripresa live action tratta dalla bodycam di un poliziotto “umano” a caccia di malvimenti in un edificio abbandonato!

Per fare tacere le critiche Alexandre Spindler ha dovuto condividere un post su Twitter per dimostrare il suo lavoro di programmazione su Unreal Engine 5, scrivendo: “Dedicato a chi pensava che Unrecord fosse finto o fosse solo un video, mi spiace”. Lo studdio francese, per realizzare questo gioco (che tra l’altro promette davvero bene come gameplay oltre che come grafica) ha utilizzato come base di sviluppo  la mappa Modular Abandoned Building per Unreal Engine, in vendita negli store a meno di cento dollari. Da questa base e dagli asset, lo sviluppatore ha semplicemente “mosso i primi passi” del gioco per ingolosire la community con cotanta perizia grafica per poi passare, solo in un secondo momento allo sviluppo del gameplay. Meccaniche e dinamiche che solo ora cominciano a conoscere: Unrecord sarà un gioco di investigazione che comporteranno per i giocatori raffinate scelte tattiche molto più complesse di un “normale” fps. Tra l’altro, tra le feature del gioco più attese, ci sarebbe un sistema inedito di gestione degli interrogratori come mostrato nel recente trailer.

Unrecord non ha duqneu ancora una data di uscita, ma il team francese ha già promesso una versione sia per PC che per console Next Gen condividendo anche l’obiettivo di uno creare una versione per Headset VR.

Perché la foto del Papa con il monclerino deve farci paura (davvero)

L’avete vista la foto del Papa vestito da rapper, vero? E quella di Trump arrestato? Lo sappiamo, qualcuno di voi probabilmente ha anche dato un’occhiatina a un porno con il visino di quel/la divo/a che vi piace molto. E allora?

È inutile girarci attorno: l’Intelligenza artificiale è una figata se vogliamo che scriva le nostre tesine, che faccia le nostre relazioni per il lavoro o persino che scriva per noi qualche messaggio per rimorchiare (sì, c’è anche chi ci ha provato e su google troverete di tutto).

Ma parliamoci chiaro: se smettiamo di pensare, se ci affidiamo completamente a un’entità cerebrale virtuale, non c’è per caso il rischio che prima o poi ci faccia fare la fine del topo come pensa anche Elon Musk?

Pensate un po’alle foto che girano online adesso e siate sinceri: quanti di voi, vedendo la prima foto che era circolata del Papa con il monclerino, hanno capito che era falsa?

Ve lo diciamo noi: quasi nessuno. E allora, quando tra pochi mesi (in realtà in parte già è così) dalla facilità per chiunque di fare finte foto come quella si passerà ai video, cosa impedirà di manipolare totalmente la comunicazione, la nazione?

Vi fa ridere? C’è poco da ridere: pensate se in un Paese come la Russia circolasse un video così realistico da sembrare reale, in cui Putin ad esempio – che so – dice di essere sotto attacco e di essere vittima di un colpo di Stato. Pensate se poi dovesse dire – in quello stesso video – “scendete in piazza, sarete ricompensati! I nemici si sono travestiti da postini, uccideteli e per ogni nemico del popolo russo avrete un milione di rubli”. Non credete che forse qualcuno davvero lo farebbe?

Dove potrebbe arrivare il limite tra il vero e il falso, tra il pericoloso e l’innocuo? E poi, lasciamo perdere Putin, pensiamo a noi. A voi. Alla vostra amica, che potrebbe ritrovarsi in un attimo protagonista – pur senza averlo mai fatto – di un video scandaloso che le rovinerebbe la vita, girando di social in social, di whatsapp in whatsapp.

Una vita, rovinata da un imbecille che ha preso la sua foto e usando l’Intelligenza Artificiale l’ha appiccicata su un bel filmino.

Per non parlare poi dell’ipotesi peggiore. Roba così, tanto per scherzare: tipo Terminator, tutte le Intelligenze Artificiali del mondo si uniscono contro l’uomo per farlo fuori. O per manipolarlo.

Basta poco, basta che gli lasciamo fare e pensare al posto nostro. Che poi è la tesi pubblicata pochi giorni fa sul Time da Eliezer Yudkowsky, teorico dell’intelligenza artificiale statunitense e fondatore del Machine Intelligence Research Institute (MIRI). Yudkowsky non va per il sottile, non si chiede neppure “se” l’AI ci distruggerà, ma solo “quando?”.

“La cosa più probabile che possa capitare, visto che non abbiamo ancora modo di instillare i valori umani in questi sistemi è che queste intelligenze non vogliano quello che vogliamo noi e non abbiano nessuna cura per i loro creatori. Saremo solo atomi che potranno essere utilizzati e loro saranno molto più intelligenti di noi. Sarà come assistere a una sfida tra un campione mondiale di scacchi e un bambino di 10 anni o tra un Homo Sapiens e un Australopiteco”.

E dunque, che cosa bisogna fare? Il primo big del settore tech a parlarne è stato, come dicevamo poco fa,il creatore di Tesla e proprietario di Twitter Elon Musk, che ha chiesto “una moratoria di sei mesi”. In parole povere? “Fermiamo per sei mesi l’intelligenza artificiale e ragioniamo su quanto possa essere pericolosa”.

Assolutamente inutile, secondo l’esperto Yudkowsky. La soluzione? Uno stop definitivo, perché “Non siamo preparati. Non siamo sulla buona strada per essere preparati in una finestra di tempo ragionevole. Non c’è nessun piano. I progressi nelle capacità dell’IA sono molto, molto più avanti dei progressi nell’allineamento dell’IA o persino dei progressi nella comprensione di cosa diavolo sta succedendo all’interno di quei sistemi. Se lo facciamo davvero, moriremo tutti”.

Insomma, ripetiamolo tutti insieme: la soluzione? “Chiudere tutto. Non siamo pronti. Non siamo sulla buona strada per essere significativamente più pronti nel prossimo futuro. Se andiamo avanti, moriranno tutti, compresi i bambini che non l’hanno scelto e non hanno fatto nulla di male. Spegnerlo”.

Insomma, l’apocalisse dietro l’angolo. Che ne dite… quanto manca?

Exit mobile version