Il Grande Fratello è arrivato (ma tranquilli, c’è il filtro anti-paranoia)

Alla fine ci siamo. Tra una serie TV distopica e l’altra, il Consiglio dei ministri ha deciso di trasformare la finzione in realtà approvando il decreto legislativo sul riconoscimento facciale.
Sì, proprio quella tecnologia da Minority Report che fino a ieri sembrava roba da cyberpunk disadattati e che ora, grazie all’immancabile adeguamento all’AI Act europeo, sbarca ufficialmente anche nello Stivale.

Prima di cominciare a girare per Roma con il cappuccio alzato, gli occhiali da sole e la convinzione che la telecamera sopra il semaforo stia compilando un dossier sulle nostre preferenze alimentari, conviene rallentare un attimo. Il provvedimento approvato dal Consiglio dei ministri il 10 giugno 2026 è uno schema di decreto legislativo presentato in esame preliminare per adeguare l’ordinamento italiano al Regolamento europeo sull’intelligenza artificiale, quindi non siamo ancora davanti alla versione definitiva delle regole, anche perché il testo ha proseguito il proprio percorso parlamentare e il Garante per la protezione dei dati personali ha già chiesto tutele più solide, soprattutto sul terreno delicatissimo della biometria. Insomma, il Grande Fratello ha messo un piede sul pianerottolo, ma per ora sta ancora discutendo con l’amministratore di condominio.

Da persona che ama l’intelligenza artificiale, che la usa, la studia e continua a considerarla una delle trasformazioni più affascinanti della nostra epoca, faccio fatica a schierarmi nel teatrino abituale degli entusiasti contro gli apocalittici. Da una parte abbiamo quelli convinti che ogni algoritmo sia l’anticamera di Skynet, dall’altra chi tratta qualsiasi innovazione come un aggiornamento innocuo dell’app meteo. In mezzo resta il mondo reale, quello dove una tecnologia può aiutare a rintracciare una persona scomparsa e, nello stesso tempo, diventare uno strumento di controllo sproporzionato se viene utilizzata senza limiti credibili. L’intelligenza artificiale non possiede una morale nascosta dentro il codice, non si sveglia cattiva come un villain da anime e non diventa buona perché un comunicato stampa la definisce sicura. Fa ciò per cui è stata progettata, alimentata e autorizzata, ed è proprio su quei tre verbi che si gioca tutta la partita.

Una telecamera tradizionale registra immagini. Potrà sembrare una banalità, ma per decenni il funzionamento è stato sostanzialmente questo: succede qualcosa, qualcuno recupera il filmato, un agente o un investigatore lo guarda, cerca dettagli, confronta volti, abiti, movimenti. Il riconoscimento facciale cambia la scala e la velocità del processo. Il software individua un volto dentro un fotogramma, misura caratteristiche e proporzioni, trasforma quei dati in una rappresentazione matematica e cerca possibili corrispondenze all’interno di un archivio autorizzato. Non “vede” Gianluca, Mario o la signora che porta a spasso il cane alle sette del mattino; vede distanze, geometrie, punti di riferimento, probabilità. È meno Terminator di quanto immaginiamo, ma anche molto più potente di una semplice videocamera.

Il paragone più immediato resta quello con lo smartphone che si sblocca guardandoci in faccia, anche se la somiglianza rischia di essere ingannevole. Sul telefono avviene generalmente una verifica: il dispositivo controlla se il volto ripreso corrisponde a quello dell’utente registrato. Un sistema investigativo può invece trovarsi davanti a un problema assai più ampio, cercando una persona all’interno di un insieme di identità. La differenza ricorda certi tornei degli spokon: un conto è verificare se il giocatore davanti a noi è quello iscritto alla squadra, un altro è cercarlo tra migliaia di atleti stipati in uno stadio. Aumentano le variabili, aumentano le possibilità di errore, aumenta soprattutto il peso delle conseguenze.

Un falso negativo sul telefono ci costringe a digitare il PIN, magari borbottando perché abbiamo la barba lunga o la luce arriva male. Un falso positivo prodotto durante un’indagine può far partire un controllo, orientare un sospetto, condizionare il modo in cui un operatore interpreta ciò che sta vedendo. Il problema non consiste soltanto nella percentuale di accuratezza dichiarata dal produttore, ma nell’autorità quasi mistica che attribuiamo ai numeri. Se uno schermo mostra un volto accompagnato da un rassicurante 94%, il nostro cervello tende a leggerlo come una certezza, mentre quel risultato dipende dalla qualità delle immagini, dall’angolazione, dal database utilizzato, dalle soglie impostate e dal modo in cui il sistema è stato addestrato. L’algoritmo non ha riconosciuto il colpevole: ha suggerito una compatibilità, e tra le due cose passa la stessa distanza che separa un indizio da una condanna.

Lo schema italiano prova a mantenere questa differenza attraverso il principio della supervisione umana, escludendo che una decisione capace di incidere sui diritti individuali venga affidata esclusivamente alla macchina. Sulla carta è un passaggio essenziale. Nella pratica bisognerà capire quanto quell’intervento umano sarà realmente critico e quanto, invece, diventerà una firma apposta sotto la risposta dell’algoritmo. Ho visto abbastanza tecnologia entrare negli eventi, nelle aziende, nella comunicazione e nella nostra quotidianità per sapere che l’automazione non conquista spazio soltanto perché qualcuno la impone; spesso avanza perché è comoda, veloce e restituisce l’impressione di togliere responsabilità a chi deve decidere. “Lo ha detto il sistema” è una frase pericolosamente rassicurante, quasi una variante digitale del vecchio “sono gli ordini”.

Il punto più sensibile riguarda l’identificazione biometrica remota in tempo reale negli spazi accessibili al pubblico. L’AI Act europeo parte da un divieto generale per le attività di contrasto, ma consente eccezioni rigorose in situazioni specifiche: la ricerca mirata di persone scomparse, vittime di rapimento o tratta, la prevenzione di minacce concrete e imminenti alla vita o di attacchi terroristici, oltre all’individuazione di sospettati per determinati reati gravi. Non dovrebbe quindi esistere un pulsante rosso con scritto “scansiona la città”, da premere durante una manifestazione, una partita o il sabato pomeriggio in centro. Ogni utilizzo deve restare circoscritto nello spazio, nel tempo e rispetto alle persone cercate, accompagnato da una valutazione dell’impatto sui diritti fondamentali e sottoposto alle procedure di autorizzazione previste.

Quella parola, “circoscritto”, merita però tutta la nostra attenzione. Da laureato in giurisprudenza ho sviluppato una certa diffidenza verso i termini che sembrano precisissimi finché non devono essere applicati. Minaccia grave, necessità, urgenza, proporzionalità: sono concetti indispensabili, ma non vivono da soli. Acquistano forma attraverso le decisioni delle autorità, i controlli successivi, la trasparenza delle procedure e la possibilità concreta di contestare un abuso. Anche il più elegante dei paletti normativi può diventare elastico se ogni nuova emergenza viene raccontata come eccezionale. La storia, non soltanto quella del diritto, è piena di strumenti nati per circostanze straordinarie e rimasti poi comodamente sul tavolo.

Il testo italiano disciplina anche l’analisi biometrica effettuata dopo un reato, su immagini già raccolte. Immaginiamo una rapina ripresa da telecamere diverse: gli investigatori isolano il volto di un sospettato e lo confrontano con una banca dati legittimamente utilizzabile. Sembra una dinamica molto meno inquietante della scansione in diretta di una piazza, ed effettivamente lo è, almeno fino a quando l’operazione resta legata a un fatto preciso e a persone già individuate sulla base di elementi oggettivi. Il confine diventa meno rassicurante se gli archivi video di stazioni, strade, negozi e impianti sportivi vengono collegati tra loro, perché a quel punto la ricostruzione a posteriori può raccontare spostamenti, incontri, abitudini e frequentazioni con una precisione che fino a pochi anni fa avrebbe richiesto un’intera squadra di investigatori.

Qui torna alla mente Ghost in the Shell, non tanto per le interfacce luminose o i cervelli cibernetici, quanto per quella sensazione costante che l’identità personale non finisca più ai confini del corpo. Il nostro volto è ormai un’interfaccia: apre dispositivi, autorizza pagamenti, ordina fotografie, permette l’accesso a servizi e luoghi. A differenza di una password, però, non possiamo cambiarlo dopo una violazione. Non possiamo decidere di lasciarlo a casa, né revocarlo e crearne uno nuovo perché il precedente è finito nel database sbagliato. La biometria possiede un carattere permanente che dovrebbe renderci molto più prudenti di quanto siamo stati con email, numeri di telefono e credenziali disseminate ovunque durante gli anni ruggenti del web.

L’AI Act vieta la creazione indiscriminata di banche dati per il riconoscimento facciale attraverso la raccolta non mirata di immagini prese da internet o dai sistemi di videosorveglianza. È una garanzia decisiva, perché una fotografia pubblicata su un social non equivale al consenso a trasformare il nostro viso in una chiave biometrica utilizzabile per rintracciarci altrove. La foto delle vacanze, il selfie al Romics, l’immagine del cosplay scattata davanti allo stand non smettono di riguardarci soltanto perché sono visibili online. Il salto tra guardare una fotografia e indicizzarne matematicamente il volto è enorme, anche se dal punto di vista tecnico bastano pochi secondi.

Stadi, piazze e cortei rappresentano inevitabilmente il terreno dove il discorso si scalda. Il testo preliminare prevede limiti all’uso dell’identificazione automatica sulle immagini raccolte e introduce periodi di conservazione, registri delle operazioni e autorizzazioni. Proprio su questa architettura il confronto istituzionale è ancora aperto: il Garante Privacy, nel parere del 14 luglio e nella memoria pubblicata a fine mese, ha sostenuto la necessità di rafforzare le protezioni per i dati biometrici e di rendere più solide alcune garanzie. Non è un dettaglio tecnico lasciato ai maniaci delle note a piè di pagina; significa che le regole definitive potrebbero e dovrebbero cambiare rispetto allo schema approvato in prima battuta.

Uno dei nodi discussi riguarda l’autorità chiamata ad autorizzare l’impiego dei sistemi e il rapporto tra urgenza operativa e controllo giudiziario. La promessa politica è che nulla venga lasciato all’automatismo dell’intelligenza artificiale, ma il vero filtro anti-paranoia non può essere una dichiarazione tranquillizzante. Deve consistere in autorizzazioni motivate, registri non manipolabili, verifiche indipendenti, tempi di conservazione realmente rispettati, cancellazioni documentate, sanzioni efficaci e diritto delle persone a contestare una decisione influenzata da un risultato biometrico. La fiducia democratica non nasce perché qualcuno ci dice di stare sereni; nasce quando il potere può essere controllato anche da chi non si fida.

Resta poi un’altra questione, meno spettacolare di Minority Report e forse più profonda. Una telecamera capace di identificarci non modifica soltanto il lavoro delle forze dell’ordine, modifica il nostro modo di attraversare lo spazio pubblico. Chi sa di poter essere riconosciuto potrebbe rinunciare a partecipare a una manifestazione, a frequentare un luogo, a incontrare qualcuno o semplicemente a vivere una piazza con la stessa leggerezza di prima. La libertà non viene compressa soltanto attraverso un divieto esplicito; può restringersi dentro la testa delle persone, trasformandosi in autocensura. Michel Foucault avrebbe tirato fuori il Panopticon, noi nerd probabilmente penseremmo alla Sibyl System di Psycho-Pass, ma il meccanismo psicologico resta simile: l’idea di essere osservati finisce per disciplinare il comportamento anche senza un agente visibile dietro il monitor.

Questo non significa rifiutare la tecnologia. Sarebbe una posizione troppo facile e, personalmente, anche poco sincera. L’intelligenza artificiale applicata alla sicurezza può offrire strumenti preziosi, accelerare ricerche urgenti, mettere in relazione informazioni che un essere umano impiegherebbe giorni ad analizzare. Davanti alla scomparsa di un bambino o a una minaccia concreta, sarebbe difficile sostenere che un sistema utile non debba essere impiegato per una paura astratta. Il punto riguarda la proporzione: una tecnologia straordinaria dovrebbe restare legata a circostanze straordinarie, senza diventare lentamente l’impostazione predefinita perché l’infrastruttura è già stata acquistata, installata e pagata.

Chi frequenta da decenni fiere, concerti, convention e grandi eventi sa quanto sia cambiata la gestione della sicurezza. Dai biglietti di carta siamo passati ai QR code, dai timbri sul polso ai sistemi digitali, dalle fotografie scattate per ricordo a flussi continui di immagini riprese da telefoni, telecamere e piattaforme. Ogni evoluzione è arrivata promettendo efficienza, e spesso l’ha davvero portata. Quasi mai, però, ci siamo fermati abbastanza a lungo per domandarci quale nuova abitudine stessimo normalizzando. Il riconoscimento facciale porta questa domanda a un livello diverso, perché non riguarda ciò che scegliamo di mostrare, ma ciò che siamo costretti a esporre semplicemente esistendo in pubblico.

Il Grande Fratello, dunque, non è ancora la coscienza onnisciente immaginata da Orwell, né l’occhio infallibile di una serie cyberpunk. Assomiglia piuttosto a un sistema molto potente ancora circondato da moduli, autorizzazioni, dubbi giuridici e correzioni in corso. Il filtro anti-paranoia esiste, ma non è incorporato nel software: siamo noi, attraverso il diritto, il controllo democratico, il giornalismo, la competenza tecnica e quella sana diffidenza che non dovrebbe mai diventare isteria ma neppure sonnolenza.

Continuo ad amare l’intelligenza artificiale proprio per questo, perché ci costringe a parlare di ciò che siamo mentre immaginiamo ciò che potremmo diventare. Resta da capire quanta sicurezza siamo disposti a comprare usando come moneta una parte della nostra invisibilità, e soprattutto chi avrà il compito di dirci che il prezzo è diventato troppo alto. La telecamera, intanto, rimane sopra la piazza. Noi siamo ancora qui sotto, con il volto scoperto e parecchie cose da discutere.