L'ex appaltatore dell'intelligence Edward Snowden ha a lungo avvertito che l'ampia raccolta di dati—ogni foto, acquisto, messaggio e movimento—potrebbe essere alimentata in sistemi algoritmici che determinano il futuro di una persona.

I recenti reportage confermano che questo scenario non è più ipotetico: nella Repubblica Popolare Cinese, i sistemi "cerebrali" a livello cittadino collegano già CCTV, riconoscimento facciale, registrazioni di viaggio e altri dati a meccanismi di enforcement.

Gli esperti notano che alcuni governi e aziende tecnologiche occidentali stanno ora implementando componenti della stessa architettura, sollevando interrogativi su cosa venga importato e come possa evolversi.

Nei principali centri urbani della Cina, i governi locali hanno creato sistemi integrati che monitorano i movimenti quotidiani, il comportamento e la conformità alle norme regolatorie dei cittadini.

Questi sistemi assegnano agli individui categorie di rischio; se non si raggiungono gli standard, si attivano conseguenze, come restrizioni nei viaggi o esclusione dai servizi.

Un rapporto afferma che questo modello è "ora monitorato da vicino da regolatori, governi e aziende private in Europa e Nord America".

Nel frattempo, gli avvertimenti di Snowden sono diventati sempre più netti.

Ha detto: "Le istituzioni stanno bruciando la fiducia pubblica in esse proprio nel momento storico in cui abbiamo sviluppato la capacità di sostituirle con algoritmi".

La preoccupazione ora riguarda meno se la tecnologia possa esistere e più quanto possa essere esportata o adattata dai governi delle società libere senza erodere le libertà civili.

Un regolatore occidentale ha recentemente segnalato un programma pilota che utilizza controlli di identità biometrici, dati di viaggio e contenuti sui social media per assegnare "punteggi di fiducia" per accedere ai servizi governativi.

Sebbene le autorità abbiano presentato questo come prevenzione delle frodi e protezione dell'identità, i critici avvertono che la logica risuona con il modello cinese di "punteggio e sanzione".

I gruppi per le libertà civili sostengono che la replica di tale architettura nelle democrazie richieda un dibattito pubblico completo e trasparente.

Il contesto più ampio è che la sorveglianza non ha cessato di espandersi dalle rivelazioni di Snowden nel 2013.

Un'organizzazione di advocacy ha notato che la raccolta di intelligence ai sensi delle leggi sulle intelligence straniere è stata rinnovata e in alcuni aspetti ampliata quest'anno.

Ciò suggerisce che l'appetito governativo per il controllo basato sui dati rimane forte da entrambi i lati dello spettro politico.

Per le società democratiche, la sfida è netta: come sfruttare le tecnologie emergenti—AI, biometria, registri integrati—preservando al contempo l'autonomia individuale, la responsabilità e il giudizio umano.

L'avvertimento di Snowden si sta ora svolgendo non come una possibilità remota, ma come un caso di studio.

La domanda per i responsabili politici è se replicheranno l'architettura del controllo—o se si orienteranno consapevolmente verso un'architettura di empowerment.

La prossima mossa potrebbe decidere a quale futuro serviranno questi sistemi.