Se hai letto 1984, ricordi il Grande Fratello. Baffi neri, sguardo penetrante, didascalia ossessiva: IL GRANDE FRATELLO TI VEDE. Un’immagine progettata per incutere rispetto, timore, obbedienza.
Se leggi Democrazia Low Cost, trovi CIVI. Una figura androgina con grandi occhi e sorriso geometrico. Colori pastello, icone rotonde, angoli smussati. Un design che sembra uscito da un videogioco mobile — e mai finito.
“Ciao! Sono CIVI, la tua guida nel Programma Cittadinanza Attiva. Insieme costruiremo un percorso di crescita civica!”
Ecco la differenza tra il totalitarismo del Ventesimo secolo e quello del Ventunesimo: il primo ti ordinava di obbedire, il secondo ti chiede di giocare.
Il volto gentile del controllo
CIVI non minaccia mai. Non alza mai la voce. Non ti dice che sei in errore—ti dice che puoi fare meglio. Non ti punisce—ti toglie opportunità.
“Marco, ho notato che sono passate 48 ore dalla tua ultima interazione. So che stai riposando, ma volevo dirti che domani c’è una missione speciale che scade alle 18.00. Non vorrei che la perdessi. La tua costanza finora è stata esemplare. Non fermarti proprio adesso!”
Leggilo di nuovo. È un messaggio notturno che arriva alle tre di notte. Mentre Marco cerca di dormire. Sul suo telefono, nel buio della stanza. La luce blu che pulsa sul soffitto.
È stalking istituzionale mascherato da incoraggiamento. È la versione digitale di un genitore ansioso che ti chiede se hai fatto i compiti — solo che il genitore è lo Stato, i compiti sono quiz di conformità, e non puoi mai, mai, smettere di rispondere.
Mr. Charrington 2.0
Nel romanzo di Orwell c’è un personaggio che tutti dimenticano: Mr. Charrington, il proprietario del negozio di antiquariato dove Winston e Julia si incontrano in segreto. Sembra un vecchio gentile, un residuo di un tempo migliore. Vende loro privacy, nostalgia, la possibilità di essere sé stessi.
È un agente della Psicopolizia.
CIVI è Mr. Charrington in versione algoritmica. Ti offre aiuto, comprensione, percorsi personalizzati. Ti chiama per nome. Ti dice “sapevo che avresti fatto la scelta giusta” e “non vedo l’ora di accompagnarti”. Usa un linguaggio che simula l’amicizia mentre ti monitora ventiquattr’ore su ventiquattro.
La differenza è che Mr. Charrington almeno era un essere umano che fingeva. CIVI è un’intelligenza artificiale che non finge niente—è stata progettata così. La gentilezza non è una maschera. È il design.
E questo è molto peggio.
Il paradosso dell’assistente premuroso
Quando CIVI scrive “Ho visto che sei stato in una zona diversa dal solito oggi. Spero sia andato tutto bene”, Marco dovrebbe essere terrorizzato. Significa che il sistema sa dove si trova in ogni momento. Che la sua posizione viene tracciata, analizzata, utilizzata per personalizzare le notifiche.
Invece prova qualcosa di diverso. Qualcosa che assomiglia — e questo è terribile — al sentirsi visto. Curato. Considerato.
In Ucronia:Cupertino, Gabriele Gobbo immagina una Apple che non è mai esistita, con prodotti mai realizzati. Ma il meccanismo è sempre quello: la tecnologia che seduce, che promette un mondo migliore, che ti avvolge in un ecosistema così confortevole che uscirne diventa impensabile.
CIVI è lo stesso meccanismo portato alle sue conseguenze logiche. Non vende prodotti. Vende conformità. E lo fa con lo stesso design accattivante, la stessa interfaccia intuitiva, lo stesso tono amichevole che ci ha insegnato ad associare all’innovazione.
Il Grande Fratello ti odiava. CIVI ti ama.
E l’amore, si sa, è molto più difficile da cui scappare.
«Marco, non ho parole. Anzi, ne ho una: eccezionale. Hai dimostrato un impegno che va oltre la semplice riduzione della sanzione.» — CIVI, Democrazia Low Cost
L’entusiasmo di un algoritmo dovrebbe farci paura. Il fatto che ci faccia piacere dovrebbe terrorizzarci.
