Big Data e il Grande Fratello si incontrano in Cina, dove ogni cittadino ha un punteggio

Di Margherita Russo – Febbraio 3, 2018

da voci dall’estero blog

La sfida per il nostro futuro si gioca ormai non tanto sulla disponibilità di risorse materiali ma sul controllo delle informazioni. La privacy ormai diviene il bene più prezioso che un individuo possa possedere. Mentre ovunque nel mondo si assiste ad un’acritica celebrazione della trasparenza, della condivisione di informazioni personali e di un non ben specificato ideale astratto di “onestà”, unarticolo recentemente apparso su Wired descrive uno scenario distopico ma neanche troppo distante in cui tali attuali tendenze vengono lasciate alla loro traiettoria naturale. Si tratta di un inquietante esperimento attualmente in corso in Cina, con il quale il governo ha intenzione di creare un enorme, spaventoso sistema di valutazioni a punteggi in stile Tripadvisor per ogni singolo essere umano presente nel territorio cinese. Un incubo kafkiano di controllo sociale che non ha precedenti, ma le cui premesse divengono sempre più presenti e familiari anche in occidente.

 

 

 

Di Rachel Botsman, 21 ottobre 2017

 

 

Il 14 giugno 2014 il Consiglio di Stato della Cina ha pubblicato un inquietante documento intitolato “Linee guida per la costruzione di un sistema di affidabilità sociale“. Come consuetudine per i documenti politici cinesi, si tratta di un testo lungo e piuttosto arido, ma che contiene un’idea radicale. E se esistesse una parametro di affidabilità nazionale per classificare i cittadini?

 

 

Immaginiamo un mondo in cui la maggior parte delle attività quotidiane sono costantemente monitorate e valutate: gli acquisti nei negozi e online; la nostra posizione in qualsiasi momento; chi sono i nostri amici e come interagiamo con loro; le ore passate a guardare video o giocare ai videogiochi; le fatture e tasse pagate (o no). Non è difficile da immaginare, perché in buona parte parte ciò avviene già, grazie a tutti quei colossi che raccolgono dati come Google, Facebook e Instagram o ad app di monitoraggio della salute come Fitbit. Ma ora immaginiamo un sistema in cui tutti questi comportamenti sono valutati come positivi o negativi e riassunti in un unico numero, secondo regole stabilite dal governo. Ciò creerebbe un punteggio personale del cittadino per valutarne l’affidabilità. Tale punteggio sarebbe inoltre pubblicamente raffrontato con quello dell’intera popolazione e usato per valutare l’idoneità ad ottenere un mutuo o un lavoro, la scuola dei figli – o anche solo le chance di essere considerati desiderabili dall’altro sesso.

 

 

 

Una visione futuristica da Grande Fratello fuori da ogni controllo? No, è già in atto in Cina, dove il governo sta sviluppando il Social Credit System (SCS) per valutare l’affidabilità dei suoi 1,3 miliardi di cittadini. Il governo cinese sta promuovendo il sistema come un modo desiderabile per misurare e migliorare la “fiducia” a livello nazionale e per costruire una cultura di “sincerità”. Come afferma il documento, “Forgerà un ambiente di opinione pubblica dove mantenere la fiducia è onorevole. Rafforzerà la sincerità negli affari del governo, la sincerità commerciale, la sincerità sociale e la costruzione della credibilità giudiziaria”.

 

 

Altri sono meno ottimisti riguardo al suo scopo più ampio. “È molto ambizioso sia come profondità che come portata, compreso il controllo del comportamento individuale e dei libri che si leggono. Una sorta di monitoraggio dei consumatori di Amazon in veste politica orwelliana “, così definisce il sistema di credito sociale Johan Lagerkvist, esperto di internet cinese presso l’Istituto svedese per gli affari internazionali. Rogier Creemers, un ricercatore specializzato in diritto e governance cinese presso l’Istituto Van Vollenhoven dell’Università di Leida, che ha pubblicato una traduzione completa del piano, lo ha paragonato a “recensioni di Yelp con uno Stato-bambinaia che sorveglia da dietro le spalle”.

 

 

Per ora, tecnicamente, la partecipazione al Citizen Scores in Cina è volontaria. Ma entro il 2020 sarà obbligatoria. Il comportamento di ogni singolo cittadino e persona giuridica in Cina (sono incluse anche società o altri enti) sarà valutato e classificato, con o senza il loro consenso.

 

 

Prima di implementarlo a livello nazionale nel 2020, il governo cinese sta adottando un approccio watch-and-learn. In questo matrimonio tra sorveglianza comunista ed efficientismo capitalista, il governo ha concesso ad otto compagnie private la licenza di elaborare sistemi e algoritmi per i punteggi di credito sociale. Prevedibilmente, attualmente sono i giganti di dati a gestire due dei progetti principali.

 

 

Il primo è China Rapid Finance, partner del colosso social network Tencent e sviluppatore dell’applicazione di messaggistica WeChat con oltre 850 milioni di utenti attivi. L’altro, Sesame Credit, è gestito da Ant Financial Services Group (AFSG), una società affiliata ad AlibabaAnt Financial vende prodotti assicurativi e offre prestiti a piccole e medie imprese. Tuttavia, la vera star di Ant è AliPay, il suo ramo che si occupa di di pagamenti e che le persone usano non solo per comprare cose online, ma anche per pagare ristoranti, taxi, tasse scolastiche, biglietti per il cinema e anche per trasferire denaro.

 

 

Sesame Credit ha inoltre collaborato con altre piattaforme generatrici di dati, come Didi Chuxing, la società di corse in taxi su richiesta che era il principale concorrente di Uber in Cina prima di acquisire la concessionaria cinese della compagnia americana nel 2016, e Baihe, il più grande servizio online per cuori solitari del paese . Non è difficile vedere come tutto ciò si aggiunga alla gigantesca mole di dati cui Sesame Credit può attingere per valutare come le persone si comportano e valutarle di conseguenza.

 

 

Ma come vengono valutate le persone? Sesame Credit classifica gli individui con un punteggio compreso tra 350 e 950 punti. Alibaba non divulga il “complesso algoritmo” che usa per calcolare il numero ma rivela i cinque fattori presi in considerazione. Il primo è la solvibilità. Ad esempio, il cittadino paga la bolletta elettrica o telefonica in tempo? Secondariamente, la capacità di adempimento, definita nelle sue linee guida come “la capacità di un utente di adempiere ai propri obblighi contrattuali”. Il terzo fattore sono le caratteristiche personali, la verifica delle informazioni personali come il numero di cellulare e l’indirizzo. Ma la quarta categoria, il comportamento e le preferenze, è dove la storia diventa interessante.

 

 

In base a questo sistema, una cosa innocua come le abitudini di acquisto di una persona ne diventa una misura del carattere. Alibaba ammette di classificare le persone in base al tipo di prodotti acquistati. “Chi gioca a videogiochi per dieci ore al giorno, ad esempio, è considerato una persona inattiva”, dice Li Yingyun, direttore tecnologico di Sesame. “Chi compra spesso pannolini è considerato un probabile genitore, che a conti fatti ha maggiori probabilità di avere un senso di responsabilità”. Quindi il sistema non solo indaga sul comportamento, ma lo modella. “Allontana” i cittadini da acquisti e comportamenti sgraditi al governo.

 

 

Anche gli amici contano. La quinta categoria sono infatti le relazioni interpersonali. Cosa rivela la scelta di amici online e le interazioni sulla persona che viene valutata? Condividere ciò che il Sesame Credit definisce “energia positiva” online, messaggi a favore del governo o su come vada bene l’economia del Paese farà aumentare il punteggio.

 

 

Alibaba ribadisce che, attualmente, qualsiasi cosa negativa pubblicata sui social media non influenza i punteggi (ma non si sa se questo è vero o meno perché l’algoritmo è segreto). Ma si può comprendere come ciò potrebbe accadere quando il sistema governativo di valutazione dei cittadini sarà ufficialmente implementato nel 2020. Anche se al momento sembra che nessuna delle otto società private coinvolte nel progetto pilota in corso sarà alla fine responsabile della gestione del sistema definitivo, è difficile credere che il governo non tenti di estrarre la quantità massima di dati per il suo SCS, fin dall’esperimento pilota. Se ciò accadesse e diventasse la norma con il SCS del governo, le piattaforme private agirebbero essenzialmente come agenzie di spionaggio per il governo. Potrebbero anche non avere scelta.

 

 

Pubblicare opinioni politiche o collegamenti dissenzienti citando Piazza Tiananmen non è mai stato saggio in Cina, ma ora potrebbe danneggiare direttamente il rating di un cittadino. Ma ecco il vero pezzo forte: il punteggio di una persona sarà anche influenzato da quello che dicono e fanno i loro amici online, al di là degli effettivi contatti con loro. Se qualcuno con cui si è connessi pubblica online un commento negativo, il punteggio di entrambi si abbasserà.

 

 

Ma allora, perché milioni di persone hanno già aderito a ciò che equivale a un periodo di prova per un sistema di sorveglianza del governo approvato pubblicamente? Ci possono essere motivi più oscuri, non dichiarati – paura di rappresaglie, per esempio, per coloro che non alzano la mano – ma c’è anche l’effetto-esca, sotto forma di ricompense e “privilegi speciali” per quei cittadini che si dimostrano essere “degni di fiducia” su Sesame Credit.

 

 

Se il punteggio raggiunge i 600 punti, si può richiedere un prestito Just Spend fino a 5.000 yuan (circa £ 565) da utilizzare per acquisti online, ovviamente su un sito Alibaba. Raggiungendo i 650 punti, si può noleggiare un’auto senza lasciare un deposito. Si ha anche diritto a un check-in più veloce negli hotel e al check-in VIP all’aeroporto internazionale di Pechino. Chi accumula più di 666 punti può ottenere un prestito in contanti fino a 50.000 yuan (£ 5.700), ovviamente da Ant Financial Services. Oltre i 700 punti si può fare domanda per viaggiare a Singapore senza documenti giustificativi come una lettera del datore di lavoro. E una volta accumulati 750 punti, si ottiene il rilascio veloce dell’ambìto visto Schengen paneuropeo. “Penso che il sistema possa essere descritto al meglio come una specie di figlio bastardo di un programma fedeltà“, afferma Creemers.

 

 

I punteggi più alti sono già diventati uno status symbol, con quasi 100.000 persone che si vantano dei loro punteggi su Weibo (l’equivalente cinese di Twitter) pochi mesi dopo il lancio. Il punteggio di un cittadino può anche influire sulle probabilità essere considerati buoni partiti, o di trovare un partner da sposare, perché più alto è il loro punteggio Sesame, meglio piazzato è il loro profilo sul sito matrimoniale Baihe.

 

 

Sesame Credit offre già suggerimenti per aiutare le persone a migliorare il proprio ranking, incluso l’avvertimento sui rischi di stringere amicizia con qualcuno che ha un punteggio basso. Ciò potrebbe portare all’aumento dei consulenti per i punteggi, che condivideranno consigli su come guadagnare punti, o consulenti di reputazione sociale disposti a offrire consigli specialistici su come migliorare strategicamente una classifica o uscire dalla lista nera.

 

 

In effetti, il sistema di credito sociale del governo è fondamentalmente una versione Big Data dei metodi di sorveglianza del Partito Comunista; l’inquietante dang’an. Il regime mantiene da sempre dossier su ogni individuo, dove vengono registrate tutte le trasgressioni politiche e personali. Il dang’an di un cittadino li segue per tutta la vita, dalle scuole al lavoro. Le persone comuni possono fornire informazioni su amici e persino familiari, sollevando sospetti e abbassando la fiducia sociale in Cina. La stessa cosa succederà con i dossier digitali. Tutti avranno un incentivo a dire ai loro amici e familiari: “Non pubblicare questo. Non voglio che tu danneggi il tuo punteggio, ma soprattutto non voglio che danneggi il mio.”

 

 

Assisteremo sicuramente anche alla nascita di mercati neri della reputazione, che vendono espedienti sottobanco per migliorare l’affidabilità. Così come possono essere acquistati i Mi piace di Facebook e i follower di Twitter, le persone pagheranno per manipolare il loro punteggio. Che dire poi della sicurezza del sistema? Gli hacker (alcuni persino al servizio dello stato) potrebbero modificare o rubare le informazioni archiviate digitalmente.

 

 

 

Il nuovo sistema riflette un astuto cambio di paradigma. Come si può intuire, invece di cercare di rafforzare la stabilità o la conformità col bastone e una buona dose di paura dall’alto verso il basso, il governo cerca di trasformare l’obbedienza in un gioco. È un metodo di controllo sociale mascherato da un sistema di punti-ricompensa. È obbedienza gamificata.

 

 

In un quartiere alla moda nel centro di Pechino, nell’ottobre 2015 la BBC fece un servizio in cui chiedeva alla gente un parere sui rating di Sesame. La maggior parte parlava dei lati positivi. E dopo tutto, chi potrebbe criticare pubblicamente il sistema? Il punteggio potrebbe risentirne. È allarmante che pochissime persone abbiano capito fino a che punto un cattivo punteggio potrebbe danneggiarli in futuro. Ancora più preoccupante è il numero di persone che non avevano idea di essere sotto esame.

 

 

Al momento Sesame Credit non penalizza direttamente le persone per la loro “inaffidabilità” – è più efficace far abboccare le persone con gli zuccherini per un buon comportamento. Tuttavia Hu Tao, presidente di Sesame Credit, avverte che il sistema è progettato in modo che “le persone non affidabili non possano noleggiare un’auto, non possano prendere in prestito denaro o addirittura non possano trovare un lavoro”. Ha persino rivelato che Sesame Credit ha contattato l’Ufficio Educazione cinese per condividere un elenco degli studenti che hanno copiato agli esami nazionali, al fine di far loro pagare in futuro la loro disonestà.

 

 

Le sanzioni cambieranno radicalmente quando il sistema governativo diventerà obbligatorio nel 2020. Infatti, il 25 settembre 2016, l’Ufficio generale del Consiglio di Stato ha aggiornato la sua politica intitolata “Meccanismi di allarme e sanzioni per le persone soggette a misure esecutive per violazioni di fiducia“. Il principio fondamentale è semplice: “Se la fiducia è violata in un aspetto, le restrizioni sono imposte ovunque“, afferma il documento politico.

 

 

Ad esempio, le persone con un basso rating avranno una velocità più bassa di internet; accesso limitato a ristoranti, locali notturni o campi da golf; e la rimozione del diritto di viaggiare liberamente all’estero con “controlli restrittivi sui consumi all’interno delle aree di vacanza o di viaggio“. I punteggi influenzeranno le domande di noleggio di un individuo, la sua capacità di ottenere un’assicurazione o un prestito e anche benefici di sicurezza sociale. I cittadini con punteggi bassi non saranno assunti da determinati datori di lavoro e sarà loro impedito di ottenere alcuni posti di lavoro, incluso il servizio civile, il giornalismo e i campi legali, dove ovviamente si deve essere considerati degni di fiducia. Inoltre i cittadini di basso profilo saranno soggetti a restrizioni quando iscrivono se stessi o i loro figli in scuole private costose. Per quanto inverosimile, questa lista di sanzioni è autentica. È la realtà che i cittadini cinesi dovranno affrontare. Come afferma il documento governativo, il sistema di credito sociale “permetterà agli affidabili di muoversi liberamente ovunque sotto il cielo rendendo difficile per i discreditati fare un singolo passo“.

 

 

Secondo Luciano Floridi, professore di filosofia ed etica dell’informazione all’Università di Oxford e direttore della ricerca presso l’Oxford Internet Institute, tre sono stati i “cambiamenti decentranti” critici che hanno alterato il nostro punto di vista sull’auto-comprensione: Il modello di Copernico della Terra in orbita attorno al Sole; la teoria di Darwin sulla selezione naturale; e l’affermazione di Freud secondo cui le nostre azioni quotidiane sono controllate dalla mente inconscia.

 

 

Floridi ritiene che stiamo entrando nella quarta fase, poiché ciò che facciamo online e offline si fondono in un “onlife”. Asserisce che, poiché la nostra società diventa sempre più una infosfera, una miscela di esperienze fisiche e virtuali, stiamo acquisendo una personalità della vita – diversa da ciò che siamo solo nel “mondo reale”. Lo si vede bene su Facebook, dove le persone presentano un ritratto modificato o idealizzato delle loro vite. O si pensi a Uber. I clienti non sono forse un po’ più gentili con gli autisti perché sanno di essere valutati? Ma le valutazioni Uber non sono nulla in confronto a Peeple, un’app lanciata a marzo 2016, che è come un Yelp per gli umani. Peeple consente di assegnare voti e recensioni a tutti quelli che si conoscono: il coniuge, il vicino, il capo e persino un ex. Un profilo visualizza un “Numero Peeple“, che è un punteggio basato su tutti i feedback e le raccomandazioni ricevuti. Ciò che è peggio, una volta che un nome entra nel sistema Peeple, resta lì per sempre. Non se ne può uscire.

 

 

Peeple proibisce certi comportamenti ostili come menzionare le condizioni di salute private, usare un linguaggio volgare o sessista (sempre che sia possibile valutare oggettivamente che lo sia). Ma ci sono poche regole su come le persone sono classificate o sugli standard di trasparenza.

 

 

Per quanto il sistema di fiducia della Cina sia ancora volontario, ha già dato delle conseguenze. Nel febbraio 2017, la Corte Suprema del Popolo del paese ha annunciato che a 6,15 milioni dei suoi cittadini era stato vietato di prendere un aereo negli ultimi quattro anni per infrazioni sociali. Il divieto viene indicato come un primo passo verso la lista nera della SCS. “Abbiamo firmato un memorandum… [con oltre] 44 dipartimenti governativi al fine di limitare le persone” screditate “su più livelli“, afferma Meng Xiang, capo del dipartimento esecutivo della Corte Suprema. Un altro 1,65 milioni di persone nella lista nera non possono prendere treni.

 

 

Dove questi sistemi realmente entrano in un territorio da incubo è il fatto che gli algoritmi di fiducia usati sono ingiustamente riduttivi. Non tengono conto del contesto. Ad esempio, una persona potrebbe mancare il pagamento di una fattura o una multa perché si trova in ospedale; un altro potrebbe semplicemente essere uno scroccone. E qui sta la sfida che tutti noi dobbiamo affrontare nel mondo digitale, e non solo i cinesi. Se gli algoritmi per controllare la nostra vita sono qui per restare, dobbiamo capire come possano tener conto delle sfumature, le incoerenze e le contraddizioni insite negli esseri umani e come possano riflettere la vita reale.

 

 

Si potrebbe vedere il cosiddetto piano di fiducia della Cina come un misto tra 1984 di Orwell e i cani di Pavlov. Comportati da buon cittadino, raccogli il premio e fai finta di divertirti. Vale la pena ricordare, tuttavia, che i sistemi di punteggio personali sono già presenti in Occidente da decenni.

 

 

Più di 70 anni fa, due uomini chiamati Bill Fair e Earl Isaac inventarono i punteggi di affidabilità creditizia. Oggi, le aziende utilizzano i punteggi FICO per determinare molte decisioni finanziarie, tra cui il tasso di interesse sui mutui o l’eleggibilità a ricevere un prestito.

 

 

La maggior parte dei cinesi non ha mai avuto punteggi di credito e quindi non può ottenere crediti. “Molte persone non possiedono case, auto o carte di credito in Cina, quindi quel tipo di informazioni non è disponibile per la misurazione“, spiega Wen Quan, un influente blogger che scrive di tecnologia e finanza. “La banca centrale ha i dati finanziari di 800 milioni di persone, ma solo 320 milioni hanno una storia di credito tradizionale“. Secondo il Ministero del commercio cinese, la perdita economica annuale causata dalla mancanza di informazioni sul credito è superiore a 600 miliardi di yuan (68 miliardi di sterline).

 

 

La mancanza di un sistema di credito nazionale da parte della Cina è il motivo per cui il governo è fermamente convinto che i punteggi dei cittadini sono ormai urgenti e assolutamente necessari per fissare quello che definiscono un “deficit di fiducia”. In un mercato scarsamente regolamentato, la vendita di prodotti contraffatti e non conformi è un problema enorme. Secondo l’Organizzazione per la cooperazione e lo sviluppo economico (OCSE), il 63 per cento di tutti i prodotti contraffatti, dagli orologi alle borse agli alimenti per l’infanzia, proviene dalla Cina. “Il livello di micro corruzione è enorme“, afferma Creemers. “Quindi, se questo particolare schema si traduce in una supervisione e una responsabilità più efficaci, sarà probabilmente accolto con favore“.

 

 

Il governo sostiene inoltre che il sistema è un modo per far rientrare quelle persone tagliate fuori dai tradizionali sistemi di credito, come studenti e famiglie a basso reddito. Il professor Wang Shuqin dell’Ufficio di Filosofia e Scienze Sociali della Capital Normal University in Cina ha recentemente vinto la gara per aiutare il governo a sviluppare il sistema che lui definisce “Sistema sociale cinese della fedeltà“. Senza un tale meccanismo, fare affari in Cina è rischioso, sottolinea, poiché circa la metà dei contratti firmati non viene mantenuta. “Data la velocità dell’economia digitale, è fondamentale che le persone possano verificare rapidamente l’affidabilità creditizia dei partner d’affari“, afferma. “Il comportamento della maggioranza è determinato dal loro mondo di pensare. Una persona che creda nei valori fondamentali socialisti si comporta in modo più decente“. Gli “standard morali” che il sistema valuta, oltre ai dati finanziari, sono considerati come bonus.

 

 

In effetti, lo scopo del Consiglio di Stato è quello di aumentare “la mentalità dell’onesta e i livelli di credito dell’intera società” al fine di migliorare “la competitività complessiva del paese“. È possibile che l’SCS sia in realtà un approccio più desiderabilmente trasparente alla sorveglianza in un paese che ha una lunga storia di sorveglianza dei suoi cittadini? “Come cittadino cinese, sapendo che tutto ciò che faccio online viene monitorato, preferirei essere al corrente dei dettagli di ciò che viene monitorato e utilizzare queste informazioni per imparare a rispettare le regole?” dice Rasul Majid, un blogger cinese di Shanghai che scrive di design comportamentale e psicologia del gioco. “O preferirei piuttosto vivere nell’ignoranza e nella speranza/desiderio/sogno che la privacy personale esista ancora e che i nostri governanti ci rispettino abbastanza da non trarne vantaggio?” In parole povere, Majid pensa che il sistema gli dia un po’ più di controllo sui suoi dati.

 

 

Quando parlo agli occidentali del Social Credit System in Cina, le loro risposte sono appassionate e viscerali. Eppure valutiamo già ristoranti, film, libri e persino medici. Facebook, nel frattempo, è ora in grado di identificarci nelle immagini senza vedere la nostra faccia; bastano solo i vestiti, i capelli e il tipo di corporatura per essere taggati in un’immagine con un’accuratezza dell’83%.

 

 

Nel 2015, l’OCSE ha pubblicato uno studio che rivela che negli Stati Uniti ci sono almeno 24,9 dispositivi connessi ogni 100 abitanti. Tutte le società esaminano i “big data” emessi da questi dispositivi per comprendere le nostre vite e i nostri desideri e per prevedere le nostre azioni in modi che non potremmo nemmeno prevedere noi stessi.

 

 

I governi di tutto il mondo sono già coinvolti nel monitoraggio e nella valutazione. Negli Stati Uniti, la National Security Agency (NSA) non è l’unico occhio digitale ufficiale che segue i movimenti dei suoi cittadini. Nel 2015, la US Transportation Security Administration ha proposto l’idea di espandere i controlli di background PreCheck per includere tutti i post dei social media, i dati sulla posizione e la cronologia degli acquisti. L’idea è stata scartata dopo pesanti critiche, ma ciò non significa che sia accantonata. Viviamo già in un mondo di algoritmi predittivi che determinano se siamo una minaccia, un rischio, buoni cittadini e anche se siamo affidabili. Ci stiamo avvicinando al sistema cinese – l’espansione del punteggio del credito in punti vita – anche se non sappiamo di esserlo.

 

 

Quindi stiamo andando verso un futuro in cui saremo tutti marchiati online e i nostri dati archiviati? È sicuramente così. Escludendo una sorta di rivolta dei cittadini di massa per riappropriarsi della privacy, stiamo entrando in un’età in cui le azioni di un individuo saranno giudicate secondo standard che non possono essere controllati e dove un giudizio non può essere cancellato. Le conseguenze non sono solo preoccupanti; sono permanenti. Possiamo dire addio al diritto di cancellarsi o di essere dimenticati, di essere giovani e ribelli.

 

 

Anche se potrebbe essere troppo tardi per fermare questa nuova ondata, abbiamo ancora spazi di manovra e diritti che possiamo esercitare. Per prima cosa, dobbiamo essere in grado di valutare i valutatori. Nel suo libro The Inevitable, Kevin Kelly descrive un futuro in cui gli osservatori e gli spettatori si valutano vicendevolmente in modo trasparente. “La questione principale ora è se questa sorveglianza sia un segreto panoptico a senso unico o una reciproca e trasparente ‘sorveglianza’ che coinvolga gli osservatori“, scrive.

 

 

La nostra fiducia dovrebbe iniziare dagli individui all’interno del governo (o chiunque controlli il sistema). Abbiamo bisogno di meccanismi affidabili per garantire che le valutazioni e i dati siano utilizzati in modo responsabile e con il nostro permesso. Per avere fiducia nel sistema, dobbiamo ridurre le incognite. Ciò significa adottare misure per ridurre l’opacità degli algoritmi. L’argomento contro le divulgazioni obbligatorie è che se si sa cosa succede dietro le quinte, il sistema potrebbe essere manomesso o hackerato. Ma se gli umani vengono ridotti a una valutazione che potrebbe avere un impatto significativo sulle loro vite, ci deve essere trasparenza nel modo in cui viene elaborato il punteggio.

 

 

In Cina alcuni cittadini, come i funzionari governativi, saranno probabilmente considerati al di sopra del sistema. Quale sarà la reazione del pubblico se le loro violazioni non influenzano il loro punteggio? Potremmo vedere un Panama Papers 3.0 per frode di reputazione.

 

 

È ancora troppo presto per sapere come si svilupperà una cultura di monitoraggio e valutazione permanente. Cosa accadrà quando questi sistemi, che tracciano la storia sociale, morale e finanziaria di un’intera popolazione, entreranno in vigore? Quanto ancora la privacy e la libertà di parola (a lungo assediata in Cina) saranno erose? Chi deciderà in che direzione debba andare il sistema? Queste sono domande che tutti dobbiamo prendere in considerazione, e presto. Oggi tocca alla Cina, domani magari più vicino a casa nostra. Le vere domande sul futuro della fiducia non sono tecnologiche o economiche; sono etiche.

 

 

Se si fa attenzione, la fiducia distribuita potrebbe diventare diffamazione in rete. La vita diventerà un concorso di popolarità senza fine, tutti in competizione con tutti per un punteggio più alto che solo pochi riescono a raggiungere.

 

 

 

 

Questo è un estratto da ‘Who Can You Trust? How Technology Brought Us Together and Why It Might Drive Us Apart’ (Penguin Portfolio) di Rachel Botsman, pubblicato il 4 ottobre. Da quando è stato scritto questo pezzo, The People’s Bank of China ha rinnovato le licenze alle otto società che conducevano studi pilota di credito sociale. I piani del governo per il lancio del Social Credit System nel 2020 rimangono invariati
Aggiornamento del 28.11.17: È stato apportato un emendamento per effettuare un confronto tra il sistema di credito sociale del governo cinese e i metodi di sorveglianza del partito comunista.

 

Rispondi

Effettua il login con uno di questi metodi per inviare il tuo commento:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...