È giusto privatizzare la giustizia con gli algoritmi per paura del terrorismo?

dal blog https://www.wired.it

di Vincenzo Tiani

Il 12 settembre la Commissione Europea ha pubblicato un documento con una proposta per combattere il diffondersi del terrorismo online

Il 12 settembre, mentre tutti avevano gli occhi puntati sul voto alla riforma europea del copyright, passata nonostante le tante contraddizioni dei suoi sostenitori, la Commissione Europea pubblicava un documento con una proposta per combattere il diffondersi di contenuti terroristici online.

Non una sorpresa comunque, visto che il testo era stato annunciato poco tempo fa dal Commissario alla Sicurezza

Julian King che, come avevamo riportato su Wired, aveva dichiarato: “l’Europa non può rilassarsi e non può diventare compiacente davanti a un fenomeno così distruttivo, le norme attuali non hanno fatto registrare abbastanza progressi”.

La proposta di regolamento arriva un anno dopo la presentazione dei risultati dell’accordo della Commissione con le big four (Google, Facebook, Twitter, Microsoft) per l’adozione volontaria di soluzioni che permettano una facile e veloce rimozione di contenuti a sfondo terroristico online. I dati dello EU Internet Forum presentati allora erano più che promettenti trattandosi di un 80 – 90% di contenuti rimossi individuati da Europol.

Una scelta più politica che necessaria
Nonostante le buone premesse e i risultati positivi, la Commissione ha ritenuto che non fosse abbastanza e, per spingere l’acceleratore, ha pubblicato la proposta di un regolamento, che, in quanto tale, una volta terminato l’iter legislativo, sarebbe autoapplicante in tutti i Paesi Membri dell’UE senza necessità di adattamenti.

Vien da pensare che, anche in vista delle imminenti elezioni europee di maggio 2019, ci sia stato molto pressing da parte di alcuni Paesi come Francia e Germania.

 La Germania già un anno fa aveva promulgato una legge (Netwerkdurchsetzungsgesetz) che prevede una sanzione milionaria per quei social network che non avessero rimosso entro 24 ore, o una settimana al massimo, a seconda della gravità, contenuti di odio (hate speech).

Anche la Francia di Macron non è da meno sul tema. Quando intervistammo l’ambasciatore francese al digitale Martinon ci confermò l’idea che non spetti al Governo identificare questi contenuti e segnalarli ma alle imprese che hanno la tecnologia per farlo e che, dovendo scegliere tra velocità d’esecuzione e accuratezza nella scelta della rimozione dei contenuti, si preferisce la prima opzione.

Non bastasse questo, a giugno dell’anno scorso, il primo ministro inglese Theresa May dichiarò alle telecamere che “se le leggi sui diritti fondamentali sono un ostacolo alla lotta del terrorismo online, allora bisogna cambiare quelle leggi”.

Theresa May

@theresa_may

I’m clear: if human rights laws get in the way of tackling extremism and terrorism, we will change those laws to keep British people safe.

Cosa dice la proposta di regolamento
Il regolamento prevede che gli hosting service provider (Hsp, diciamo per semplicità le piattaforme) debbano collaborare con le autorità competenti per ottenere entro un’ora la rimozione dei contenuti terroristici online (art. 1).
Si dice poi che le piattaforme, dove appropriato, devono adottare delle misure idonee a proteggersi dal diffondersi di questi contenuti, anche adottando automated tools, mezzi che automaticamente segnalino/rimuovano tali contenuti e impediscano che vengano reimmessi in rete dopo la prima segnalazione (art.6). La nota positiva è che nel testo si fa più volte riferimento al problema del bilanciamento con il rispetto dei diritti fondamentali. Benché faccia piacere vedere questo passo in avanti, restano alcuni problemi da affrontare.

I problemi
II primo riguarda le tempistiche. La piattaforma può infatti anche opporsi alla richiesta dell’autorità competente se non è convinta delle motivazioni addotte ma resta il fatto che un’ora è comunque un tempo troppo breveper valutazioni di questo tipo. Le sanzioni previste per le piattaforme in caso di ripetuto diniego possono arrivare al 4% del fatturato globale. Di fronte a una tale minaccia, anche con le migliori intenzioni di difendere i propri utenti di fronte a una rimozione non dovuta, anche il più grande paladino dei diritti fondamentali potrebbe cedere.

Un altro punto dolente è che non è chiaro chi debba essere l’autorità competente per nazione. Le forze dell’ordine? Un’autorità indipendente? Il pubblico ministero? Un giudice delle indagini preliminari? Vista la celerità cui si punta potrebbe essere la prima risposta, ma, a differenza del caso in cui fosse un gip, vorrebbe dire che non ci sarebbe nessun magistrato a fare un controllo preventivo.

Nel testo si fa costante riferimento alla necessità di trasparenza e di bilanciamento di interessi, quindi almeno stavolta è chiaro alla Commissione che il problema c’è ed è rilevante ma un confronto con le ong che si occupano di tutela dei diritti fondamentali sarà d’obbligo per fugare ogni dubbio su risvolti che magari oggi sfuggono.

Esistono dei rischi per i diritti fondamentali?
A parte la questione su chi sia l’autorità preposta a chiedere la rimozione, anche tutto ciò che passa da un’automazione rischia di essere censurato e come per il copyright l’algoritmo non conosce (ancora) le sfumature. E se il personale addetto non è qualificato, neanche il controllo umano basterebbe a ridurre gli errori visto che la pressione per avere un 100% di contenuti segnalati rimossi potrebbe far abbassare lo spirito critico di chi revisiona i contenuti.

Un esempio classico è l’episodio che vede coinvolta l’europarlamentare Schaake (gruppo dei liberali di ALDE, il cui leader è Guy Verhofstadt si distinse per la sua durezza nell’interrogazione a Zuckerberg). Due anni fa caricò sul suo canale YouTube il suo dibattito con la commissaria Malmstrom sulle leggi anti-tortura. Quel video fu rimosso da YouTube perché non rispettava le linee guida della community. Quello che non era chiaro, lamentava la Schaake, era perché fosse stato rimosso, e se la review di cui si parlava era stata fatta da persone. Solo grazie al fatto di essere una figura pubblica la Schaake ottenne a stretto giro le scuse di Google e il video fu rimesso online.

Bisogna tenere alta l’attenzione
Purtroppo siamo ancora lontani dagli standard che vorremmo, e questo non è colpa di nessuno. Il diritto è cosa complessa e anche gli uomini sbagliano nella sua applicazione, ma forse è presto per pensare di subappaltare tutte queste decisioni agli algoritmi.

Si comincia col copyright, poi con il terrorismo e andremo a regolare sempre più materie con gli algoritmi. Ma benché l’automatizzazione di alcuni processi sia cosa auspicabile visti i tempi della giustizia, si pensi anche agli smart contracts con blockchain, è importante fare le giuste valutazioni oggi, anche parlando di etica e filosofia del diritto, perché stiamo ponendo le basi che regoleranno non solo l’internet, ma lo stesso sistema giuridico di domani.

Rispondi

Effettua il login con uno di questi metodi per inviare il tuo commento:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...