Promuovere l’uso trasparente degli algoritmi nel settore pubblico, considerazioni sull’esperienza del Regno Unito
A cura di Chiara Giannella e Federica Pezza
Sempre di più ultimamente, i governi e gli enti pubblici di tutto il mondo si servono di algoritmi e soluzioni basate su algoritmi per supportare le pratiche decisionali e la fornitura di servizi pubblici. In effetti, gli strumenti algoritmici sono potenzialmente molto vantaggiosi nella misura in cui possono contribuire ad accelerare i tempi di analisi di grandi quantità di dati e, di conseguenza, promuovere una migliore interazione tra il settore pubblico e i cittadini.
D’altro canto, però, laddove si utilizzino questi strumenti, è possibile che sorgano problemi sul fronte dell’effettiva trasparenza e accountability degli stessi, con la conseguenza che gli interessati potrebbero trovarsi di fronte a decisioni automatizzate le cui ragioni appaiono, quantomeno, discutibili. Recentemente, ad esempio, il Garante per la protezione dei dati personali italiano (il Garante Privacy) ha avviato un’indagine sulla legittimità dell’algoritmo utilizzato dalla Regione Veneto per determinare gli orari e le liste di attesa dei servizi sanitari. Alla base della decisione del Garante Privacy vi è la circostanza che in questo caso è probabile che si assista al trattamento su larga scala di dati particolarmente sensibili come quelli sanitari, volto a coinvolgere un numero potenzialmente significativo di pazienti. Pertanto, la Regione dovrà adesso rispondere ai rilievi del Garante Privacy indicando tutte le informazioni rilevanti per la sua valutazione, tra cui, tra l’altro, la base giuridica del trattamento, il tipo di algoritmo utilizzato nonché i tipi di dati personali e i documenti clinici oggetto del trattamento.
In questo contesto, va quindi accolta con favore l’iniziativa congiunta del Central Digital and Data Office (“CDDO”) e del Centre for Data Ethics and Innovation (“CDEI”) del Regno Unito che, il 5 gennaio 2023, nell’ambito della National Data Strategy, hanno lanciato l'”Alghoritmic Transparency Recording Standard Hub“, con l’obiettivo di fornire un quadro di riferimento per le organizzazioni del settore pubblico per la condivisione delle informazioni sull’uso di strumenti algoritmici con il pubblico e gli altri stakeholder interessati. Più precisamente, l’Hub è composto da:
- Il Recording Standard della trasparenza algoritmica (lo “Standard”);
- la Guida all’utilizzo e alla compilazione dello Standard; e
- una raccolta dei reports di trasparenza pubblicati.
Attraverso l’Hub, quindi, le organizzazioni pubbliche che intendono utilizzare strumenti algoritmici nello svolgimento delle proprie funzioni avranno adesso la possibilità di accedere (e utilizzare) lo Standard sviluppato dalla CDDO e dal CDEI in collaborazione con gruppi della società civile ed esperti esterni e reso disponibile online in un formato di facile consultazione. Lo Standard si presenta come un modello word composto da 5 sezioni distinte, dove le organizzazioni dovranno inserire alcune informazioni tra cui (i) una descrizione dell’algoritmo e del suo funzionamento, (ii) una spiegazione del modo in cui è integrato nel processo decisionale e dell’influenza che ha sulla decisione finale, nonché (iii) informazioni sulle valutazioni d’impatto condotte e sui relativi risultati. Inoltre, in linea con lo Standard, nel caso di archiviazione e accesso a dati personali e/o sensibili, deve essere prevista una descrizione dei meccanismi utilizzati per proteggere la sicurezza e la privacy dei dati.
Si segnala inoltre che, poiché lo Standard è già stato sperimentato da diversi enti pubblici, come il Department for Health and Social Care e la Food Standard Agency, i primi reports sviluppati utilizzando questo strumento sono già disponibili sull’Hub, offrendo così agli enti pubblici l’opportunità di valutare e confrontare gli algoritmi utilizzati e alle istituzioni che lo hanno lanciato la possibilità di aggiornare e perfezionare lo Standard in linea con i primi risultati.
Di conseguenza, l’analisi dell’esperienza britannica dimostra che l’adozione di adeguati reporting standards può rappresentare un importante strumento per mitigare i rischi inevitabilmente connessi all’utilizzo di algoritmi nel settore pubblico, contribuendo così alla promozione di un processo decisionale efficiente e trasparente. Allo stesso tempo, l’iniziativa del CDDO e del CDEI richiama la necessità di elaborare adeguati reporting standards anche nell’Unione Europea e in Italia, dove questo ruolo potrebbe essere svolto, ad esempio, dall’Agenzia per l’Innovazione Digitale (“AGID”).
Let’s Talk
Per una discussione più approfondita ti preghiamo di contattare:
PwC TLS Avvocati e Commercialisti
Partner
PwC TLS Avvocati e Commercialisti
Director