Come è possibile sviluppare sistemi di intelligenza artificiale senza compromettere la protezione dei dati?

Pochi settori dell'informatica sono attualmente così popolari come l'apprendimento automatico (ML) e, in particolare, l'elaborazione del linguaggio naturale (NLP). Chi non conosce il funzionamento dello smartphone o della radio tramite assistente vocale (Siri, Alexa ecc.)? Quanto è comodo pronunciare semplicemente l’indirizzo verso cui si desidera essere guidati? È persino possibile il riconoscimento automatico delle richieste dei clienti durante l’elaborazione automatizzata della corrispondenza.

Nonostante l'esistenza di strumenti di supporto e di modelli di processo e procedure consolidati, come ad esempio STAMP4NLP [1], la creazione di un'applicazione di questo tipo comporta ancora un notevole dispendio di risorse. Per poter addestrare i modelli statistici necessari, in grado di individuare modelli all'interno dei dati ai fini dell'estrazione di informazioni, è necessario innanzitutto identificare e preparare dati adeguati. Ciò include sia la correzione degli errori ortografici, sia il tagging manuale, ovvero l'evidenziazione di elementi nel testo. Sulla base del corpus annotato, il modello viene addestrato nella fase di training e, una volta completata l'ottimizzazione, integrato in un sistema di IA che può essere utilizzato in modo produttivo (vedi Figura 1).

Un aspetto che sta assumendo sempre maggiore rilevanza nella creazione di sistemi di intelligenza artificiale è la protezione dei dati [2]. A causa dell'elevata complessità nella creazione di applicazioni NLP, molte aziende dipendono dall'aiuto di società e sviluppatori esterni. Tuttavia, ciò comporta la necessità di fornire dati che contengono anche informazioni sensibili dal punto di vista della protezione dei dati, sulla base dei quali vengono addestrate le nuove applicazioni. Questo è il punto in cui, finora, la maggior parte di queste aziende ha rinunciato all'introduzione dell'NLP nella propria attività, poiché l'anonimizzazione dei dati comporta un notevole dispendio di risorse.

In particolare, grazie al Regolamento generale sulla protezione dei dati (GDPR) dell'UE, il tema dell'anonimizzazione dei dati nel rispetto della normativa sulla privacy ha acquisito nuovo slancio [3]. A causa delle pesanti sanzioni previste in caso di violazione, la protezione dei dati rappresenta attualmente un ostacolo particolarmente rilevante all'introduzione della NLP.

Le procedure esistenti, che sostituiscono in modo relativamente semplice le informazioni sensibili dal punto di vista della protezione dei dati con dati fittizi, non sono immediatamente applicabili. Ciò è dovuto, da un lato, al rispettivo ambito di applicazione. Nel contesto assicurativo, ad esempio, i codici delle polizze, i nomi, i dati relativi agli eventi e gli indirizzi sono sicuramente da considerarsi informazioni sensibili. Nel contesto dei dati medici, invece, occorre prestare particolare attenzione ad attributi quali altezza, peso, sintomi e diagnosi. Di conseguenza, per ogni ambito è necessario innanzitutto identificare gli attributi critici.

Occorre inoltre tenere presente che le informazioni devono essere rese anonime in misura sufficiente. Se, sulla base delle informazioni rimanenti e integrandole con un’ulteriore fonte di dati, è ancora possibile risalire ai dati originali, non si ha un’anonimizzazione che impedisca qualsiasi risalita. Un esempio è la rimozione del nome e dell'indirizzo, ma il contemporaneo mantenimento della data di nascita e del sesso in una cartella clinica. Se ora si aggiunge il registro anagrafico e lo si limita al bacino di utenza dell'ospedale, è possibile identificare la persona interessata con uno sforzo minimo [4].

D'altra parte, occorre inoltre tenere conto della scelta dei metodi disponibili. A titolo esemplificativo, esistono varianti che sostituiscono i nomi in modo casuale con i 100 nomi più frequenti in Germania. È tuttavia ipotizzabile anche una sostituzione schematica 1:1, oppure sono possibili procedure più complesse. In questo contesto, non va trascurato l'impatto dell'anonimizzazione sul modello da addestrare. Se durante il funzionamento produttivo dell'applicazione NLP compare un documento con un nome che non rientra tra i 100 più frequenti, in alcune circostanze questo potrebbe non essere riconosciuto. Di conseguenza, occorre tenere conto del mantenimento della varianza dei dati all'interno degli attributi anonimizzati.

A ciò si aggiunge il fatto che, nel processo di anonimizzazione, è importante anche preservare le relazioni tra i dati. In caso contrario, non sarebbe possibile riconoscere, tra le diverse righe, che si fa riferimento alla stessa persona o che i processi descritti sono collegati tra loro. Nel complesso, i metodi utilizzati finora limitano eccessivamente l'addestramento dei modelli su dati anonimizzati a causa della perdita di informazioni.

L'obiettivo è quello di trovare un equilibrio tra il rispetto delle norme sulla protezione dei dati e lo sviluppo di un'applicazione di alta qualità. Il seguente schema illustrativo mostra un possibile percorso per rendere fattibile l'introduzione del NLP attraverso l'anonimizzazione.