Comment développer des systèmes d'IA sans compromettre la protection des données ?

Peu de domaines de l'informatique sont actuellement aussi populaires que l'apprentissage automatique (ML) et, en particulier, le traitement du langage naturel (NLP). Qui ne connaît pas l'utilisation d'un smartphone ou d'une radio via un assistant vocal (Siri, Alexa, etc.) ? N'est-il pas agréable de simplement dicter l'adresse vers laquelle on souhaite se rendre ? Même la reconnaissance automatique des demandes des clients lors du traitement automatisé du courrier est désormais possible.

Malgré l'existence d'outils d'aide et de modèles de processus et de procédures bien établis, tels que STAMP4NLP [1], la création d'une telle application reste très exigeante. Afin de pouvoir entraîner les modèles statistiques nécessaires, capables de mettre en évidence des schémas au sein des données pour l'extraction d'informations, il faut d'abord identifier et préparer des données appropriées. Cela comprend à la fois la correction des fautes d'orthographe et le balisage manuel, qui consiste à marquer des éléments dans le texte. Sur la base du corpus annoté, le modèle est entraîné pendant la phase d'apprentissage et, une fois l'optimisation terminée, intégré dans un système d'IA prêt à être utilisé en production (voir Figure 1).

La protection des données est un aspect qui occupe une place de plus en plus importante dans le développement des systèmes d'IA [2]. En raison de la grande complexité liée à la création d'applications de TALN, de nombreuses entreprises doivent faire appel à des sociétés et à des développeurs externes. Cela implique toutefois de leur communiquer des données contenant des informations sensibles en matière de protection des données, qui serviront à entraîner les nouvelles applications. C'est à ce stade que la plupart de ces entreprises renoncent jusqu'à présent à l'introduction du TALN au sein de leur propre structure, car l'anonymisation des données nécessite des efforts considérables.

C'est notamment grâce au règlement général sur la protection des données (RGPD) de l'UE que la question de l'anonymisation des données dans le respect de la protection des données a connu un regain d'intérêt [3]. En raison des sanctions sévères encourues en cas d'infraction, la protection des données constitue actuellement un obstacle majeur à l'adoption du NLP.

Les méthodes existantes, qui permettent de remplacer relativement facilement les informations sensibles par des données fictives, ne sont pas facilement applicables. Cela s'explique d'une part par le domaine d'application concerné. Dans le contexte des assurances, par exemple, les numéros de police, les noms, les dates des événements et les adresses doivent certainement être considérés comme des informations sensibles. En revanche, dans le contexte des données médicales, il convient d'accorder une attention particulière à des attributs tels que la taille, le poids, les symptômes et les diagnostics. Par conséquent, il faut d'abord identifier les attributs critiques pour chaque domaine.

Il faut également veiller à ce qu’une partie suffisante des informations soit anonymisée. Si les informations restantes, combinées à une autre source de données, permettent de remonter aux données d’origine, l’anonymisation n’est pas effective. Un exemple en est la suppression du nom et de l'adresse, tout en conservant la date de naissance et le sexe dans un rapport médical. Si l'on ajoute à cela le registre de la population et que l'on limite celui-ci à la zone de desserte de l'hôpital, l'identification de la personne concernée est possible sans grand effort [4].

D'autre part, il convient également de tenir compte du choix des méthodes disponibles. À titre d'exemple, il existe des variantes qui remplacent les noms de manière aléatoire par les 100 noms les plus courants en Allemagne. Un remplacement schématique 1:1 est toutefois également envisageable, tout comme des méthodes plus complexes. Dans ce contexte, il ne faut pas négliger l'influence de l'anonymisation sur le modèle à entraîner. Si, lors de l'exploitation en production de l'application NLP, un document comportant un nom ne figurant pas parmi les 100 plus courants apparaît, celui-ci peut, dans certaines circonstances, ne pas être reconnu. Par conséquent, il convient de prendre en compte la préservation de la variance des données au sein des attributs anonymisés.

À cela s'ajoute le fait que la préservation des liens entre les données est également importante lors de l'anonymisation. Sans cela, il est impossible de reconnaître, d'un enregistrement à l'autre, qu'il s'agit de la même personne ou que les processus décrits sont liés entre eux. Dans l'ensemble, les méthodes existantes limitent trop l'entraînement des modèles sur des données anonymisées en raison de la perte d'informations.

L'objectif est de trouver un équilibre entre le respect des règles de protection des données et la mise au point d'une application de haute qualité. Le schéma de procédure ci-dessous présente une approche possible permettant de mettre en œuvre le NLP grâce à l'anonymisation.