¿Cómo se pueden desarrollar sistemas de PLN sin poner en peligro la protección de datos?

Pocas áreas de la informática gozan actualmente de tanta popularidad como el aprendizaje automático (ML) y, en particular, el procesamiento del lenguaje natural (NLP). ¿Quién no sabe cómo manejar el smartphone o la radio mediante un asistente de voz (Siri, Alexa, etc.)? ¿No es una maravilla poder decir simplemente la dirección a la que quieres que te lleve el navegador? Incluso es posible el reconocimiento automático de las consultas de los clientes en el procesamiento automático de cartas.

A pesar de la existencia de herramientas y de modelos de procesos y procedimientos ya consolidados, como por ejemplo STAMP4NLP [1], la creación de una aplicación de este tipo sigue suponiendo un gran esfuerzo. Para poder entrenar los modelos estadísticos necesarios, capaces de identificar patrones en los datos con el fin de extraer información, primero hay que identificar y preparar los datos adecuados. Esto incluye tanto la corrección de errores ortográficos como el etiquetado manual, que consiste en marcar elementos del texto. A partir del corpus anotado, el modelo se entrena durante la fase de entrenamiento y, una vez completada la optimización, se integra en un sistema de IA que puede utilizarse de forma productiva (véase Figura 1).

Un aspecto que cada vez cobra mayor importancia en el desarrollo de sistemas de IA es la protección de datos [2]. Debido a la gran complejidad que entraña el desarrollo de aplicaciones de PLN, muchas empresas dependen de la ayuda de empresas y desarrolladores externos. Sin embargo, esto implica facilitar datos que contienen información sensible en materia de protección de datos, sobre cuya base se entrenan las nuevas aplicaciones. Este es el punto en el que, hasta ahora, la mayoría de estas empresas han desistido de introducir la PLN en sus propias operaciones, ya que la anonimización de los datos conlleva un gran esfuerzo.

En particular, gracias al Reglamento General de Protección de Datos (RGPD) de la UE, el tema de la anonimización de datos conforme a la normativa de protección de datos ha cobrado un nuevo impulso [3]. Debido a las elevadas sanciones que se imponen en caso de incumplimiento, la protección de datos supone actualmente un obstáculo especialmente importante para la implantación del PLN.

Los métodos existentes que sustituyen de forma relativamente sencilla la información sensible en materia de protección de datos por datos ficticios no pueden utilizarse sin más. Esto se debe, por un lado, al ámbito de aplicación concreto. En el contexto de los seguros, por ejemplo, sin duda deben considerarse sensibles los números de póliza, los nombres, los datos de los siniestros y las direcciones. Por el contrario, en el contexto de los datos médicos hay que prestar especial atención a atributos como, por ejemplo, la estatura, el peso, los síntomas y los diagnósticos. Por consiguiente, lo primero que hay que hacer es identificar los atributos críticos para cada ámbito.

Además, hay que tener en cuenta que se debe anonimizar una cantidad suficiente de información. Si, a partir de la información restante y añadiendo otra fuente de datos, es posible volver a deducir los datos originales, no se trata de una anonimización que impida la identificación. Un ejemplo de ello es la eliminación del nombre y la dirección, pero conservando al mismo tiempo la fecha de nacimiento y el sexo en un informe médico. Si ahora se añade el registro de empadronamiento y se limita a la zona de influencia del hospital, es posible identificar a la persona afectada con un esfuerzo mínimo [4].

Por otra parte, también hay que tener en cuenta la variedad de métodos disponibles. A modo de ejemplo, existen variantes que sustituyen los nombres de forma aleatoria por los 100 nombres más frecuentes en Alemania. Sin embargo, también es posible un intercambio esquemático 1:1 o aplicar métodos más complejos. En este contexto, no debe pasarse por alto la influencia que tiene la anonimización en el modelo que se va a entrenar. Si, durante el funcionamiento en producción de la aplicación de PLN, aparece un documento con un nombre que no se encuentra entre los 100 más frecuentes, es posible que este no se pueda reconocer. Por lo tanto, hay que tener en cuenta la conservación de la variabilidad de los datos dentro de los atributos anonimizados.

A esto se suma que, en el proceso de anonimización, también es importante mantener las relaciones entre los datos. De lo contrario, no se podrá reconocer, al analizar los registros, que se hace referencia a la misma persona o que los procesos descritos están relacionados entre sí. En general, los métodos utilizados hasta ahora limitan en exceso el entrenamiento de los modelos con datos anonimizados debido a la pérdida de información.

El objetivo es encontrar el equilibrio entre el cumplimiento de la normativa de protección de datos y el desarrollo de una aplicación de alta calidad. En el siguiente esquema se describe un posible procedimiento para hacer viable la implementación del PLN mediante la anonimización.