PAMI establece controles para el uso de inteligencia artificial en decisiones sobre prestaciones
La normativa establece que toda decisión que pueda afectar el acceso de una persona a un servicio deberá contar con intervención humana. Además, la responsabilidad final seguirá recayendo en los trabajadores que participen del procedimiento.
Las disposiciones alcanzan tanto a las dependencias del organismo como a los proveedores que utilizan o procesan información del instituto. También incluyen los asistentes de inteligencia artificial empleados en las tareas cotidianas del personal.
Evaluación previa y controles periódicos
A partir de esta normativa, cada proyecto que incorpore inteligencia artificial a los procesos de gestión deberá superar una evaluación formal antes de su implementación.
Para ello, PAMI creó un Comité de Ética de Inteligencia Artificial, integrado por especialistas de las áreas técnicas, jurídicas, médicas y de seguridad informática. Este organismo tendrá la responsabilidad de analizar las propuestas y podrá aprobarlas, solicitar modificaciones o rechazarlas.
Las herramientas que ya se encuentran funcionando también estarán sujetas a revisiones periódicas. En caso de detectar errores, sesgos o problemas de seguridad, el instituto podrá disponer su suspensión.
Protección de los datos personales
Otro de los puntos centrales del manual está relacionado con la privacidad de los afiliados. Se prohíbe cargar información sensible en plataformas que no ofrezcan garantías de confidencialidad.
Además, se establece que los datos personales deberán anonimizarse siempre que sea posible, evitando que la información utilizada por estas herramientas permita identificar a los beneficiarios.
El tratamiento de esos datos requerirá la intervención y autorización de las áreas de protección de datos y asuntos jurídicos del organismo.
Una guía para el sector público
Para elaborar esta normativa, PAMI tomó como referencia la Guía de Controles de Inteligencia Artificial de la Sindicatura General de la Nación (SIGEN), que establece recomendaciones para evaluar riesgos, asignar responsabilidades y supervisar la incorporación de estas tecnologías en los organismos estatales.
El objetivo es establecer un marco de utilización responsable de la inteligencia artificial, con controles humanos, protección de la información y mecanismos de revisión que eviten que los sistemas automatizados condicionen por sí solos el acceso de los afiliados a sus derechos y prestaciones.
