El instituto aprobó un manual que alcanza a todas sus áreas y a los proveedores que trabajan con sus datos. Cada proyecto deberá pasar por una evaluación previa y las herramientas podrán suspenderse si se detectan errores, sesgos o problemas de seguridad.
El PAMI aprobó un manual que exige intervención humana cuando se utilice inteligencia artificial (IA) en decisiones que afecten el acceso de sus afiliados a tratamientos, medicamentos u otras prestaciones. La responsabilidad por la decisión seguirá a cargo de las personas que intervengan en el procedimiento.
Las reglas alcanzan a todas las áreas del Instituto Nacional de Servicios Sociales para Jubilados y Pensionados y a los proveedores que trabajan con sus datos. El manual abarca tanto los sistemas incorporados a los procesos de gestión como los asistentes que usan los empleados en sus tareas.
Los proyectos que incorporen inteligencia artificial a la gestión deberán pasar por una evaluación formal antes de ponerse en marcha. Para el uso individual de asistentes, el personal solo podrá utilizar plataformas habilitadas por el organismo.
Cómo se evaluarán los proyectos de inteligencia artificial
El PAMI creó un Comité de Ética de Inteligencia Artificial para revisar las iniciativas. Lo integran especialistas de áreas técnicas, jurídicas, médicas y de seguridad informática.
El comité analizará cada propuesta junto con las áreas involucradas. La revisión podrá concluir con la aprobación del proyecto, su devolución para que se hagan ajustes o su rechazo.
Las herramientas que ya estén en uso quedarán sujetas a controles periódicos. El instituto podrá suspenderlas si durante el seguimiento detecta errores, sesgos o problemas de seguridad.
Qué reglas se aplicarán a los datos de los afiliados
El manual prohíbe cargar información sensible en servicios que carezcan de garantías de confidencialidad. Esa restricción se aplica también al uso de asistentes de inteligencia artificial por parte de los empleados.
Los datos personales de los afiliados deberán anonimizarse siempre que sea posible. Esto implica quitar los elementos que permiten identificar a una persona antes de que la información se utilice en una herramienta de IA.
El uso de estos datos requerirá el aval de las áreas de protección de datos y de asuntos jurídicos del PAMI. La revisión se suma a los controles técnicos previstos para la incorporación de cada sistema.
La guía estatal que sirvió de referencia
Para elaborar el manual, el instituto tomó como referencia la Guía de Controles de Inteligencia Artificial de la Sindicatura General de la Nación (SIGEN). El documento orienta a los organismos públicos sobre cómo evaluar los riesgos de estas tecnologías y asignar responsabilidades por su uso.
Para los sistemas integrados a procesos de gestión, la guía plantea analizar su viabilidad y sus riesgos antes de incorporarlos. También recomienda que intervengan las áreas informática y jurídica y que se documenten los procedimientos en los que se aplica la tecnología.
La guía contempla además la capacitación del personal que revisa los resultados de estas herramientas. El objetivo de esa formación es que los trabajadores puedan detectar errores y usos indebidos durante su funcionamiento.
Temas:
PAMI Inteligencia Artificial
