Perú regula IA: EY identifica seis aspectos para su supervisión

La implementación progresiva del marco regulatorio para inteligencia artificial en Perú está llevando a las empresas a revisar cómo utilizan estas herramientas y qué mecanismos existen para supervisarlas. La Ley N.°31814 y su reglamento establecen obligaciones relacionadas con transparencia, protección de datos, supervisión humana y documentación sobre el funcionamiento de los sistemas de IA.

El reglamento contempla una aplicación gradual por sectores económicos. Salud, educación, justicia, seguridad, economía y finanzas figuran entre los primeros sectores en incorporar estas disposiciones, mientras que su implementación continuará progresivamente en otras actividades durante los próximos años.

“Muchas organizaciones ya utilizan inteligencia artificial para automatizar tareas o apoyar decisiones, pero pocas han evaluado qué implicancias tiene eso desde el punto de vista del control interno. Con la nueva regulación, las empresas tendrán que entender mejor qué sistemas utilizan, qué riesgos generan y quién es responsable de supervisarlos", señala Katherine Trigueros, Associate Partner de Technology Risk de EY Perú.

Ante este escenario, EY Perú identifica seis aspectos que las organizaciones que deberían revisar para fortalecer sus mecanismos de control y supervisión frente al creciente uso de inteligencia artificial.

1. Informar a los usuarios cuando interactúan con sistemas de IA

La normativa contempla que los usuarios sean informados sobre la finalidad de los sistemas de inteligencia artificial que utilizan. Un ejemplo mencionado es el uso de etiquetados visibles que permitan conocer cuándo se está interactuando con una solución basada en IA.

2. Cumplir con la normativa de protección de datos personales

Las empresas deberán asegurar que el uso de inteligencia artificial respete las disposiciones aplicables en materia de datos personales. En ese sentido, la Autoridad Nacional de Protección de Datos Personales (ANPDP) emitirá lineamientos específicos sobre este aspecto.

3. Documentar cómo funciona la IA

Uno de los cambios más importantes está relacionado con la trazabilidad. Las organizaciones deberán contar con registros accesibles sobre el funcionamiento del sistema, las fuentes utilizadas y la lógica detrás de las decisiones generadas por la IA.

4. Implementar medidas de seguridad y privacidad

La regulación también contempla la necesidad de contar con políticas orientadas a preservar la seguridad y la privacidad de los sistemas de inteligencia artificial, incorporando estos aspectos dentro de los marcos internos de control.

5. Capacitar a los trabajadores sobre los riesgos asociados a la IA

El uso de estas herramientas requiere que los colaboradores comprendan los riesgos relacionados con su utilización, así como las responsabilidades vinculadas a su uso dentro de la organización.

6. Mantener supervisión humana en la toma de decisiones

Determinados sectores (salud, finanzas, educación y justicia) deberán implementar mecanismos que permitan la intervención humana en decisiones apoyadas por inteligencia artificial.

“La inteligencia artificial ya no puede verse únicamente como una herramienta tecnológica. Las organizaciones necesitan saber cómo funcionan estos sistemas, qué datos utilizan y qué mecanismos existen para supervisarlos. La confianza en la IA dependerá cada vez más de la capacidad para demostrar trazabilidad, control y transparencia", finaliza Fabiana Tejerina, Associate Partner de Consultoría de EY Perú.