Alucinaciones de IA obligan a la verificación humana en Perú

Una cifra de mercado inexistente puede alterar un presupuesto; un resumen equivocado de un contrato, cambiar una decisión comercial. Son riesgos de las llamadas alucinaciones de la inteligencia artificial generativa: respuestas que presentan información falsa con una redacción convincente. Para las empresas, el problema aparece cuando ese contenido se utiliza sin contrastarlo con la fuente original.

En el Perú, los controles todavía son limitados. Según la encuesta AI & Boards 2026 de EY Perú, solo el 10% de las empresas representadas cuenta con políticas de IA aprobadas y apenas el 18% tiene protocolos para su uso seguro y ético. Los resultados muestran una tarea pendiente para la alta dirección: establecer cómo se revisa la información antes de convertirla en una decisión.

La brecha también alcanza a quienes deben supervisar su uso. El 68% de los ejecutivos encuestados no ha recibido capacitación sobre IA ni sobre su impacto en el negocio. Además, solo el 24% de las empresas ha asignado esa supervisión a un comité. Contar con una herramienta, por tanto, no garantiza que existan responsables capaces de detectar y corregir sus errores.

El riesgo se extiende a tareas cotidianas. Un informe puede incluir estudios que nunca se publicaron; un asistente de atención puede ofrecer condiciones comerciales inexistentes; y un resumen puede omitir una cláusula decisiva. Cuando estos errores llegan a un cliente o sustentan una inversión, corregir el texto deja de ser suficiente: también puede ser necesario rehacer el trabajo y recuperar la confianza.

Existe, además, un riesgo distinto que requiere sus propios controles: ingresar información confidencial en aplicaciones no autorizadas. Por ello, las reglas internas deben precisar qué herramientas pueden utilizarse y qué datos de clientes, trabajadores o del negocio deben mantenerse fuera de ellas.

Cómo reducir la exposición en 90 días

Como punto de partida, se proponen siete medidas para la gerencia: aprobar una política de IA; inventariar las herramientas y los datos utilizados; distinguir los usos según su impacto; exigir verificación humana contra fuentes originales; definir aplicaciones autorizadas e información restringida; registrar los entregables elaborados con IA; y capacitar al personal con un canal para reportar errores sin sanción.

La prioridad es aplicar una revisión más exigente cuando el resultado pueda afectar dinero, compromisos comerciales o información sensible. Esto supone identificar quién valida el contenido y conservar las fuentes que respaldan una recomendación antes de aprobarla.

“El ahorro de tiempo pierde valor si después tenemos que corregir una decisión o recuperar la confianza de un cliente. La gerencia debe establecer quién revisa los resultados de la IA, quién autoriza su uso, así como quién asume las consecuencias de las decisiones automatizadas”, señala Alain Lira, Fundador de El Despacho Directivo

Estos protocolos serán el eje de El Despacho Directivo En Vivo – Edición 001, que reunirá a gerentes generales el 15 de octubre de 2026 en el Club Social Miraflores. El encuentro forma parte de un espacio de conocimiento ejecutivo dedicado a los desafíos de la alta dirección en el Perú.