Solo 5,2% de líderes se siente muy seguro al explicar decisiones de IA

FICO líder mundial en software de analítica, anunció hoy los resultados de su estudio «Estado de la IA Responsable 2026», elaborado en colaboración con Corinium Global Intelligence. Ahora en su quinto año, el informe analiza cómo las organizaciones están adoptando prácticas responsables de la inteligencia artificial (IA), los primeros resultados que están obteniendo de sus implementaciones y las barreras que aún impiden aprovechar al máximo el potencial de esta tecnología.

El informe de este año encuestó a 1,004 líderes de alto nivel en tecnología, riesgo y datos, revelando información sobre la IA y la toma de decisiones empresariales. Si bien las organizaciones han invertido miles de millones en IA, el estudio revela que el 71.5% de las decisiones que afectan a los clientes aún se toman sin ella. Esto, sumado al hecho de que sólo el 5.2% de los encuestados se siente muy seguro al explicar sus decisiones impulsadas por la IA en la actualidad, señala la necesidad de adoptar prácticas de IA responsable para mejorar la confianza y la transparencia.

Cuando se les preguntó qué práctica de IA responsable marcaría la mayor diferencia, los encuestados señalaron con mayor frecuencia las normas de desarrollo de modelos de IA (71.9 %).

“La mayoría de las organizaciones pueden indicar dónde y qué decidió su inteligencia artificial. Pero son muchas menos las que pueden explicar por qué tomó esa decisión”, afirmó Scott Zoldi, Director de Analítica de FICO. “Esto apunta a una falta de estándares y técnicas de IA responsable, lo que afecta directamente la disposición de las organizaciones a utilizar la IA en decisiones que impactan a los clientes. A medida que los reguladores y los clientes examinan minuciosamente cómo se utiliza la IA en la toma de decisiones, la auditabilidad y la explicabilidad son innegociables” añadió.

La explicabilidad ahora se considera un factor de impacto

La regulación de la IA se está intensificando en todo el mundo, y los responsables políticos proponen nuevos marcos que exigen prácticas de IA. Sin embargo, sólo el 5.2% de los líderes tecnológicos se sienten muy seguros al explicar sus decisiones impulsadas por la IA a los reguladores y a los clientes en la actualidad, y más de un tercio (37.3%) se muestran neutrales o no se sienten seguros en absoluto. Si no se aborda, esta brecha podría costarles a los líderes la confianza tanto de los reguladores como de los clientes.

Los líderes reconocen la importancia de la transparencia, y la mayoría afirma que las prácticas responsables, como los estándares de desarrollo de modelos (71.9%) y las arquitecturas de modelos interpretables (67.9%), son las que tienen mayor impacto potencial en la IA. Además, están invirtiendo activamente en prácticas de IA Responsable: la mayoría utiliza herramientas de detección de sesgos (58.8%) y audita regularmente sus modelos de IA (53.5%).

Aún quedan oportunidades sin aprovechar para maximizar el retorno de inversión (ROI) de la IA

Si bien el 85.1% afirma que la IA ha cumplido o superado sus expectativas de ROI, la mayoría de las decisiones empresariales actuales dependen de procesos heredados: personas (33.3%), sistemas basados en reglas (21.4%) y analíticas estándar (16.8%). Para cerrar esa brecha se requieren estándares responsables que generen confianza en la IA y le den a la tecnología un lugar en las decisiones que aún se toman basándose en el instinto y en reglas heredadas.

Parte del problema radica en la falta de una infraestructura técnica compartida para coordinar las capacidades de IA responsable. Sólo el 8.2% de las organizaciones cuenta con una única plataforma compartida de implementación de IA totalmente operativa, mientras que el 71.2% tiene una parcialmente operativa.

Casi todos los encuestados (96.4%) creen que una colaboración más estrecha entre los líderes de IA y de tecnología en una plataforma compartida generaría beneficios adicionales. La capacitación organizacional y la visión compartida son otra barrera. La resistencia al cambio (61.4%) y la falta de un entendimiento común sobre la IA (58.4%) son las dos principales barreras para la alineación interna en materia de IA.

De cara al futuro, el 63.2% señala que las habilidades de la fuerza laboral no siguen el ritmo de la adopción de la IA como su principal riesgo a cinco años, mientras que la pérdida de control sobre los sistemas de IA ocupa el último lugar (10.4%). Esto sugiere que a los líderes les preocupa más que su personal pueda mantener el ritmo.

“Hace un año, existían serias dudas sobre si la IA generaría beneficios. Hoy en día, la principal pregunta que se plantean los ejecutivos es cómo implementar la tecnología a nivel de toda la empresa”, afirmó Lariza Carrera, directora de producción de Corinium Global Intelligence. “Cada vez más, la respuesta tiene menos que ver con la tecnología en sí misma y más con las personas que la manejan” puntualizó.

Las barreras prácticas mantienen a la IA agentiva estancada en la fase piloto

La promesa de la IA agentiva es real, pero las cifras muestran que la mayoría de las organizaciones aún están dando sus primeros pasos con esta tecnología. Sólo el 2.4% de los líderes tecnológicos han implementado ampliamente la IA agentiva en casos de uso orientados al cliente, mientras que el 71.5% se mantiene en fases iniciales de exploración o de pruebas piloto. Las preocupaciones de seguridad (40.1%) y los desafíos relacionados con la integración o la calidad de los datos (38.3%) son los obstáculos más citados para lograr un retorno de la inversión con la IA agentiva.

Los líderes no esperan que los agentes generen retornos a corto plazo. Durante los próximos 18 meses, los modelos de lenguaje específicos de dominio (49.5%), la IA Generativa (48.7%) y las arquitecturas de modelos interpretables (46%) encabezan la lista de tecnologías que se espera que impulsen el retorno de la inversión (ROI), en comparación con los agentes (27.5%).

“La IA basada en agentes aún se encuentra en una etapa temprana de experimentación, y es precisamente en ese momento cuando el trabajo preliminar es más importante”, afirmó Rachael Hadaway, vicepresidenta de Productos de IA en FICO. “Los líderes que invierten hoy en seguridad e integración de datos están sentando las bases para la autonomía a gran escala” finalizó.

Metodología

El informe de este año, realizado por Corinium en nombre de FICO, encuestó a más de 1,000 líderes de alto nivel en tecnología, datos y riesgo, entre los que se incluyen directores de tecnología (CTO), directores de información (CIO), directores de datos (CDO), directores digitales (CDO), directores de analítica (CAO), directores de inteligencia artificial (CAO), directores de riesgo (CRO) y ejecutivos de nivel vicepresidente (VP), vicepresidente sénior (SVP) y vicepresidente ejecutivo (EVP) en las áreas de analítica, datos e inteligencia artificial, abarcando siete sectores. La muestra representa una ampliación con respecto a informes anteriores, que encuestaban a ejecutivos de alto nivel del sector de servicios financieros. El grupo de encuestados es global, con dos tercios de ellos con sede en América del Norte.

Para descargar el informe completo, visita: fico.com

Como líder en análisis predictivo y tecnología de toma de decisiones, FICO ayuda a las organizaciones a convertir sus datos en decisiones que puedan explicar, auditar y respaldar. Obtenga más información en fico.com.