La confianza se perfila como uno de los factores determinantes para la adopción de la inteligencia artificial en el ámbito financiero. Así lo pone de manifiesto una nueva investigación de Sage, compañía especializada en soluciones de contabilidad, finanzas, recursos humanos y nóminas para pequeñas y medianas empresas, que revela que el 68% de los directivos financieros españoles no utilizaría una herramienta de IA con un nivel de precisión del 99% si esta fuera incapaz de explicar cómo ha llegado a sus conclusiones.
Los datos forman parte del informe The Emerging Economics of AI in Finance, un estudio que analiza las expectativas y prioridades de los responsables financieros ante la creciente incorporación de la inteligencia artificial en los procesos de negocio. Entre sus principales conclusiones destaca que la explicabilidad de los sistemas de IA se está consolidando como un requisito esencial para su adopción, especialmente en áreas donde la trazabilidad, el control y la rendición de cuentas son fundamentales.
La investigación, basada en una encuesta realizada a más de 2.000 altos responsables de la toma de decisiones financieras de diferentes países, muestra además que las organizaciones están dispuestas a invertir más en soluciones que proporcionen una mayor transparencia sobre el funcionamiento de los algoritmos y los criterios utilizados para generar recomendaciones o decisiones.
En este contexto, el estudio pone de relieve que la capacidad de comprender y justificar los resultados ofrecidos por la inteligencia artificial está adquiriendo un peso creciente en los procesos de evaluación tecnológica. Más allá de la precisión, las empresas demandan herramientas que permitan conocer cómo se generan las respuestas y que ofrezcan las garantías necesarias para operar en entornos donde la confianza y la responsabilidad son aspectos críticos.
“En finanzas, decir que algo es casi correcto siempre ha significado que era incorrecto. A medida que la IA asume flujos de trabajo financieros más complejos, el coste de la incertidumbre es sencillamente demasiado alto”, afirma Aaron Harris, CTO de Sage. “Esta investigación muestra que la próxima era de la IA no se ganará sólo con la capacidad técnica del modelo por sí sola; se ganará con infraestructura de confianza. Los equipos financieros no pueden permitirse pasar horas haciendo de detectives con resultados de IA de caja negra. Necesitan soluciones que aporten transparencia, control y trazabilidad a los sistemas que hay detrás de sus resultados, para poder ejecutar con absoluta confianza”.
Entre las principales conclusiones de la investigación se incluyen:
- El auge del “Verification Tax”. Los profesionales financieros dedican cerca de 13 horas cada semana a reconstruir, validar y defender resultados de IA. A nivel global, casi la mitad (48%) dedica 15 horas o más a la semana a tareas de verificación, una cifra que asciende al 50% en España, mientras que casi uno de cada cinco (19%) dedica 30 horas o más.
- La precisión sin auditabilidad es una responsabilidad inaceptable. La investigación muestra que el rendimiento no es suficiente si la IA no puede mostrar cómo ha llegado a sus conclusiones, con más de la mitad de las organizaciones dispuestas a pagar una prima por transparencia.
- Los equipos financieros se están convirtiendo en la garantía de confianza de la IA. Al preguntar qué habilidades son más importantes para los líderes financieros actuales, los encuestados situaron en primer lugar el riesgo, la gobernanza y el criterio para la toma de decisiones, valorándolos casi el doble que la contabilidad técnica profunda. En España, el riesgo, la gobernanza y el criterio para la toma de decisiones alcanzan 32,1 puntos, frente a los 16,8 puntos de la contabilidad técnica profunda.
De la IA estilo ‘Black Box’ a la IA ‘Glass Box’
Las conclusiones apuntan a un cambio más amplio desde los sistemas tradicionales de IA Black Box, en los que resulta difícil entender o cuestionar los resultados, hacia enfoques Glass Box más transparentes, que ofrecen visibilidad sobre el razonamiento, las fuentes y la lógica que hay detrás de las recomendaciones generadas por IA. Como reflejo de esta tendencia, el 71% de los líderes financieros afirma que un proveedor con principios de diseño Glass Box en sus desarrollos elevaría claramente su estatus como partner preferente.
En respuesta a la creciente demanda de transparencia y auditabilidad, el enfoque de Sage en el diseño y desarrollo de IA para las finanzas se basa en la confianza. Una IA que los equipos financieros pueden analizar en detalle, gobernar y utilizar con confianza, gracias a resultados explicables y verificables, acciones controladas y trazabilidad completa de cada decisión impulsada por IA. Al integrar transparencia y auditabilidad en sus capacidades de IA, Sage permite a los equipos financieros actuar con mayor confianza, control y responsabilidad.
Kevin Permenter, Research Director, Financial Applications en IDC, añade que “las organizaciones que lograrán la ventaja más duradera en IA serán aquellas que replanteen la infraestructura de confianza no como una restricción para el despliegue de la IA, sino como la base sobre la que se construye una IA escalable. Las organizaciones deben tomar una elección; actuar pronto para convertir la confianza en procesos concretos o arriesgarse a verse desbordadas por la sobrecarga de verificación”.
