Los bancos esperan dejar las decisiones en manos de la IA, aunque no puedan explicarlas

Una encuesta global realizada por FT Longitude y SAS revela que el 63% cambiaría la transparencia por un mejor rendimiento de la IA; El 76% espera tomar decisiones de riesgo autónomas dentro de cinco años, pero solo el 18% cuenta actualmente con una gobernanza adecuada de la IA.

Los bancos corren hacia un futuro en el que la IA ya no se limita a informar decisiones clave de crédito, tesorería y riesgo, sino que las toma de forma autónoma. Sin embargo, la gobernanza de la IA no va a la par de la adopción, según una nueva investigación de riesgos de la IA realizada por el líder de datos e IA FT Longitude, SAS y su socio estratégico Microsoft.

Si bien más de 3 de cada 4 (76%) bancos esperan decisiones crediticias y de riesgo autónomas a gran escala para 2031, el estudio concluye:

• Actualmente, solo el 18% cuenta con procesos de gobernanza de IA integrados y totalmente operativos.
• Solo el 19% tiene monitoreo de deriva del modelo de IA en tiempo real.
• El 42% no tiene “interruptores de apagado” configurados para desactivar los modelos de IA que superan los umbrales predefinidos.
• Sólo el 36% entrena o actualiza continuamente modelos de IA.

El informe, Por qué la IA a escala necesita una gobernanza rápidase basa en una encuesta global realizada a 300 líderes bancarios en 31 países. En conjunto, los hallazgos resaltan una brecha cada vez mayor entre las ambiciones de IA de los bancos y las barreras y controles necesarios para implementar agentes de IA y otros modelos y herramientas de IA autónomos de manera segura y responsable.

«Estos riesgos no son teóricos. Cuando los sistemas de IA toman malas decisiones, hay consecuencias reales para los clientes de un banco y su comunidad, así como para su desempeño financiero y su reputación», afirmó Anselmo Marmonti, vicepresidente de Soluciones de Riesgo, Fraude y Cumplimiento de SAS. «La adopción rápida de la IA por sí sola no es suficiente. El liderazgo sostenido depende de procesos comerciales enfocados y una gobernanza sólida combinada con una IA confiable a escala. Juntos, brindan los resultados comerciales, la resiliencia, el cumplimiento y la responsabilidad que exige la banca moderna».

Y si bien los banqueros encuestados están interesados ​​en adoptar rápidamente la IA, los reguladores también piden prudencia. “La ambición debe estar a la altura de la capacidad”, dijo a FT Longitude Marilin Pikaro, directora de Innovación, Conducta y Consumidores de la Autoridad Bancaria Europea. Advirtió que incluso los casos de uso convincentes de la IA no deberían avanzar más rápido que la capacidad de una institución para gestionar los riesgos inherentes.

La adopción aumenta, la gobernanza se retrasa

El 82% de los líderes bancarios dice que sus organizaciones ya utilizan IA generativa para la toma de decisiones, mientras que el 41% informa que utiliza IA de agentes. Combinada con la IA tradicional y predictiva (como el aprendizaje automático), la adopción de la IA ha alcanzado niveles casi universales: 299 de 300 bancos encuestados utilizan la IA en su toma de decisiones crediticias y de riesgo.

A pesar de esta dinámica, la gobernabilidad está significativamente retrasada. Como se señaló, el 82% de los bancos dicen que no cuentan con procesos de gobernanza integrados y completamente operativos para los modelos de IA. Y, sorprendentemente, más de una cuarta parte (26%) de las instituciones encuestadas no tienen una política de riesgo de modelo de IA dedicada.

Los banqueros reconocen la importancia de la buena gobernanza. Aurelio Maccario, jefe de gestión de riesgos del grupo UniCredit, un grupo bancario multinacional con sede en Italia, señaló en el informe: “Gobernanza significa que uno ha hecho su tarea, que ha creado los límites, que ha definido las reglas y luego, dentro de esas cosas, está listo para ejecutar”.

Los bancos exitosos serán aquellos que promuevan conjuntamente la innovación tecnológica y la gobernanza, permitiendo decisiones más rápidas sin sacrificar la transparencia, la supervisión o la confianza regulatoria.

¿Cajas negras arriesgadas?

Sin embargo, la investigación también reveló una tensión alarmante entre desempeño y transparencia. Casi dos tercios (63%) de los líderes bancarios dijeron que estarían dispuestos a utilizar un modelo de caja negra –un modelo con poca o ninguna transparencia en la toma de decisiones– si ofreciera mejor desempeño, rentabilidad o liquidez que una alternativa explicable.

Y muchos bancos hoy parecen estar sucumbiendo a esta tentación, exponiéndose así a posibles problemas de cumplimiento. Un total del 92% de los encuestados informó que al menos un modelo lingüístico importante dentro de sus instituciones ya se ha desarrollado o opera fuera de los marcos formales de gobernanza.

«Si bien la gobernanza ineficiente puede llevar a algunos bancos a buscar soluciones alternativas y atajos, aquí existe un peligro real. El rápido aumento del rendimiento de un modelo de IA de caja negra puede parecer atractivo en el corto plazo, pero su falta de visibilidad, repetibilidad y explicabilidad significa problemas desde una perspectiva regulatoria y de riesgo», dijo Tyler Pichach, director global de pagos, estrategia de IA y salida al mercado de Microsoft. «A medida que la IA se vuelve más autónoma y asume tareas más importantes, la gobernanza debe evolucionar con ella. La oportunidad es implementar las salvaguardias, el monitoreo y la supervisión humana adecuados para que los bancos puedan avanzar más rápido con la IA, manteniendo al mismo tiempo la confianza y la responsabilidad que requieren los servicios financieros».

Las decisiones de IA autónoma están cada vez más cerca

Aunque la IA está influyendo en las operaciones diarias de los bancos, actualmente pocas instituciones le permiten tomar decisiones independientes. Sólo el 10% de los encuestados dice que hoy en día la IA toma decisiones crediticias o de riesgo autónomas a gran escala. Sin embargo, las expectativas futuras son dramáticamente diferentes: mientras que el 76% espera que la IA tome decisiones crediticias y de riesgo autónomas a gran escala dentro de cinco años, una cuarta parte (25%) espera este cambio dentro de dos.

La investigación encontró que la IA ya desempeña un papel importante en las operaciones bancarias:

• El 59% de los bancos ha incorporado parcial o ampliamente la IA en sus procesos de toma de decisiones.
• La IA influye en las decisiones departamentales al menos mensualmente en el 53% de las organizaciones.
• La IA está incorporada parcial o en gran medida en el 63% de los procesos de riesgo crediticio y en el 55% de los procesos de gestión de activos y pasivos (ALM) y de orientación de riesgos.

El banco digital canadiense Tangerine, que comenzó a utilizar la inteligencia artificial para influir en las decisiones crediticias en 2023, ha visto esta progresión al tiempo que equilibra a las personas y la tecnología. En el informe, Nishant Taneja, director de riesgo crediticio de Tangerine, dijo: «En áreas como las carteras de crédito minorista, más del 90% son decisiones basadas en inteligencia artificial con muy pocos métodos humanos involucrados. Cuando se trata de carteras de alto riesgo, hemos mantenido intencionalmente al ser humano informado hasta que tengamos más confianza en la tecnología».