La IA exige una regulación financiera más sencilla

STANFORD – El tema de la reunión anual de banqueros centrales y economistas del mes pasado en Jackson Hole, Wyoming, fue la “innovación financiera”. Una cuestión importante que se cernía sobre la reunión era cómo las nuevas tecnologías, específicamente la IA, podrían afectar la estabilidad financiera.

Los economistas y los responsables de la formulación de políticas llevan mucho tiempo debatiendo cómo deberían responder las políticas a los shocks tecnológicos. Al menos desde el trabajo del premio Nobel Robert Lucas en la década de 1970, los economistas han comprendido que los hogares y las empresas ajustan su comportamiento cuando cambia el entorno económico que los rodea, ya sea en respuesta a cambios políticos importantes o cambios tecnológicos. No se puede simplemente asumir que las relaciones observadas en datos pasados ​​permanecerán sin cambios a medida que las personas y las empresas se adapten.

En cierto nivel, la IA está haciendo lo que se supone que debe hacer una revolución tecnológica. Está permeando la economía real, alterando todo, desde la ingeniería y las ventas hasta las finanzas y los recursos humanos. También está remodelando las industrias, acelerando el ritmo al que los nuevos participantes pueden escalar y competir con los existentes. Es probable que todos estos cambios afecten los datos que observamos en el futuro y, a su vez, lo que aprendemos de ellos sobre el comportamiento de los hogares y las empresas.

Pero la IA también desafía nuestra capacidad de anticipar cómo responderán las partes interesadas a la regulación financiera. Como ha observado Markus Brunnermeier, de la Universidad de Princeton en Jackson Hole, la relación entre los humanos y la IA está marcada por una “comprensión asimétrica”: nos comprende, pero no entendemos muy bien qué pueden hacer los agentes de la IA, individualmente y especialmente juntos, para lograr un objetivo. Aunque podemos establecer reglas y escenarios a seguir por los agentes, no podemos tener en cuenta todos los caminos que pueden seguir. Esta asimetría se vuelve aún más evidente cuando muchos agentes operan a escala.

Los reguladores y los formuladores de políticas ya se han enfrentado a una versión de este problema: las reglas y los incentivos pueden cambiar el comportamiento de quienes están sujetos a ellas. Los bancos y otras instituciones financieras a menudo responden a la regulación de maneras que las autoridades no anticiparon. Lo mismo se aplica a los reguladores y supervisores que interpretan y aplican estas reglas, ya que sus decisiones también reflejan incentivos y normas organizacionales. Esto es evidente cuando diferentes reguladores que analizan la misma situación llegan a conclusiones diferentes.

Sin embargo, en ambos casos, las restricciones institucionales limitan lo que los humanos pueden hacer y, por lo tanto, la variedad de respuestas que los responsables de las políticas deben anticipar. Los agentes de IA pueden seguir una gama mucho más amplia de caminos posibles, lo que hace que su comportamiento sea menos predecible.

La reciente violación de Hugging Face por parte de actores de OpenAI ilustra el problema. Los agentes de IA han eludido las reglas establecidas para lograr un objetivo, encontrando formas de comunicación no autorizadas, recopilando información y, finalmente, violando sistemas fuera de su entorno previsto. Sus diseñadores, que ni dirigieron ni anticiparon estos movimientos, parecieron tan sorprendidos como cualquiera.

Uno puede imaginar un problema similar en las finanzas, dado que los bancos, los fondos de cobertura y las empresas comerciales tienen incentivos sustanciales para utilizar agentes de IA para encontrar caminos rentables para sortear las restricciones regulatorias. Esto no significa que no se puedan implementar barreras protectoras, como un “equipo rojo” de agentes que busquen dicha actividad. Pero quienes toman las decisiones políticas definirán objetivos y reglas sin conocer todas las formas en que los agentes pueden responder a ellos.

Nos guste o no, la IA ya está siendo utilizada por varios actores de los mercados financieros, desde bancos hasta fondos de cobertura y especuladores. Cada vez más, estos agentes tendrán la tarea de encontrar nuevas formas de ganar dinero. Por lo tanto, los reguladores, cuya misión es estabilizar los mercados, no tendrán más remedio que adoptar la IA para eludir a los malhechores.

Para tener éxito, las autoridades deben reconocer el poder de la resta. Durante las últimas dos décadas, los reguladores han hecho que navegar por el sistema financiero sea mucho más complicado y costoso. Miles de páginas de reglas y una enorme discreción regulatoria crean muchas oportunidades para que los agentes de IA cumplan con la letra de la ley y al mismo tiempo frustren su propósito. Reglas más simples y sólidas, como altos requisitos de capital, pueden volverse más valiosas precisamente porque la IA es mejor que los humanos en la complejidad de los juegos.

Reglas más simples son sólo una parte de la respuesta. Los reguladores también deben decidir cuánta información compartirán con los participantes del mercado. Si los reguladores proporcionaran a los bancos sus modelos completos, los sistemas de inteligencia artificial de los bancos se optimizarían en torno a ellos. Por otro lado, demasiada opacidad puede crear confusión e impedir la innovación financiera legítima.

Pero reglas aún más simples y el grado apropiado de transparencia no serán suficientes si los propios reguladores no pueden mantenerse al día con las instituciones que supervisan. Estas instituciones operarán cada vez más a la velocidad de las máquinas, con potencia informática que les permitirá evaluar innumerables estrategias que los humanos nunca podrían examinar, una por una. Los reguladores necesitarán diseñar sus propios agentes de IA que puedan probar las reglas antes de su adopción, buscar formas en que los actores puedan evadirlas y monitorear los mercados en busca de comportamientos que los humanos tal vez sólo noten después del hecho.

Hacerlo e incorporar eficazmente la IA en la regulación financiera requerirá reflexión, diligencia y, quizás lo más importante, tiempo por parte de los reguladores. Esto, más que la potencia informática, puede ser el recurso más escaso en los esfuerzos por garantizar la estabilidad financiera.

Derechos de autor: Project Syndicate, 2026.

www.project-syndicate.org