El Banco de la Reserva de India (RBI, por sus siglas en inglés) ha advertido que la creciente popularidad y adopción de la inteligencia artificial (IA) por parte del sector financiero conlleva varios riesgos a pesar de los beneficios.
En su Informe de Estabilidad Financiera de diciembre de 2024, el banco central destacó el importante riesgo de concentración del mercado dentro de la industria financiera y los principales proveedores externos de servicios de nube e inteligencia artificial.
Razones por las que la IA podría acarrear riesgos para el sector financiero
En primer lugar, la interconexión podría verse reforzada por una dependencia excesiva de tecnologías, proveedores de servicios e infraestructuras compartidas. En particular, existe un alto riesgo de concentración del mercado tanto en el sector financiero como en los proveedores externos de servicios críticos de IA y en la nube, se lee en el informe.
En segundo lugar, el riesgo de que las amenazas cibernéticas se conviertan en un problema de estabilidad financiera es alto, ya que la IA podría dotar a los ciberatacantes de técnicas avanzadas de phishing, incluida la creación de deepfakes mediante IA generativa. De acuerdo con el informe del RBI, la creciente disponibilidad de servicios de IA como ChatGPT ha suscitado inquietudes sobre su posible uso en ciberataques.
En tercer lugar, según el Fondo Monetario Internacional (FMI), la creciente adopción de IA en los mercados de capitales puede crear riesgos adicionales relacionados con el aumento de la velocidad y la volatilidad del mercado en situaciones de estrés, especialmente cuando las estrategias comerciales que utilizan IA se vuelven altamente correlacionadas.
En concreto, si dichas operaciones se financian mediante apalancamiento, cualquier shock podría amplificar el estrés del mercado a través de ventas forzadas y ciclos de retroalimentación”, dijo el RBI en el informe.
En cuarto lugar, si la penetración tecnológica y la concentración del mercado y de los proveedores son elevadas, la transición del riesgo de las empresas individuales al sistema financiero podría ser no lineal y presagiar un riesgo sistémico, afirma el informe del RBI.
Riesgo del modelo
Las instituciones financieras también son propensas a mayores riesgos en términos de sesgo y alucinaciones, mal uso, confianza excesiva en modelos comunes, predicciones erróneas, problemas de calidad de los datos y dependencia de terceros.
El riesgo del modelo sería un peligro importante para las empresas financieras que utilizan herramientas de IA, asevera el RBI en su informe.
“Un desafío clave con los modelos de IA es su falta de aplicabilidad o el llamado ‘problema de la caja negra’ debido a la dificultad de explicar cómo estos modelos complejos toman decisiones incluso cuando logran predicciones más precisas”, dijo el RBI.
Dado que la IA depende en gran medida de los datos con los que se entrena, la falta de transparencia en el funcionamiento de estos sistemas podría dar lugar a que los modelos utilicen datos sesgados o menos relacionados.
Estas preocupaciones son especialmente graves en el sector financiero, en particular en el sector bancario, que está creciendo rápidamente, por lo que se debe estar atentos a los riesgos que conlleva la rápida adopción de la IA.
No dejes de leer: Estas son las tendencias de pagos que dirán ‘presente’ en 2025, según una importante fintech
