Banco de España recomienda que el uso de inteligencia artificial sea complementario para mitigar sus riesgos

El Banco de España reconoce que la aplicación de la inteligencia artificial en el sector financiero reporta numerosos beneficios, pero que también presenta riesgos y limitaciones, por lo que si se utiliza de manera complementaria y no sustitutiva a las técnicas tradicionales se puede alcanzar «un equilibrio razonable» entre ambos.

Así lo indica el supervisor en la publicación ‘Inteligencia artificial en los servicios financieros’, en la que enumera los beneficios y limitaciones que supone el uso de las herramientas de inteligencia artificial y sus implicaciones para el buen funcionamiento del sistema financiero.

Respecto a los beneficios, el Banco de España apunta a mejoras de eficiencia, reducción de costes, incrementos de calidad, aumento del nivel de satisfacción de los clientes y mayor inclusión financiera, gracias a las posibilidades que ofrecen para automatizar procesos operativos e incrementar las capacidades analíticas.

En concreto, señala que las entidades pueden automatizar tareas manuales, lo que supone una reducción de los posibles errores humanos, un incremento de la productividad y una disminución de los costes asociados a estas tareas.

En consecuencia, aumenta la satisfacción de los clientes por el menor tiempo de respuesta y la mayor disponibilidad de servicios a un precio menor y es posible que ciertos servicios tradicionalmente reservados a determinados clientes, como el asesoramiento financiero, se ofrezcan a más usuarios.

Asimismo, estas herramientas permiten analizar un volumen mayor de datos de manera más rápida, lo que redunda en un mejor servicio y en el desarrollo de productos personalizados.

Por el contrario, entre las principales limitaciones de la inteligencia artificial se encuentran la incorporación de sesgos en los resultados y las dificultades para comprender el razonamiento seguido por los algoritmos para llegar a una determinada conclusión.

En este sentido, el Banco de España apunta que en ocasiones los algoritmos, al buscar correlaciones que maximicen la capacidad de predicción, pueden ofrecer en ocasiones resultados basados en relaciones espurias y llevar a conclusiones sesgadas. Por ello, el supervisor recuerda que los algoritmos necesitan entrenarse con gran cantidad de datos que deben ser de calidad, o se pueden producir situaciones en las que el sesgo de la muestra se incorpora como un criterio que se ha de cumplir.

Además, el funcionamiento de los algoritmos suele ser complejo y el razonamiento que siguen para llegar a un determinado resultado puede resultar difícil de entender. Así, «parece razonable» establecer requerimientos que garanticen la visibilidad del proceso que lleva para extraer una determinada conclusión.

Principales riesgos

En este contexto, el Banco de España ha identificado una serie de riesgos potenciales vinculados al mercado en el que se desarrollan las aplicaciones de inteligencia artificial que las autoridades deben tener en cuenta.

En primer lugar, al requerirse importantes recursos para desarrollar este tipo de herramientas, el avance de la inteligencia artificial propicia la concentración en un número reducido de grandes actores, lo que «puede incidir negativamente sobre la competencia».

Asimismo, una dependencia significativa de las herramientas e infraestructuras proporcionadas por las empresas de tecnología para su uso en operaciones consideradas «críticas» podría suponer un incremento del riesgo operativo que soportan las entidades. Dado que el número de proveedores es reducido, el Banco de España advierte de que esto puede derivar en un riesgo sistémico.

Por otra parte, la necesidad de emplear un volumen muy elevado de datos aumenta la relevancia de los problemas de privacidad y los riesgos de que algunas entidades puedan utilizar determinados datos sin que sus clientes sean plenamente conscientes de ello, por lo que podría ponerse en riesgo la protección del cliente, según el informe.

Complementar y no sustituir

Por todo ello, el Banco de España ha resaltado la importancia de distinguir entre los distintos tipos de actividades a las que se aplican estas herramientas y ha pedido a las entidades que sopesen para cada caso de uso los beneficios y los inconvenientes de emplear esta tecnología.

Una opción «relativamente extendida» y que ofrece en la mayoría de los casos «un razonable equilibrio» entre beneficios y riesgos es la utilización de las herramientas de inteligencia artificial de manera complementaria, y no sustitutiva, a las técnicas tradicionales.

«No se trata de aceptar sin más los resultados que proporcionan los algoritmos de un modo automático, sino de utilizarlos como parte de un proceso de reforzamiento y de validación de las decisiones», apunta el informe.

El Banco de España ha puesto de manifiesto que, dada la creciente proliferación de soluciones basadas en esta tecnología y teniendo en cuenta sus posibles implicaciones, continuará haciendo un seguimiento de su aplicación en el ámbito financiero y de las novedades que se vayan produciendo.

Para llevar a cabo esta tarea, ha destacado que la colaboración con otras autoridades, tanto nacionales como internacionales, «resulta de especial relevancia, dado el carácter mundial e intersectorial del fenómeno».