Los principales bancos comenzaron a detectar asistentes de inteligencia artificial que intentan realizar operaciones en cuentas de clientes sin que las entidades puedan comprobar si son legítimos o si tienen autorización de sus titulares. La advertencia fue realizada por Michael Barr, gobernador de la Reserva Federal de Estados Unidos, durante un discurso en Milán.
El funcionario participó de la conferencia anual de la Asociación de Maquinaria de Computación (ACM) sobre inteligencia artificial aplicada a las finanzas. Allí explicó que estos sistemas, conocidos como agentes de IA, son programas capaces de ejecutar tareas de manera autónoma, como transferir dinero o realizar compras en nombre de una persona.
Barr no identificó a los bancos involucrados ni precisó cuántos incidentes fueron registrados. Sin embargo, señaló que las entidades financieras ya están informando sobre estos intentos y que la necesidad de establecer controles aumenta a medida que se extiende el comercio mediante agentes de inteligencia artificial.
Ante este escenario, reclamó mecanismos estrictos de autenticación, verificación explícita del consentimiento para cada operación y límites técnicos sobre las acciones que pueden ejecutar estos programas. También sostuvo que deben existir reglas que obliguen a los agentes a respetar las normas y los valores establecidos.
El riesgo de una corrida bancaria en cuestión de minutos
Uno de los principales peligros señalados por el gobernador de la Reserva Federal está relacionado con la estabilidad del sistema financiero.
Hasta ahora, un cliente debía ordenar personalmente cada transferencia. Sin embargo, un agente de IA podría detectar diferencias de rendimiento entre cuentas o señales de inestabilidad en una entidad y trasladar los fondos de manera inmediata.
Barr advirtió que, si una gran cantidad de personas utilizara herramientas similares, las salidas de depósitos podrían acelerar una corrida bancaria hasta el punto de que se desarrollara en cuestión de minutos.
Ese escenario podría superar la capacidad de respuesta de los bancos para gestionar su liquidez y los tiempos de intervención de los organismos reguladores. Una corrida bancaria se produce cuando numerosos clientes intentan retirar su dinero por temor a que una entidad financiera quiebre.
El funcionario aclaró que sus declaraciones fueron realizadas a título personal y que no representan necesariamente la postura de los demás integrantes de la Junta de la Reserva Federal. También se mostró optimista respecto del potencial de la inteligencia artificial a largo plazo, aunque insistió en la necesidad de gestionar sus riesgos.
La deuda de las principales empresas de IA supera las previsiones
Durante su exposición, Barr también se refirió al crecimiento de las inversiones en inteligencia artificial y a los posibles riesgos financieros asociados.
Para ello, tomó como referencia el Informe de Estabilidad Financiera publicado por la Reserva Federal el viernes 13 de noviembre. Según sus estimaciones, la deuda registrada en los balances de las siete mayores empresas de inteligencia artificial podría superar los USD 800.000 millones antes de finalizar el año.
A esa cifra se suman obligaciones fuera de balance que, de acuerdo con el informe, superan los USD 3 billones. Entre ellas se encuentran contratos de largo plazo, alquileres de centros de datos y garantías sobre el valor de reventa de equipos.
Barr advirtió que esta estructura financiera puede resultar poco transparente para los inversores menos experimentados y agravar una eventual caída si cambia el ánimo del mercado.
También describió un esquema de financiamiento circular en el que grandes proveedores y fabricantes de chips acumulan más de USD 100.000 millones en inversiones en laboratorios de modelos de IA y compañías de computación en la nube. Estas empresas, a su vez, utilizan parte de esos fondos para comprar chips a quienes las financiaron.
Para que ese modelo sea sostenible, explicó, las compañías deberán reemplazar progresivamente ese financiamiento con ingresos provenientes de sus propios clientes.
El gobernador comparó el ritmo de endeudamiento con el ciclo de inversiones en telecomunicaciones de finales de la década de 1990. Aunque señaló que las grandes empresas todavía no alcanzaron aquellos niveles, consideró que la aceleración de sus gastos podría llevarlas a superarlos. De todas formas, manifestó menor preocupación por las pérdidas directas, debido a que la deuda que sostiene el crecimiento del sector todavía es limitada.
Alertas por el uso de IA en los mercados y los consejos financieros
Barr también advirtió sobre los riesgos que puede generar la utilización de modelos de inteligencia artificial similares por parte de numerosos operadores bursátiles.
Según explicó, si muchos sistemas reaccionaran simultáneamente ante una misma noticia, podrían provocar fuertes movimientos en los mercados. Además, mencionó investigaciones que indican que algunos algoritmos capaces de aprender por sí mismos podrían llegar a coordinar comportamientos o manipular precios sin recibir instrucciones directas de una persona.
En el ámbito del consumo, señaló que cada vez más personas recurren a chatbots para obtener consejos de inversión, aunque estas herramientas no cuentan con las mismas protecciones que se aplican cuando la orientación proviene de una entidad financiera.
También alertó sobre la posibilidad de que los sistemas favorezcan productos propios o aquellos que generan mayores comisiones. En el sector crediticio, advirtió que algunos modelos pueden funcionar como una caja negra, lo que dificulta conocer y auditar los criterios utilizados para tomar decisiones.
Por último, Barr sostuvo que, hasta donde tenía conocimiento, la inteligencia artificial generativa todavía no se utiliza a gran escala para operar de manera autónoma en los mercados financieros.
