Imagínate que estás en la caja de un supermercado. Tu carrito está lleno. La fila detrás de ti es larga. Toca tu tarjeta. Rechazado.
Intentar otra vez. Rechazado.
No exageraste. No hiciste nada sospechoso. Pero en algún lugar de los sistemas informáticos de su banco, una máquina tomó una decisión sobre usted en menos tiempo del que tarda un parpadeo y cometió un error.
¿Qué acaba de pasar? ¿Y por qué le sigue pasando esto a gente que no ha hecho nada malo?
Este no es un error raro, sino algo que les sucede a millones de personas todos los días. Y la mayoría de nosotros no tenemos idea de por qué sucede ni qué podemos hacer al respecto. La respuesta está en un sistema de detección de fraude impulsado por inteligencia artificial.
Como profesor de ciencia de datos y ex científico de datos de servicios financieros, entiendo cómo funciona este sistema y puedo explicar por qué a veces falla a los mismos clientes que debe proteger. Igual de importante es que pueden ayudarle a aprender lo que necesita saber y qué puede hacer si usted o sus seres queridos han sido etiquetados injustamente.
Decisión en milisegundos
Cuando tocas tu tarjeta, la señal viaja al sistema de detección de fraude de tu banco en el tiempo que tarda en parpadear. El procesamiento de transacciones en su caja registradora está completamente automatizado y opera dentro de sistemas de inteligencia artificial que manejan millones de pagos simultáneamente y calcula una puntuación de riesgo basada en docenas de características extraídas de ese momento. Esas características pueden incluir el monto de la transacción en relación con su promedio de gasto reciente; tipo de comerciante; su ubicación geográfica; hora del día; dispositivo utilizado para compras en línea; y cómo se compara esta compra con sus patrones históricos.
Cuando se tienen en cuenta esos factores, un algoritmo evalúa su compra en tiempo real. Luego, un modelo entrenado en millones de transacciones pasadas asigna a cada combinación de características una probabilidad de que esa transacción sea fraudulenta. Si esa probabilidad excede el umbral, la transacción se bloquea o se marca para revisión. Todo el proceso dura menos de 200 milisegundos.
'99% correcto' sigue fallando a millones de personas
Lo que distingue a esta tecnología es la velocidad. Las instituciones financieras procesan millones de transacciones cada día, muchas más de las que cualquier equipo humano puede rastrear de manera efectiva. Los bancos también tienen analistas de fraude, pero su trabajo se desarrolla en un nivel completamente diferente: revisan patrones, investigan casos y resuelven disputas que les llegan a través de un sistema automatizado.
Hay que reconocer que estos nuevos sistemas suelen ser precisos a la hora de detectar el fraude. Hoy en día, los bancos pierden mucho menos dinero por fraude con tarjetas que antes de que el aprendizaje automático, una de las tecnologías centrales que impulsan los sistemas de inteligencia artificial actuales, se convirtiera en estándar.
Sin embargo, la palabra "exactamente" esconde un problema. Considere los números. La Comisión Federal de Comercio informó que los estadounidenses perderán más de 12.500 millones de dólares por fraude en 2024, un aumento del 25% respecto al año anterior. A medida que los bancos procesan más transacciones que nunca, los estafadores también se mantienen al día.
Y aquí está la parte particularmente notable: según Stripe, uno de los procesadores de pagos más grandes del mundo, los "falsos rebotes" (transacciones legítimas rechazadas por error) son un problema estructural en toda la industria, y las investigaciones de la industria sugieren consistentemente que le cuestan al sistema financiero más que el fraude real.
Estos errores no son accidentales. Se agrupan en torno a personas y situaciones que el algoritmo no estaba adecuadamente entrenado para esperar. Comprar gasolina en una ciudad que nunca has visitado o pagar un alquiler elevado por primera vez no es algo intrínsecamente sospechoso. Pero para una máquina entrenada en patrones pasados, pueden parecer así.
Hay algo aún más preocupante. Estos algoritmos aprenden de datos históricos, que casi siempre están desequilibrados. Debido a que las transacciones fraudulentas son raras por transacción, el modelo vio relativamente pocos ejemplos de cómo se ve el fraude en cada tipo de cliente.
¿Qué quiere decir esto? La investigación encontró que los compradores en áreas de bajos ingresos y comunidades de color enfrentan tasas más altas de falsos positivos. Cuando un modelo no ha visto suficientes transacciones de un determinado grupo de personas o en una situación determinada, hay menos datos para construir una base precisa para ellas. Entonces, cuando sucede algo un poco inusual, se marca. No por intención, sino por ignorancia.
El modelo no tiene por qué discriminar explícitamente a nadie. Pero sus resultados aún pueden producir lo que los investigadores llaman impacto dispar: daños desiguales, distribuidos de manera desigual.
Como explican los investigadores del MIT en su libro "Fairness and Machine Learning", esta es una limitación conocida. Un modelo entrenado para una representación incompleta funcionará de manera menos confiable para los grupos que menos ha visto. La solución no es culpar al algoritmo, sino entrenarlo con datos mejores y más representativos y probar sus tasas de error en diferentes grupos de clientes antes de implementarlo.
Cuando el aprendizaje automático rechaza un pago, se enfrenta a una caja negra que no está diseñada para la interpretación humana. Vitaly Gariev en Unsplash, CC BY Por qué no tienes derecho a una explicación
Lo que empeora estos casos es la falta de información.
Cuando un oficial de préstamos rechaza su solicitud de hipoteca, la ley exige una explicación por escrito. Pero cuando el algoritmo rechaza su tarjeta de débito, recibe un mensaje "marcado por nuestro sistema". Si tiene la suerte de conectarse con un representante humano, no podrá decirle mucho más.
Esta brecha no es accidental. La mayoría de los modelos de fraude de alto rendimiento son cajas negras. Su lógica interna no está diseñada para la interpretación humana. Es posible que el banco no pueda explicar claramente por qué se detuvo su transacción. Esto no se debe a que oculte nada, sino a que el modelo en sí no produce una razón. Produce un número.
En respuesta, algunas instituciones financieras están adoptando herramientas que hacen que sus algoritmos sean más transparentes. Conocidos en la industria como “IA explicativa”, estos sistemas están diseñados para descubrir los factores más influyentes detrás de una decisión determinada, indicando, por ejemplo, que una transacción fue bloqueada debido a una ubicación inusual combinada con una cantidad atípicamente grande. Es un paso importante hacia la rendición de cuentas.
Sin embargo, estas adopciones son desiguales y las explicaciones que existen rara vez aparecen ante los clientes.
Mientras tanto, esas presiones aún no se han traducido en un derecho consistente y exigible a una explicación significativa cuando se rechaza su tarjeta. Cuestionar una decisión tomada por la IA puede ser extremadamente difícil y la mayoría de nosotros ni siquiera sabemos que tenemos derecho a intentarlo.
Para la mayoría de las personas, el camino de menor resistencia es simplemente seguir adelante, cambiar a otra tarjeta, llevar el negocio a otra parte o no decir nada. Las investigaciones sugieren que una cuarta parte de los consumidores que experimentan una caída falsa nunca regresan a ese minorista.
Algunas personas van más allá y cierran la cuenta por completo. Ese instinto es comprensible. Sin embargo, conlleva costos ocultos. Una transacción rechazada no aparecerá en su informe de crédito, pero el cierre de una tarjeta sí podría aparecer. Cerrar una cuenta reduce su crédito disponible y puede acortar su historial crediticio, lo que puede afectar directamente su puntaje crediticio.
¿Qué puedes hacer realmente ahora mismo?
Aquí tienes más poder del que a los bancos les gustaría que pensaras.
Llame a su banco inmediatamente: una señal de fraude es una probabilidad, no una certeza. Un representante del banco puede revertir una transacción rechazada en tiempo real. El modelo lo adivinó, pero un humano puede corregirlo. No esperes.
Configure alertas si planea realizar compras inusuales: la mayoría de los bancos le permiten notificarles sobre próximos viajes, compras importantes o cambios en los patrones de gasto. Esto no reemplaza el modelo, pero le brinda nueva información con la que trabajar, lo que puede evitar que se dispare la bandera.
Conozca sus derechos: según la Ley de Facturación Justa de Crédito, puede disputar bloqueos de transacciones erróneos y solicitar una explicación. Si cree que ha sido bloqueado de forma sistemática e injusta, la Oficina de Protección Financiera del Consumidor acepta quejas de los consumidores.
Pregunte a su banco qué procesos de apelación están disponibles: los bancos están creando cada vez más servicios de apelación de cara al cliente. Visa informó 106 millones de disputas en todo el mundo en 2025, un aumento del 35 por ciento con respecto a 2019, y calificó la gestión de disputas como una "prioridad estratégica". Las caídas irregulares son costosas tanto para las empresas de pagos como para las instituciones financieras, debido a los costos de servicio al cliente, la pérdida de ingresos y el daño a la confianza.
El panorama más amplio
El algoritmo que bloqueó su pago no es omnisciente ni neutral. Es una máquina que hace suposiciones estadísticas sobre usted, basándose en datos que, para empezar, probablemente nunca fueron del todo justos.
A medida que la inteligencia artificial se extiende más a nuestra vida diaria, la cuestión de quién controla estas decisiones y si podemos cuestionarlas se vuelve cada vez más urgente. La tecnología seguirá expandiéndose a nuevas áreas. Necesitamos mantenernos al día con las reglas y con nuestra propia liquidez financiera.
0 Comentarios