Un ataque adversarial no empieza con código: empieza con un supuesto sobre lo que el atacante sabe del modelo. Esta página reúne familias de ataques, condiciones de evaluación y los motivos por los que un resultado académico no se traslada tal cual a un sistema en producción.
DefensaSesgo nació de una incomodidad concreta: se habla mucho de modelos de scoring que deciden créditos, pero poco de cómo se los engaña. Reunimos investigación académica, casos documentados y prácticas de validación que rara vez salen del paper o del repositorio interno. No vendemos herramientas ni prometemos robustez absoluta; publicamos marcos de referencia para que cada equipo juzgue qué le sirve.
Escribimos para quien tiene que defender una decisión automatizada frente a un fraude organizado: equipos de riesgo, ciencia de datos, cumplimiento, fundadores de fintech. También para familias que recibieron un rechazo sin explicación clara y quieren entender qué pudo fallar del otro lado. El tono es riguroso pero sin alarmismo, y evitamos el tecnicismo que solo sirve para lucirse.
Nuestra posición es explícita: no damos asesoría legal ni financiera individual, no usamos datos personales reales y separamos siempre los ejemplos ilustrativos de los hallazgos verificados. Cuando un resultado académico depende de supuestos fuertes sobre el atacante, lo decimos. Esa cautela es parte de la identidad, no un detalle de estilo.
Preferimos citar un experimento con datos sintéticos y explicar sus supuestos antes que publicar una alarma sin contexto. Cuando un resultado académico no se sostiene fuera del laboratorio, lo decimos. La presión de un fraude organizado no se reproduce con una perturbación acotada, y esa distancia importa para quien tiene que decidir en producción.
No todo error de scoring es adversarial. Parte de lo que se etiqueta como manipulación es deriva de datos, cambio de población o un formulario mal diseñado. Distinguir caja blanca de caja negra, evasión de envenenamiento, inferencia de simple sobreajuste, es el trabajo previo a cualquier defensa seria.
Un modelo manipulado no falla en abstracto: rechaza a quien sí podía pagar o aprueba a quien construyó un perfil falso. Escribimos también para familias y equipos de cumplimiento que reciben el resultado sin haber visto nunca el clasificador. Traducir métricas de robustez a consecuencias concretas es parte del proyecto.
No vendemos herramientas ni prometemos inmunidad. Publicamos familias de ataques, condiciones de evaluación y buenas prácticas de gobernanza para que cada equipo las adapte a su contexto regulatorio. Lo que funciona en un banco con años de historial no se traslada igual a una fintech que entrena con pocos meses de datos.
Los ejemplos son ilustrativos y construidos, nunca perfiles reales. Cuando describimos un vector de ataque, lo hacemos con rangos y campos genéricos, sin reproducir información sensible. La defensa de un sistema de decisión empieza por no exponer a las personas que ese sistema ya afecta.
Red de trabajo y respaldo institucional
DefensaSesgo no funciona como un laboratorio aislado. Los materiales sobre evasión, envenenamiento e inferencia en scoring financiero se contrastan con equipos que ven estos problemas en producción: mesas de riesgo, áreas de cumplimiento, grupos académicos y organizaciones que auditan decisiones automatizadas. Las colaboraciones que aparecen aquí son acuerdos de trabajo y revisión, no patrocinios comerciales ni avales de herramientas concretas.
Aporta revisión metodológica sobre cómo se construyen los conjuntos de datos sintéticos y qué supuestos del atacante se declaran en cada experimento. Su papel es señalar cuándo un resultado de laboratorio no resiste el traslado a un entorno real de crédito.
Comparte casos anonimizados de solicitudes con patrones de declaración inconsistentes y ayuda a medir cuántas alertas por evasión terminan siendo falsos positivos. Sin nombres, sin expedientes y sin datos personales identificables.
Revisa las recomendaciones sobre verificación cruzada entre modelos y monitoreo de deriva. Su experiencia sirve para distinguir defensas viables en producción de propuestas que solo funcionan en un cuaderno de investigación.
Colabora en la lectura de impacto: qué ocurre cuando una persona recibe un rechazo originado por una manipulación ajena. Aporta criterios de transparencia y trazabilidad que condicionan cómo documentamos cada familia de ataque.
Contribuye con observaciones sobre inferencia de atributos sensibles a partir de respuestas del modelo. Su enfoque ayuda a separar lo que es un fallo de robustez de lo que es una fuga de información.