Lo Marraco

La justicia es una aspiración natural en el ser humano. El signo de la evolución ha seguido el camino que ha llevado a la humanidad en pos de ideales como la equidad, la igualdad entre todas las personas, y en definitiva un trato justo e igual para todos lo ciudadanos. Pero justicia, igualdad o equidad son conceptos abstractos más cercanos a la perfección de las ideas que a la imperfección de las pasiones humanas. Los sistemas de gestión no se hacen sobre la base de la honradez y bondad de los administradores, sino intentando que, aun siendo estos imperfectos, el resultado de su gestión beneficie al interés público. En la administración publica las leyes se han ido adoptando para evitar las envidias o rencillas familiares, el nepotismo o la corrupción política, el abuso de los que detentan posiciones privilegiadas…
En la búsqueda de criterios firmes e igualitarios, alejados de sesgos y opiniones arbitrarias, las matemáticas han sido un buen elemento de ayuda. Las herencias se reparten según porcentajes establecidos desde la antigüedad, los intereses calculan la compensación del prestamista y se persigue su aumento excesivo como usura, se aplican fórmulas matemáticas para establecer la relación entre los votos y el numero de representantes que corresponden a cada facción.
La capacidad de ponderar diferentes factores de la vida real permite introducir fórmulas matemáticas para que su valoración quede alejada del capricho el administrador y los ciudadanos obtengan un trato siempre igual y por tanto cabe suponer, más justo. En esta cuantificación de la fida real ha profundizado la economía para estudiar la producción, el comercio, sus beneficios y de esa forma establecer tendencias y algo importante: realizar predicciones. El comportamiento humano a pesar de ser más difícil de cuantificar también ha sido sometido al imperio de los números y así hablamos de coeficientes intelectuales, nivel de angustia o seguridad en si mismo, asignando a estos conceptos unas cantidades según unos niveles que nos permitan comparar y evaluar situaciones, actuaciones, historiales, obteniendo como resultados calificaciones, baremos, puntuaciones, que podemos mezclar en otras fórmulas mediante modelos que deberían tener un comportamiento paralelo a la realidad. Establecida esta relación biunívoca entre el modelo matemático y la realidad, ya no solo podemos describirla y compararla, sino que podemos predecirla con un grado de acierto aceptable. Naturalmente, siempre que el modelo responda, efectivamente a esa relación biunívoca.
La rapidez del cálculo que proporcionan los ordenadores ha facilitado el adelanto en las investigaciones sociales. No en vano una de las primeras aplicaciones de un ordenador fue la confección del censo. Fue el tabulador electromagnético de Herman Hollerith con el que se realizó el censo de los Estados Unidos en 1890. Sesenta años después , el primer ordenador que fue comercializado en ese país, el UNIVAC, se entregó a la oficina del censo.
Desde entonces nuestra vida se evalúa de forma mecánica en numerosos procesos y bajo el imperio de diferentes algoritmos matemáticos. Y esto debería alegrarnos porque parece ser que de esa forma nuestra administración publica, economía, sanidad, educación o relaciones comerciales y laborales son más justas. Y aquí podríamos poner un final feliz si no fuera porque los científicos siempre se hacen preguntas.
Cathy O’Neil es una brillante matemática que desarrolló su carrera en la educación y después en el sector privado como científica de datos. Su experiencia y participación en el sector financiero en la época del hundimiento de los bonos basura le hizo dudar de su fé en las matemáticas como herramienta de justicia y bienestar. Adoptó una actitud activa en el movimiento Occupy Wall Street y estudió por qué los algoritmos, creados para el bien de la humanidad acaban siendo auténticas pesadillas. Porque los algoritmos no son leyes de la ciencia. Son opiniones expresadas con formas numéricas, se construyen en base a la experiencia y las opiniones de sus creadores o los que serán sus usuarios. Introducen por tanto todos sus sesgos, de género, de raza o sus prejuicios sociales.
Lo terrible, es que así como en la comunidad académica los descubrimientos son validados y comprobados por otros expertos, los algoritmos que deciden sobre puesto de trabajo, promoción profesional, precios de los seguros, capacidad de endeudamiento y otros muchos aspectos importantes de nuestras vidas tienen varias características terribles: son secretos y no suelen contrastarse en búsqueda de ‘falsos positivos’ o errores. Es decir, si tienen un fallo o un sesgo, normalmente no se corrige por injusto que resulte. Los propietarios de estos procesos solo atienden normalmente a un único objetivo: el beneficio económico.
La computación no puede por si sola resolver los problemas de los hombres. Amplifica la señal, pero también el ruido. Donde hay una injusticia, la convierte en sistemática. Si sobreviene el desastre, los enormes intereses en juego alejan el foco de los responsables para evitar pérdidas, de dinero, de prestigio, de poder en definitiva.
La autora del libro llamó a estos algoritmos perversos «Armas de Destrucción Matemáticas» en un juego con las siglas, en inglés y castellano de «Armas de Destrucción Masiva». El libro no trata de matemáticas, es un tratado de como la excesiva fé en las matemáticas, el ocultismo y los intereses económicos afectan a nuestra sociedad, a nuestras vidas, nuestro trabajo y nuestra riqueza o pobreza, y desde luego a nuestra democracia.
Puedo decir que el libro me pareció tan ameno e interesante que lo devoré en un par de días. He leído alguna critica negativa del libro porque no ofrece soluciones, salvo apelar a la conciencia de científicos y programadores y a la necesidad de que exijamos como ciudadanos que los politicos hagan leyes que obliguen a la transparencia de estos algoritmos y limiten su poder exigiendo la corrección de sesgos contrarios a nuestros principios morales y sociales. No me parece poco. Si su lectura sirve para concienciar a muchos sobre el problema, puede servir como principio de la solución.

Este artículo fue publicado por primera vez en Enero-Febrero de 2020 en «Revista de Aeronáutica y Astronáutica», Sección «Internet y tecnologías de la información» del nº890, pág. 141. y los enlaces que utilicé para documentarme aparecen en mi librería de enlaces en Diigo a la que se puede llegar usando el código QR de esta imagen.