Cuando leo cosas sobre la pseudo-IA, los LLM y los algoritmos que toman decisiones, sin supervisión ni transparencia, sobre asuntos que influyen en la vida de las personas, pienso en la caída del imperio romano.
No tanto en la sustitución de una elite por otra o de una cultura por otra, sino en la pérdida de conocimiento, en el campo de la ciencia y la. cultura que supuso.
Las técnicas de construcción de Roma, la organización, el derecho…
Algunas de esas cosas se conservaron en monasterios o fueron rescatados por sabios de otras culturas, pero la edad media (800 años más o menos?) fue una época oscura y de retroceso de la humanidad.
El sistema se reproduce cuando los depositarios del conocimiento dejan de serlo, porque confían en la sabiduría de las máquinas, que se programan y mantienen por depositarios de otro conocimiento que confían en la sabiduría de otras máquinas.
Está cadena conduce a un inevitable colapso catastrófico y global, irresoluble porque las maquinas no funcionan y los que tendrían que repararlas no saben cómo.
El colapso social que estoy puede provocar es también irresoluble: una población privada de comodidades y soluciones mágicas, carente de criterio, suplantado también por corrientes de opinión inducidas por las máquinas, puede generar una revuelta, pero difícilmente una revolución que suponga progreso o una superación del problema, engordado más allá de su posibilidad de subsanación.
Y empezará otra época oscura de la que, lentamente, nos sacarán después de, quizás, siglos, los nuevos guardianes del conocimiento. A quién corresponderá está misión?