La administración española avanza hacia una gestión automatizada basada en algoritmos, pero la sombra del caso BOSCO y las denuncias por opacidad reabren un debate inquietante: ¿qué pasa cuando una máquina decide quién tiene derecho a una ayuda social o a un recurso público?
Una administración que aprende… pero también decide
La inteligencia artificial ya no es un proyecto de futuro. Es presente, y ha comenzado a infiltrarse en los cimientos de la administración pública española. Desde la tramitación de expedientes hasta la atención ciudadana, la tecnología está asumiendo funciones que durante décadas fueron patrimonio exclusivo del funcionario.
Los algoritmos clasifican documentos, cruzan datos, redactan borradores de resoluciones y, en algunos casos, llegan a determinar si un ciudadano cumple los requisitos para recibir una ayuda o subvención. Lo hacen rápido, sin descanso y, en apariencia, sin errores. Pero ¿qué ocurre cuando el algoritmo se equivoca?
La pregunta ya no es teórica. España vive sus primeros casos reales de decisiones públicas tomadas —total o parcialmente— por sistemas automatizados. Y algunos de ellos han revelado los límites y los peligros de confiar ciegamente en la IA como árbitro administrativo.
El caso BOSCO: cuando la máquina dice “no”
El ejemplo más ilustrativo es el del software BOSCO, el algoritmo que decide quién puede acceder al bono social eléctrico, una ayuda estatal para familias vulnerables. Este programa, diseñado por encargo del Ministerio para la Transición Ecológica, analiza de forma automática los datos del solicitante y emite un resultado: “sí” o “no”. David Bonilla en su artículo de «La Bonilista» lo cuenta de maravilla, muy recomendable su lectura.
En teoría, un avance hacia una gestión más ágil. En la práctica, una caja negra que llegó a dejar fuera del sistema a familias que cumplían todos los requisitos legales. La organización Civio, especializada en transparencia pública, investigó en 2018 los fallos del sistema y detectó casos en los que el algoritmo denegó ayudas sin justificación clara.
Al intentar auditar el sistema, Civio pidió acceso al código fuente del programa para entender cómo tomaba sus decisiones. El Ministerio se negó. Alegó razones de seguridad informática, protección de la propiedad intelectual y riesgo de exposición de datos sensibles. La organización respondió con una pregunta incómoda:
¿Cómo puede un ciudadano impugnar una decisión injusta si no sabe cómo se ha tomado?
Transparencia frente a opacidad algorítmica
La negativa del Gobierno a mostrar el código de BOSCO llevó el caso hasta el Tribunal Supremo, que este septiembre dictó una sentencia histórica: reconoció el derecho de los ciudadanos a acceder, al menos parcialmente, al código fuente de los algoritmos que toman decisiones públicas.
El alto tribunal sostuvo que, aunque la propiedad intelectual o la seguridad son argumentos legítimos, no pueden usarse como excusa general para ocultar los algoritmos que afectan derechos sociales.
El fallo abre una grieta en la pared de la automatización: a partir de ahora, el Estado deberá garantizar la transparencia algorítmica, al menos en los sistemas que reparten prestaciones o aplican criterios automáticos.
Sin embargo, la sentencia también deja un margen difuso. Habla de un acceso “parcial” y “controlado”, lo que significa que cada caso deberá evaluarse por separado. La transparencia total aún no está asegurada.
Y mientras tanto, miles de ciudadanos siguen sin saber exactamente qué criterios aplica una IA para decidir si merecen una ayuda pública o no.
El espejismo de la eficiencia
La implantación de la inteligencia artificial en la Administración promete reducir costes, agilizar trámites y eliminar errores humanos. Pero la otra cara de la moneda es menos luminosa: la delegación del poder de decisión.
Hoy los algoritmos no solo agilizan procesos, también valoran, comparan y dictaminan. En los próximos cinco años, se prevé que hasta un 30% de los trámites administrativos rutinarios puedan ejecutarse de forma totalmente automatizada. Para 2035, ese porcentaje podría acercarse al 90%.
¿Significa eso que el funcionario desaparecerá? No del todo. Pero sí cambiará su papel: dejará de ser quien decide y se convertirá en supervisor de lo que decide una máquina.
El riesgo es evidente: si el algoritmo está mal diseñado, mal entrenado o simplemente desactualizado, sus decisiones podrían perjudicar a miles de personas antes de que alguien lo detecte. Y en muchos casos, esos errores no dejarían rastro humano.
El caso BOSCO demostró que la IA también se equivoca, y cuando lo hace, sus fallos son masivos y silenciosos.
La frontera invisible entre ayuda y exclusión
Los expertos alertan de que, sin supervisión, los algoritmos pueden reproducir o amplificar sesgos humanos. En el ámbito público, esto puede traducirse en discriminaciones invisibles.
Un ejemplo preocupante: si una IA que gestiona becas o ayudas sociales se entrena con datos históricos, podría replicar los mismos patrones de exclusión que ya existían. En otras palabras, la automatización puede institucionalizar la desigualdad.
Además, la dependencia tecnológica introduce un riesgo nuevo: la pérdida de soberanía decisoria. Cuando la administración delega en empresas externas el desarrollo de sus algoritmos, el Estado puede acabar sin control real sobre sus propios procesos. Lo advirtió el propio Consejo de Transparencia: “no puede haber algoritmos públicos que funcionen como cajas cerradas, propiedad de un contratista privado”.
¿Qué pasa con los empleados públicos?
El debate sobre la IA no solo tiene un componente ético, sino también laboral. Los puestos administrativos tradicionales —los que tramitan, registran, validan y archivan expedientes— son los más expuestos a la automatización.
Según estimaciones académicas y consultoras, entre 500.000 y 800.000 empleos públicos podrían desaparecer o transformarse de aquí a 2040. Sin embargo, este proceso podría producirse de forma “natural”, coincidiendo con la jubilación masiva de los funcionarios del “baby boom”, que dejarán vacantes más de un millón de plazas en la próxima década.
El riesgo no es tanto el despido como la reconfiguración del empleo público. Habrá menos personal en ventanillas y más técnicos en control de datos, ciberseguridad o análisis algorítmico. La burocracia humana será sustituida por la burocracia digital, con nuevos perfiles, pero también con nuevas dependencias.
El futuro inmediato: 2030 a la vuelta de la esquina
España avanza hacia la digitalización total de su administración, impulsada por fondos europeos y por la Estrategia Nacional de Inteligencia Artificial. A corto plazo, los asistentes virtuales, chatbots y sistemas de validación automática se generalizarán.
Para 2030, buena parte de los trámites estándar —empadronamientos, licencias menores, validación de datos personales, certificados— podrían ejecutarse sin intervención humana.
La promesa es una Administración “sin papeles”. La amenaza, una Administración sin rostro.
El propio ministro de Función Pública lo definió recientemente como “la mayor revolución desde Internet”. Pero, como toda revolución, tendrá ganadores y perdedores.
BOSCO, el aviso antes de la tormenta
El caso del bono social eléctrico no fue un error anecdótico: fue una advertencia de lo que está por venir. Si una IA puede decidir sobre un subsidio energético, mañana podría hacerlo sobre una sanción, una multa o incluso una solicitud judicial.
El Tribunal Supremo ha abierto una puerta para controlar la automatización estatal, pero la carrera tecnológica avanza más rápido que la legislación. Si no se fijan límites claros, el ciudadano podría encontrarse en pocos años discutiendo con una máquina por sus derechos, sin saber quién —o qué— le ha dicho “no”.
¿Quién vigila a la máquina?
La pregunta que atraviesa todo este debate es simple, pero perturbadora: ¿quién controla al algoritmo cuando el algoritmo controla la Administración?
La respuesta debería ser el Estado, pero la experiencia de BOSCO demuestra que ni siquiera las instituciones públicas tienen siempre acceso pleno a los sistemas que contratan. Esa falta de control, sumada a la opacidad técnica, podría erosionar el principio básico de cualquier democracia: la rendición de cuentas.
En una sociedad cada vez más gobernada por datos y modelos predictivos, la transparencia algorítmica debe considerarse un derecho ciudadano. No se trata solo de eficiencia, sino de justicia y responsabilidad.
Un futuro que exige vigilancia humana
La inteligencia artificial puede ser una herramienta extraordinaria para mejorar la gestión pública, reducir errores y liberar tiempo de trabajo. Pero no puede ni debe sustituir el juicio humano en la toma de decisiones que afectan vidas reales.
El desafío no es tecnológico, sino ético y político: garantizar que el progreso no se convierta en un atajo hacia la deshumanización de la administración.
Porque cuando la pantalla sustituya al funcionario, ¿quién responderá cuando algo salga mal?
Curioso, gracias.