Por Alejandro Huergo Lora

Introducción

Sí, el lector no se equivoca: aunque las sentencias de primera instancia y de apelación que deniegan la petición de acceso al código fuente de la aplicación informática “Bosco”, que se utiliza al conceder o denegar el bono social eléctrico, han sido casi unánimemente criticadas, aquí se sostiene su acierto, al menos en una cuestión básica como es la naturaleza puramente instrumental de esa aplicación informática,

Aspecto clave de su tratamiento jurídico sobre el que ya he escrito en varias ocasiones. Especialmente: Alejandro Huergo Lora, ‘Una aproximación a los algoritmos desde el Derecho administrativo‘, en Huergo Lora, Alejandro (Dir.)/Díaz González, Gustavo Manuel (Coor.), La regulación de los algoritmos, Aranzadi, Cizur Menor, 2020, págs. 23-87; Alejandro Huergo Lora, El derecho de transparencia en el acceso a los códigos fuente, en Anuario de Transparencia Local, 2023, páginas 35-66.

Esas sentencias son la del Juzgado Central de lo Contencioso-Administrativo número 8, de 30 de diciembre de 2021 (procedimiento ordinario 18/2019) y la de la Sala de lo Contencioso-Administrativo de la Audiencia Nacional (Sección 7ª) de 30 de abril de 2024 (recurso de apelación 118/2022) y son accesibles de forma inmediata gracias a la entidad que presentó la solicitud de acceso y el recurso contencioso-administrativo, la Fundación Civio, que realiza una magnífica labor en pro de la transparencia. Una labor encomiable y muy necesaria, porque en materia de transparencia -y en muchas otras relacionadas con el Estado de Derecho y la rendición de cuentas de los poderes públicos- en España todavía se puede y se necesita mejorar mucho.

El bono social eléctrico

Consiste en un precio bonificado por la energía eléctrica, al que tienen derecho quienes cumplan determinados requisitos económicos y familiares que se enumeran en el artículo 3 del Real Decreto 897/2017, de 6 de octubre (desarrollado, a su vez, por la Orden ETU/943/2017, de la misma fecha). Por tanto, es un derecho reglado, en la terminología típica del Derecho administrativo: quien cumple los requisitos, tiene derecho a que le reconozcan el bono (no se le puede denegar) y a quien no cumple los requisitos no se le puede conceder. Es algo tan reglado como el acceso a las pensiones de jubilación o el cálculo de la cuota del IRPF o del IBI.

El bono social se solicita al comercializador (es decir, la empresa que sirve la energía y la cobra), y éste comprobará el cumplimiento de los requisitos a través de una aplicación informática disponible en la Sede Electrónica del Ministerio de Energía, Turismo y Agenda Digital. Si existen discrepancias, el afectado puede reclamar ante los servicios de consumo correspondientes.

Tanto el Real Decreto como la Orden que lo desarrolla establecen que el Gobierno pondrá en marcha una aplicación informática que servirá para tramitar las solicitudes y comprobar el cumplimiento de los requisitos. Salta a la vista que, de no existir la aplicación, el proceso burocrático sería largo y el reconocimiento del bono sufriría grandes demoras. Este tipo de ayudas informáticas se están utilizando en otros procesos puramente reglados, como, por ejemplo, el reconocimiento de las ayudas del denominado “kit digital”.

El proceso contencioso-administrativo en el que han recaído las dos sentencias que estoy comentando se refiere precisamente a esta aplicación informática. El pleito no surge porque algún interesado haya recurrido la denegación del bono, sino porque la fundación ya mencionada solicitó, en virtud de la Ley de Transparencia, acceso al código fuente de la aplicación informática. El código fuente es, dicho en términos vulgares, el programa informático mismo, es decir, el conjunto de instrucciones que se carga en el ordenador para ejecutar la aplicación.

La Administración denegó la solicitud de acceso y el Consejo de Transparencia y Buen Gobierno estimó parcialmente la reclamación, en el sentido de obligar al Ministerio a facilitar información sobre el funcionamiento de la aplicación, así como las pruebas realizadas para comprobar que se ajusta a sus especificaciones (lo que podemos denominar, de manera muy imprecisa, una “auditoría” y una explicación), pero denegó el acceso al código fuente utilizando dos de las causas de denegación previstas en la Ley de Transparencia: la protección de derechos de autor (en este caso, sobre el programa informático de la aplicación “Bosco”) y razones de seguridad. Esta última cuestión es la abordada con más detalle en las sentencias. La Administración demandada presentó un informe que decía que el acceso al código fuente facilitaría la comisión de sabotajes y ataques informáticos.

No me voy a pronunciar sobre ninguna de estas dos cuestiones. Lo que me interesa destacar es algo que dicen las sentencias y que me parece básico para abordar jurídicamente el uso de “algoritmos” (o, con más precisión, la inteligencia artificial) en general y, sobre todo, por poderes públicos y en contextos en los que existe alguna parte débil (consumidores, trabajadores).

La sentencia del Juzgado, tras repasar lo que dicen el Real Decreto y la Orden, dice:

“Aplicando al presente asunto los preceptos inmediatamente transcritos, debemos de considerar que el Ministerio para la Transición Ecológica, al reconocer el derecho al bono social, ajusta su actuación a dicha normativa, dictando el correspondiente acto administrativo. Y para ello utiliza una aplicación informática, denominada ‘sistema de información BOSCO’, que se inserta en una fase del procedimiento administrativo, cuyo objeto es verificar el cumplimiento de los requisitos establecidos previamente por la normativa citada.

Siendo lo anterior así, no puede considerarse que el acto administrativo se dicte por una aplicación informática, sino por un órgano administrativo, y en caso de que el destinatario de dicho acto esté disconforme con el mismo, podrá impugnarlo en vía administrativa, y en vía judicial.

Por tanto, la legalidad del acto administrativo no está justificada por la aplicación informática que instrumentalmente se utiliza en una fase del correspondiente procedimiento administrativo, sino por la normativa que regula la materia”.

La sentencia de la Audiencia Nacional añade, en el mismo sentido:

“También nos vemos obligados aquí a disentir del argumento de la recurrente sobre la infracción del artículo 9.3 CE. El debate se centra en el derecho al acceso al código fuente de la aplicación con la que se gestiona el bono social, quedando fuera del valladar del debate determinar si es conforme a derecho el procedimiento de comprobación para verificar la condición de consumidor vulnerable (Real Decreto 897/2017 por el que se regula la figura del consumidor vulnerable, el bono social y otras medidas de protección para los consumidores domésticos de energía eléctrica y Orden ETU 943/2017, sobre el mecanismo de comprobación de los requisitos para ser consumidor vulnerable).

Como dice el Abogado del Estado la aplicación informática no es más que una herramienta que se integra en el seno de un procedimiento administrativo que seguirá produciendo un acto administrativo plenamente sujeto al ordenamiento jurídico, de modo que el control de la legalidad de los actos administrativos sigue estando garantizado: la legalidad (o no) del acto administrativo no viene justificada por el uso de la aplicación informática sino por la adecuación al ordenamiento jurídico del acto producido.”

Dicho en otras palabras: no es correcto decir que este algoritmo determina quién tiene derecho al bono social. Es como decir que un funcionario ‘decide’ si una persona tiene derecho a una pensión de jubilación (cuando, en realidad, el derecho se tiene o no se tiene en función del cumplimiento de los requisitos, de edad y cotización, legalmente establecidos) o a una prestación por desempleo, o cuánto tiene que pagar por IBI en un determinado ejercicio el propietario de una vivienda. Hay otras cosas que sí decide la Administración, que son aquellas en las que dispone de un margen de discrecionalidad o en las que la norma utiliza conceptos indeterminados que pueden concretarse de distintas formas (y en los que a veces se reconoce a la Administración un margen de apreciación). La Administración sí decide, a través del planeamiento urbanístico, si se puede urbanizar un ámbito o si es posible instalar una gran superficie comercial en él. No se deben confundir ambos supuestos.

Curiosamente, el hecho de que se utilice una ayuda informática (en lugar de que los funcionarios actúen de forma puramente analógica) parece que lleva a conclusiones erróneas. Si las solicitudes de reconocimiento del bono social se gestionasen sin aplicación informática (con un tiempo de tramitación muy superior, desde luego), nadie pretendería tener acceso a la mente del funcionario para ver cómo puede cometer errores en la aplicación de la normativa. Si se deniega la prestación a alguien que tiene derecho a ella, se presenta un recurso y, si se comprueba el error, se estima y se le reconoce el derecho, sin necesidad de indagar si el error se produjo por inadvertencia, por sobrecarga de trabajo o porque había entendido mal la normativa. El hecho de que se utilice un apoyo informático no debería cambiar las cosas. Si a un expropiado, por ejemplo, se le pagan unos intereses de demora menores de lo que le corresponde, podrá recurrir y se le estimará el recurso, sin necesidad de determinar en qué columna de la hoja de cálculo utilizada por el funcionario había un error que llevó a esa liquidación incorrecta.

En aplicaciones informáticas como la del bono social, el error puede detectarse comparando lo que dice la aplicación (denegación del bono, por ejemplo) con lo que resulta del marco normativo (que puede ser su concesión). Es lo que sucede siempre, repito, en todas las actuaciones administrativas regladas. Sería deseable, en un ejercicio de transparencia total (y para prevenir errores y evitar tener que recurrir), conocer todo el funcionamiento interno de la Administración, es decir, utilizando un símil que le oí hace muchos años al recientemente fallecido profesor Ramón Parada, que ésta fuera como esas cocinas de restaurantes que son totalmente visibles para los clientes, pero creo que hay tres cosas claras: (1) ese grado de transparencia no es necesario para poder corregir posibles errores o ilegalidades en actuaciones regladas, (2) cuando actúan humanos sin apoyo informático no se exige ese grado de transparencia, ni muchísimo menos (a pesar de que el ‘código fuente’ de los humanos, es decir, lo que motiva su comportamiento, es infinitamente más complejo e inaccesible que el de un ordenador), y (3) no podemos decir que este tipo de aplicaciones informáticas ‘deciden’ sobre los derechos de los ciudadanos, puesto que aplican un marco normativo que sólo admite una solución correcta, y están sujetas a recurso cuando no lo cumplen.

Tener esto claro es muy importante para distinguirlo de aquellos casos en que se utilizan sistemas de inteligencia artificial (“algoritmos”) que sí influyen sobre el contenido de la decisión administrativa. Es decir, sistemas que, en casos en que la Administración sí dispone de un margen de decisión porque no existe un marco normativo que lleve a una única decisión jurídicamente admisible, orientan en una determinada dirección. Existen múltiples variantes: el sistema puede tomar directamente la decisión (actuación administrativa automatizada) o influir, de forma más o menos determinante, en el titular del órgano administrativo (como un informe no vinculante, o incluso más allá); puede tratarse de decisiones finalizadoras de un procedimiento, que crean derechos o imponen obligaciones (resoluciones) o bien actos de trámite, como la decisión de iniciar un procedimiento en el que se pedirá explicaciones al ciudadano, o la decisión de inspeccionar. Puede tratarse de actuaciones desfavorables (inspecciones, sanciones) o bien favorables (ofrecer o aplicar una atención especial, en materia, por ejemplo, educativa o de servicios sociales a quienes pueden tener más necesidad, seleccionados por un sistema de inteligencia artificial).

Pero, en todos los casos, nos encontraremos con una decisión que no se justifica en la aplicación de la norma (como ocurre en el caso del bono social eléctrico), sino en que así lo ha dicho un sistema de inteligencia artificial. De hecho, la inteligencia artificial (IA)es un instrumento para la toma de decisiones, lo que presupone que quien la utiliza dispone de un margen decisional. Es evidente que las exigencias de transparencia, motivación, etc., no tienen nada que ver en este caso y en el anterior, y que confundir ambas situaciones sólo sirve para provocar alarma ante la utilización de aplicaciones informáticas “regladas” (que son imprescindibles para evitar retrasos intolerables en la actuación administrativa, salvo que se quiera multiplicar el número de empleados públicos) y para que pase inadvertida la utilización de sistemas informáticos que sí contribuyen a la toma de decisiones.

El Reglamento de Inteligencia Artificial

(pendiente de publicación), acoge claramente esta distinción. En su artículo 3, define ‘sistema de IA’ como

“un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales”.

Es fundamental la idea de autonomía, es decir, que el sistema no se limita a realizar operaciones a partir las reglas que previamente se le han dado y de los datos de entrada (como una calculadora, como la aplicación “Bosco”), sino que “pone algo de su parte”, incluso con “capacidad de adaptación tras el despliegue”.

El párrafo 12 del preámbulo lo deja claro:

la definición debe basarse en las principales características de los sistemas de IA que los distinguen de los sistemas de software o los planteamientos de programación tradicionales y más sencillos, y no debe incluir los sistemas basados en las normas definidas únicamente por personas físicas para ejecutar automáticamente operaciones. Una característica principal de los sistemas de IA es su capacidad de inferencia. Esta capacidad de inferencia se refiere al proceso de obtención de resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos y virtuales, y a la capacidad de los sistemas de IA para deducir modelos o algoritmos, o ambos, a partir de información de entrada o datos. Las técnicas que permiten la inferencia al construir un sistema de IA incluyen estrategias de aprendizaje automático que aprenden de los datos cómo alcanzar determinados objetivos y estrategias basadas en la lógica y el conocimiento que infieren a partir de conocimientos codificados o de una representación simbólica de la tarea que debe resolverse. La capacidad de inferencia de un sistema de IA trasciende el tratamiento básico de datos, al permitir el aprendizaje, el razonamiento o la modelización.

El Reglamento, por otro lado, sólo prevé el acceso al código fuente de los sistemas de inteligencia artificial por parte de la Comisión o las autoridades de vigilancia del mercado (no del público en general) y en condiciones muy estrictas, básicamente cuando “se han agotado todos los procedimientos de prueba o auditoría y todas las comprobaciones basadas en los datos y la documentación facilitados por el proveedor, o han resultado insuficientes” (artículo 74) -es el tipo de información que en este caso el Consejo de Transparencia exigió que se facilitase- y siempre con estrictas obligaciones de confidencialidad (artículo 78).

Coda

Como decía al inicio, creo que cualquier persona con experiencia en el funcionamiento de la Administración estará de acuerdo en que la rendición de cuentas, las posibilidades que tiene el ciudadano de obtener un control estricto de la legalidad de la actuación administrativa son todavía muy imperfectas, y no sólo cuando se utilizan ayudas informáticas. Hay muchas decisiones (por ejemplo, en cuestiones como los nombramientos de los titulares de distintos órganos, autoridades independientes o empresas públicas) en las que no se exige un nivel de motivación suficiente y en las que, de hecho, la Administración o los Gobiernos actúan como si de puros cargos de confianza se tratase. En otros ámbitos (decisiones en materia de personal, acreditaciones, etc.), quien recurre una decisión sólo tiene acceso al expediente de su propio caso, pero no a toda la actuación de ese órgano administrativo, de modo que los sesgos o el trato desigual, en la práctica, no son detectables ni controlables. En materia de transparencia y de tutela judicial efectiva estamos, como digo, en un nivel muy mejorable y creo que sobran los retos sin que el mayor problema se encuentre en aplicaciones cuya relevancia es menor de lo que a veces puede creerse.

Foto: Europeana en Unsplash