Por Eduardo Gamero Casado

 

No hay mucha regulación específica, pero se aplican los principios y reglas generales

 

Parece extendida la opinión de que el uso de los algoritmos y la inteligencia artificial no se encuentra suficientemente regulado en nuestro Derecho; y me refiero en este trabajo, concretamente, al Derecho administrativo. Suele centrarse el foco en los (ciertamente escasos) preceptos que aluden directa o indirectamente a la cuestión, como el artículo 41 de la Ley 40/2015, de 1 de octubre, de régimen jurídico del sector público (LRJSP), que regula la actividad administrativa automatizada.

Sin embargo, el hecho de que no exista un régimen especialmente centrado en regular esta forma de tomar las decisiones administrativas no supone, en absoluto, que queden al margen del Derecho, de todo el Derecho, del resto del Ordenamiento jurídico. Por ejemplo, es muy pertinente acudir a la ética en la toma de decisiones para intentar embridar esta forma de adoptarlas, pero eso no puede soslayar que ciertos sesgos en la programación de estos sistemas vulneran directamente el derecho a no incurrir en discriminación. El Tribunal de Distrito de La Haya pronunció una sentencia el 5 de febrero de 2020 (ECLI:NL:RBDHA:2020:865), comentada, entre otros, por Lorenzo Cotino Hueso, mediante la que anuló una elaboración de perfiles para la lucha contra el fraude implantada por el Gobierno holandés que únicamente se utilizó en los calificados como “vecindarios problemáticos”, concluyendo el Tribunal que ese criterio puede provocar exclusión, discriminación y estigmatización injustificadas. Se trata de un ejemplo claro de aplicación del marco jurídico general a un problema de nueva generación, que no por carecer de una regulación específica, escapa de la aplicación de los principios y reglas generales del Derecho. Más adelante ofreceremos otros precedentes del Derecho comparado más alineados aún con el objeto de esta aportación.

El uso de algoritmos e IA en la toma de decisiones no escapa a ese marco general. Aquí me centro, en particular, en el requisito formal de la motivación de los actos administrativos.

 

La exigencia de motivar los actos administrativos basados en algoritmos o inteligencia artificial

El artículo 35 de la Ley 39/2015, de 1 de octubre, de procedimiento administrativo común de las Administraciones públicas (LPAC), establece que toda una batería de actos administrativos deben encontrarse motivados: entre otros, los que limiten derechos e intereses legítimos (en este caso, el Tribunal Constitucional tiene establecido que la motivación no es solo una elemental cortesía, sino un riguroso requisito del acto restrictivo de derechos: SSTC 26/1981, 8/1992, 52/1995 y 46/2014), los que se separen del criterio seguido en actuaciones precedentes, los que se dicten en ejercicio de potestades discrecionales… La amplitud de estos supuestos determina que prácticamente todos los actos administrativos deban motivarse: así lo defiende Rocío Navarro (en La motivación de los actos administrativos, Cizur Menor, 2017); y yo mismo he apuntado (en el prólogo de esa obra), que en este momento la cuestión no es ya determinar qué actos deben motivarse, sino cómo y cuánto se deben motivar los actos administrativos.

Recordemos, a los solos efectos de centrar la cuestión, que la motivación es una exigencia meramente formal: la necesidad de que en el propio acto administrativo consten (siquiera sea sucintamente) las razones por las que se dicta. No se trata, por tanto, de que existan motivos para dictar el acto: sino de que esos concretos motivos sean transparentes y visibles, que se hagan constar en el propio acto. No constituye una garantía material o de fondo, sino formal, aunque la exigencia de motivar se establezca para dar soporte a un derecho material como el de no padecer indefensión (más adelante volveremos sobre este punto). En cuanto que requisito de los actos administrativos la motivación se encuadra en su elemento formal.

En ninguna parte se dice expresamente que los actos dictados mediante algoritmos o IA deban motivarse. Porque no hace falta. Ya establece el artículo 35 LPAC todos los actos que deben motivarse, sin necesidad de especificar su soporte o el proceso mediante el que se dictan. No se establece en ninguna parte una excepción para actos basados en algoritmos o IA y, por tanto, tal excepción no existe. El problema reside entonces en determinar cómo deben motivarse estos actos, no en discutir si deben motivarse o no.

La falta de motivación es una de las causas en las que se sustentó la sentencia del Tribunal de Distrito de La Haya a la que aludíamos al principio, y también las del Consejo de Estado italiano que citaremos después. Esta exigencia también ha sido destacada por el informe Artificial Intelligence and Fundamental Rights, de la Agencia de los Derechos Fundamentales de la Unión Europea (2020, p.81), encuadrándolo en el derecho a la buena Administración reconocido en la Carta Europea de los Derechos Fundamentales, que menciona expresamente la necesidad de motivar los actos administrativos [artículo 41.2 c)]; y en la misma línea se posicionan los trabajos de Juli Ponce Solé (por todos, 2018). Otros muchos autores han insistido en la necesidad de motivar las decisiones sustentadas en algoritmos o en IA, como Ignacio Criado, Julián Valero y Julián Villodre (2020, p.452). Si bien la mayoría de argumentaciones aluden a la transparencia,  aquí encuadramos la exigencia no ya solo en ese contexto, sino más concretamente en la motivación del acto administrativo, como exigencia formal inexcusable que se debe incorporar al propio acto, como requisito de su contenido, como hace el propio Agustí Cerrillo Martínez (2020, págs.31 ss.).

 

Alcance de la exigencia: programación y auditoría

Estamos haciendo referencia a decisiones que directa o indirectamente se fundamenten en procesos algorítmicos o inteligencia artificial. En tal caso, la explicación de por qué se ha dictado el acto reside en el instrumento mediante el que se emite la decisión o en el que la misma se sustenta: es el proceso lógico que conduce a adoptar el acto. La motivación, en este tipo de actos, es necesariamente la explicación transparente (aunque pueda ser sucinta), en el propio acto o en algún otro medio a disposición del interesado, del proceso lógico que conduce a la adopción del acto. Se trataría, esencialmente, de la programación del algoritmo, puesta a disposición de los destinatarios del acto, para que puedan verificar su adecuación a Derecho. Conocer los criterios con los que se ha programado la toma de decisión (o uno de los elementos en los que se apoya) es crucial para determinar si se ha incurrido en un sesgo de alcance discriminatorio (en esa línea, Agustí Cerrillo Martínez, 2019, p.14), o más sencillamente, si los criterios en cuestión son objetivos y no incurren en la arbitrariedad proscrita por los artículos 9.1 y 103.2 CE.

La importancia de la motivación ya fue puesta de manifiesto por Isaac Martín Delgado (2009, pág.377) y por Xavier Uríos Aparisi e Ignacio Alamillo Domingo (2011, pp.21-31, 88, 133…) en relación con la actividad administrativa automatizada, señalando la esencialidad de la programación, y de su público conocimiento, en orden a satisfacer este requisito. También Rocío Navarro González ha abundado recientemente en esta posición, en la monografía citada (pp.474 ss.). No toda programación algorítmica o de IA constituye necesariamente un supuesto de actuación administrativa automatizada, pero la proximidad de ambas cuestiones es evidente. En particular, consideran estos últimos autores (p.134) que la exigencia de motivación supone en este caso

“la necesidad de codificar y poder reconstruir, para cada caso singular, las reglas lógicas – ya hemos visto que en una aproximación híbrida, con la aplicación de un método integrado por la lógica de predicados de primer orden, por las lógicas modales, deóntica y refutable aplicables, y por la lógica descriptiva en cuanto a la representación del dominio de conocimiento jurídico – que han sido aplicadas en el acto administrativo automático singular”.

Más recientemente ha abundado extensa y acertadamente en la cuestión  Agustí Cerrillo Martínez (2020, págs.31 ss.), dando cuenta de sendas sentencias del Consejo de Estado italiano: la  núm.2270, de 8 de abril de 2019; y la núm.8472 de 13 de diciembre de 2019. En esta última se exige, como requisito para la aplicación de algoritmos, el “pleno conocimiento del módulo utilizado y de los criterios aplicados”, así como que

este conocimiento del algoritmo debe garantizarse en todos los aspectos: desde sus autores hasta el procedimiento utilizado para su elaboración, el mecanismo de decisión, las prioridades asignadas en el procedimiento de evaluación y toma de decisiones y los datos seleccionados como relevantes (…) a fin de poder verificar que los criterios, condiciones y resultados del procedimiento robótico cumplen con las prescripciones y las finalidades establecidas por la ley o por la propia administración sobre dicho procedimiento y para que queden claras —y, por lo tanto, sean cuestionables— las modalidades y reglas a partir de las que se haya programado” (seguimos la traducción del autor, si bien la cursiva es nuestra).

La recomendable lectura de este trabajo de Cerrillo ofrece otros posicionamientos alineados con la necesidad de motivar las decisiones sustentadas en algoritmos.

Por otra parte, no puede descartarse que la motivación de este tipo de actos deba incluir también la acreditación de que el sistema de información mediante el que se ha adoptado la decisión haya superado exitosamente la correspondiente y periódica auditoría que verifique su adecuado funcionamiento. En relación con la actividad administrativa automatizada, el artículo 41 LRJSP determina que debe existir una “auditoría del sistema de información y de su código fuente”; esa misma exigencia debe predicarse de los sistemas basados en algoritmos e IA, aunque no conduzcan en todo caso a la toma de decisiones automatizadas. La acreditación de la superación de estas auditorías es la única manera de verificar que el sistema ha funcionado adecuadamente.

A este planteamiento se le puede reprochar que este último requisito constituye más un elemento de prueba a preconstituir por la Administración (para aportarlo en el momento en el que se requiera), que una exigencia encuadrada en la motivación del acto administrativo. Sin embargo, cabe recordar lo que viene sucediendo en otros ámbitos, como las multas de tráfico por exceso de velocidad: cuando no se acredita que el cinemómetro (radar) con el que se obtuvo la medición de velocidad del vehículo ha pasado las revisiones periódicas que verifican su fiabilidad (actualmente impuestas en la Orden ICT/155/2020, de 7 de febrero, por la que se regula el control metrológico del Estado de determinados instrumentos de medida), no existe prueba de cargo que permita sancionar (así, Sentencia de la Sala de lo Contencioso-Administrativo del Tribunal superior de Justicia de Castilla y León 1465/2001, de 29 de septiembre; y otras muchas concordantes, especialmente de los Juzgados de lo Contencioso-Administrativo). Ante el alud de recursos que esta jurisprudencia supuso, la práctica actual de la DGT es acompañar el correspondiente certificado al acuerdo de incoación del expediente sancionador, lo cual sirve de fundamento probatorio (y, por consiguiente, motivación) de la sanción.

El requisito de la motivación no exige estrictamente que ésta se consigne en el propio acto administrativo. El artículo 88.6 LPAC dispone que “La aceptación de informes o dictámenes servirá de motivación a la resolución cuando se incorporen al texto de la misma”; es lo que se conoce como motivación in alliunde, o por remisión. Ciertamente el precepto restringe ese modo de articular la motivación a la existencia de informes y dictámenes, que además se incorporen al texto del propio acto administrativo; pero la jurisprudencia es más flexible, admitiendo otras formas de motivar, siempre que se permita de alguna manera al interesado conocer suficientemente las razones en las que se ha basado la decisión (en ese sentido, véase la extensa exposición de la cuestión que lleva a cabo Rocío Navarro González al exponer la motivación in alliunde).

En ese escenario, el propio acto administrativo dictado en aplicación de algoritmos o IA no tiene que incorporar necesariamente los pormenores de la programación del sistema ni la acreditación de su verificación de adecuado funcionamiento, pero sí debe suministrar información suficiente para que el interesado pueda localizar y obtener esos datos, o bien haber dispuesto de ellos durante la tramitación del procedimiento administrativo, constando en el expediente o en otras fuentes de información a su alcance.

 

Los algoritmos inteligentes o de aprendizaje (machine learning) no podrían aplicarse en la medida que no seamos capaces de explicar su decisión

Cuando la decisión se base en un algoritmo inteligente, que evoluciona en sus decisiones mediante procesos que ignoramos y no somos capaces de explicar, parece claro que no nos resulta cabalmente posible ofrecer una motivación suficiente del acto administrativo. No podría verificarse que se dictó con criterios objetivos y sin incurrir en arbitrariedad.

Podría decirse que, en este caso, sería posible conocer y difundir pública y conscientemente la programación del proceso, parametrizada (esta sí) con criterios objetivos y transparentes, y aceptando que la decisión (finalmente impredecible y por ello no completamente explicable) la tome la máquina. Es decir, que la motivación en este caso consistiría en explicar el proceso y reconocer abiertamente su impredecibilidad, pero aceptando como premisa de partida que la programación del algoritmo es acertada. A mi juicio, esto podría superar el listón de la motivación, pero no rebasaría otros diferentes, como el de la objetividad de la decisión: ¿cómo podemos afirmar que es objetiva una decisión que no sabemos por qué se toma, aunque sepamos cómo se toma?

 

El requisito es predicable tanto de algoritmos meramente predictivos como decisorios, siempre que sirvan de fundamento del acto administrativo

Lo que pretende el requisito de la motivación (ya lo hemos dicho) es demostrar que no existe arbitrariedad, ni se incurre en ninguna otra infracción del Ordenamiento jurídico, como programar los sistemas con sesgos que supongan “discriminación alguna por razón de nacimiento, raza, sexo, religión, opinión o cualquier otra condición o circunstancia personal o social”, y que por tanto serían contrarios al artículo 14 CE. La única manera que tienen los sujetos pasivos de tales decisiones de verificar que no se han vulnerado sus derechos es disponer de esta motivación.

Se ha sostenido por Alejandro Huergo Lora (“Una aproximación a los algoritmos desde el Derecho administrativo”, en La regulación de los algoritmos, Cizur Menor, 2020, pp.23 ss.), acertada y fundamentadamente, que no todos los algoritmos son iguales; y que debemos diferenciar los algoritmos predictivos y los no predictivos. La actuación administrativa automatizada no podría basarse únicamente en los primeros, si bien, cabría tomarlos en consideración, entre otros elementos de juicio, para la ulterior toma de decisiones.

Sin discrepar necesariamente de estas posiciones, considero en cualquier caso que debemos centrar el foco en el requisito en examen: la necesidad de motivación. Así, si un algoritmo es predictivo, y no se usa para tomar directamente una decisión, pero es uno de los elementos de juicio determinantes de la toma de decisión, su influencia en la decisión adoptada es obvia, y por consiguiente, debe motivarse este acto administrativo también en lo que respecta al funcionamiento del algoritmo (programación y auditoría), pues de otro modo no podría verificarse la objetividad de la decisión, para la cual ha sido decisiva la predicción realizada por el algoritmo.

 

El requisito es predicable tanto en actos reglados como discrecionales

También se ha discutido la posibilidad de implantar decisiones administrativas automatizadas en ámbitos que requieren juicios de valor, o de discrecionalidad administrativa (en ese sentido, véanse Martín Delgado, y Uríos y Alamillo, citados; y también Valero, 2007; o Cerrillo, 2020, pág.22).

En el caso de que aceptemos la posibilidad de dictar actos discrecionales con sustento en estos sistemas, debemos centrar nuevamente la atención en el requisito de la motivación, que como hemos visto impone específicamente la LPAC para los actos dictados en ejercicio de potestades discrecionales: si se afirma que en el marco de la discrecionalidad administrativa pueden aplicarse estos sistemas (puesto que existe discrecionalidad y, por consiguiente, la Administración goza de un margen de libertad para elegir la solución que adopta), no puede negarse que, en tal caso, la manera de demostrar que la Administración ejerce efectivamente (objetivamente) su potestad discrecionalidad sin incurrir en arbitrariedad es la motivación del acto administrativo decisorio, en los términos expuestos.

 

El incumplimiento del requisito supone indefensión y determina un vicio de invalidez de los actos

El fin de la motivación (o, al menos, el más importante de ellos), es habilitar el derecho a la tutela judicial efectiva de los sujetos cuyos derechos e intereses legítimos puedan verse afectados por la decisión. Solo podemos rebatir un acto administrativo si sabemos por qué se ha dictado. La falta de motivación suprime un elemento clave de control e impide verificar la adecuación a Derecho del acto administrativo.

También Uríos y Alamillo consideran que la omisión de motivación (en los términos expuestos) representa un vicio de invalidez de las decisiones administrativas automatizadas (ob.cit., p.94). Debemos extrapolar esa conclusión a las decisiones adoptadas mediante algoritmos e IA, como ha hecho Julián Valero Torrijos (2019, p.11).

La jurisprudencia contencioso-administrativa ha establecido que los actos administrativos carentes de motivación (cuando ésta es preceptiva) generan indefensión (SSTS 1198/2019, de 19 de septiembre; 198/2019, de 19 de febrero; y 10/5/2000, rec.5.760/1995, entre otras muchas). Pero además, cuando se encuentra en entredicho un derecho fundamental (derecho de reunión, procedimientos sancionadores), la exigencia de motivación tiene alcance constitucional (SSTC 26/1981, f.j.14; 236/2007, f.j.12; 17/2009, f.j.2; y 46/2014, f.j.4, entre otras muchas), por lo que determina un vicio de nulidad radical o de pleno Derecho [artículo 47.1 a) LPAC].

 

La conveniencia de regular expresamente la cuestión

No obstante todo lo anterior, comparto la opinión de quienes consideran que esta cuestión merece un tratamiento normativo específico, siquiera sea para evitar que se sostenga que queda al margen del Derecho porque no se encuentra regulada. Acometer esa labor redundaría indudablemente en mejorar la seguridad jurídica.

Ahora bien, debo insistir en la posición de que, aún cuando actualmente no exista un precepto que exija la motivación de los actos administrativos sustentados en algoritmos o IA, tal requisito es inequívocamente predicable en los supuestos establecidos con carácter general por el artículo 35.1 LPAC; y que, en tales supuestos, la omisión del requisito determina un vicio de invalidez del acto, susceptible de impugnación en vía administrativa y contencioso-administrativa. Entre nosotros carecemos de jurisprudencia que avale estas afirmaciones, pero en el Derecho comparado contamos con los precedentes citados del Tribunal de Distrito de La Haya y, sobre todo, del Consejo de Estado italiano; quiero creer que por esos mismos cauces discurrirán en su día nuestros propios tribunales cuando se les presente ocasión para ello.


Foto: JJBOSE

Mirada 360