Uno de los desafíos de las sociedades contemporáneas, que se sitúa en las prioridades de las agendas públicas en todos los niveles de gobierno, es la transformación digital. El avance de las tecnologías disruptivas (inteligencia artificial, internet de las cosas, blockchain, entre otras) se produce ahora a una velocidad de vértigo y un nuevo contrato social resulta necesario. Ese contrato social digital de naturaleza constitucional ha de partir de un proceso de reflexión para llegar a acuerdos que plasmen la posición que asumimos ante fenómenos de tamaña envergadura como, por ejemplo, el uso de las neurociencias con finalidades terapéuticas o, incluso, para el aumento de las capacidades del ser humano. Por otro lado, el contrato social alcanza aspectos como la ciberseguridad, que habría de configurarse hoy como un derecho de la ciudadanía en los entornos digitales.  

Podría afirmarse que los procesos de toma de decisiones se encuentran en fase de matematización. Ello es así desde, al menos, una doble perspectiva. De un lado, en la actualidad se dispone de una información cuantitativa de la que no se disponía en el pasado. Las decisiones públicas se basan de manera creciente en datos, esencialmente numéricos. Además, la impronta del principio de eficiencia en el Derecho contemporáneo y en las políticas públicas conlleva que las decisiones se “numericen” también desde el punto de vista económico. De ahí que los procesos de adopción de decisiones públicas –así como la evaluación de las medidas adoptadas y, en general, la evaluación de las políticas públicas– aparezcan caracterizados por ese carácter numérico. 

De otro lado, la dependencia del dato y del número se pone de manifiesto en la traducción de los procesos de toma de decisiones a un código informático. La sucesión ordenada de pasos conducentes a un resultado se confiere de este modo a un sistema basado en dígitos. Por medio de un algoritmo, una máquina ofrece propuestas de resolución de una manera más ágil y en principio más libre de errores. A ello cabe añadir que en ocasiones el resultado presenta tintes más sofisticados, por cuanto el algoritmo puede estar programado para el procesamiento de un número ingente de datos que le permita encontrar nuevos parámetros o conexiones y así aprender por sí mismo, realizando predicciones a futuro. Estos sistemas de machine learning presentan desafíos no menores para el Derecho y las políticas públicas. 

La Administración digital es heredera de la Administración electrónica, si bien se expresa como un proceso de transformación de la organización y de la acción públicas que supone una nueva forma de actuación desde lo público y de relación de las Administraciones Públicas con la ciudadanía. Esta forma de actuación se extiende, de diversa manera, a otros poderes del Estado, más el poder judicial y menos el legislativo (sí, en su caso, a través por ejemplo del voto electrónico, de sistemas de participación digital en la elaboración de normas o mediante la digitalización de los servicios administrativos que sostienen el funcionamiento de este poder del Estado). 

Tanto en el ámbito administrativo como en el ámbito judicial se están ensayando y aplicando, en ocasiones con éxito, sistemas algorítmicos de toma de decisiones. No puede dejar de subrayarse, sin embargo, que esto sucede, en general, sin transparencia. Es decir, son pocas las Administraciones Públicas que indican si y en qué casos utilizan algoritmos para la tramitación de los procedimientos y la adopción de resoluciones. Del mismo modo, la información sobre el funcionamiento interno de dichos algoritmos sigue siendo a día de hoy un arcano. Documentos como la Carta española de Derechos Digitales para la ciudadanía proponen el reconocimiento, por ejemplo, del derecho de acceso al código fuente, especialmente con objeto de verificar que no produce resultados discriminatorios. Sin embargo, mientras dicha aspiración no se concrete en normas efectivamente vinculantes, los órganos jurisdiccionales se muestran reacios a acceder a la pretensión de conocer dicho funcionamiento interno, a efectos de contestar la decisión propuesta por el algoritmo y obtener tutela judicial al respecto. Es el caso, por ejemplo, de la reciente sentencia española de 30 de diciembre de 2021, que desestimaba un recurso dirigido en última instancia a tener acceso al código fuente de un algoritmo que analizaba la concurrencia de los requisitos para ser calificado de “consumidor vulnerable” a los efectos de ser beneficiario del denominado bono social en la factura eléctrica.

Como señalaba más arriba, el algoritmo no deja de ser la expresión matemática de un procedimiento, una sucesión ordenada de pasos conducentes a un resultado. La aspiración de traducir los procesos o el Derecho a fórmulas matemáticas no es en absoluto novedosa y la teoría del Derecho ha dado cuenta de ello desde distintas líneas de pensamiento. Incluso, el análisis económico del Derecho, sin ser desde luego una matematización del proceso o del Derecho, parte del dato numérico para confrontar posibles soluciones óptimas. También la teoría de la ponderación de intereses ha contado con propuestas para traducir a dígitos dicha operación. No obstante, esta aproximación plantea como obstáculo inicial la cuestión de hasta qué punto los bienes e intereses públicos –también los privados- son (siempre) matematizables. 

Una fórmula matemática o un algoritmo no plantean mayores problemas en el ámbito de las potestades regladas, es decir, si se da el supuesto de que la norma prevé que ante X necesariamente concurre Y. Juristas y técnicos habrán de trabajar de forma conjunta para lograr que la programación responda a lo querido por la norma y habrá de evaluarse que ello efectivamente sea así, pero las cautelas en principio acaban ahí. Si el programa informático da efectiva respuesta a la relación X – Y, las eventuales deficiencias o irregularidades apreciadas se derivarán prima facie de las órdenes recibidas por la máquina, es decir, de las propias normas, de la configuración normativa.  

Sin embargo, los desafíos se acrecientan en el ejercicio de las potestades discrecionales. Tan es así que el artículo 35a de la Ley de Procedimiento Administrativo alemana prohíbe la adopción de decisiones automatizadas en el ejercicio de la potestad discrecional, así como en el marco de la concreción de los denominados conceptos jurídicos indeterminados. También la Carta española de Derechos Digitales lo hace (XVIII.6.d)), si bien deja abierta la posibilidad a establecer excepciones, siempre y cuando éstas vengan determinadas por una norma con rango de ley. El debate sobre la discrecionalidad –la administrativa, pero también la judicial– ha sido desarrollado de forma profusa por la doctrina administrativista y no administrativista y conecta con posicionamientos sobre los poderes del Estado, sobre el marco constitucional en el que estos operan, así como sobre concepciones ex ante desde la Teoría del Derecho. 

Resulta cabal –y así sucede en nuestro Derecho positivo- conceder un ámbito de apreciación a los poderes públicos, sobre la base de un marco jurídico claro, toda vez que la realidad genera contextos diversos que determinarán qué decisiones son en cada caso las más aconsejables. Además, una Administración Pública, que es el instrumento para la puesta en práctica de políticas públicas, ha de estar en condiciones de adoptar un abanico de soluciones, dentro –conviene insistir en ello– de un marco jurídico previamente establecido, es decir, dentro en todo caso de la cláusula de Estado de Derecho. Matematizar el procedimiento en esos contextos que admiten margen de maniobra y conferir a un algoritmo la capacidad de adoptar decisiones sin contestación por un ser humano al servicio de la organización irrita prima facie, entre otros elementos, a la cláusula de Estado Democrático. Este efecto podría afectar también –en ciertos supuestos– a la cláusula de Estado Social, si la matematización u optimización conduce a preterir en todo caso aquellos bienes, derechos o intereses de valor numéricamente inferior. El marco ético que acompañe al marco jurídico que determina el funcionamiento del algoritmo será también relevante en este aspecto.

Trasladado este debate al ámbito judicial, donde buena parte de las anteriores consideraciones resultarían de aplicación, conviene recordar la advertencia realizada por Alejandro Nieto en El arbitrio judicial, donde abordaba la por él denominada “falacia de la única solución justa”. En este sentido, no resulta descabellado conectar ahora estas consideraciones en el ámbito que nos ocupa con el principio ético número 5 de la Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno, que recoge, entre otros aspectos, que los usuarios de los instrumentos de inteligencia artificial y, en particular, los jueces puedan controlar el uso y la capacidad de elegir entre diversas opciones disponibles, así como apartarse de la propuesta de decisión realizada por la máquina. 

Más allá de lo anterior, cabe subrayar que los instrumentos de inteligencia artificial y, en especial los algoritmos –también los predictivos-, pueden ser útiles en el ámbito de la justicia y en España, recientemente se ha constituido un grupo de estudio sobre materia en el seno del Consejo General del Poder Judicial. Instrumentos de estas características resultarán muy útiles para la identificación y propuesta de resolución en asuntos repetitivos y de sencilla resolución. Con ello se proporcionaría más tiempo al órgano judicial para el análisis detallado de asuntos más complejos, no matematizables y sujetos a discusión. Sería, en primer lugar, una medida dirigida a combatir la saturación de un sistema judicial exhausto que requiere de medios humanos y económicos para satisfacer la función constitucional de otorgar tutela judicial. En segundo lugar, se preservaría ese espacio de reflexión y diálogo –preferiblemente colegiado-, de forma singular en aquellos supuestos en que la norma no ofrece una solución clara y donde no existe a priori una única solución justa. El debate procesal habrá de servir, así, para fijar el marco correspondiente en el que adoptar una resolución lo más acertada posible. Y el marco ético, analógico y digital, de importancia creciente en la sociedad contemporánea, adquiere aquí, en fin, tintes renovados. 

Print Friendly, PDF & Email

Deja una respuesta

Tu dirección de correo electrónico no será publicada.