La discrecionalidad algorítmica hermética: un desafío a la responsabilidad del Estado en Chile

La integración de decisiones automatizadas en la Administración chilena no es una actualización técnica, sino una reconfiguración estructural del poder público. Bajo el Principio de Juridicidad (Art. 6 CPR), y como sostiene Eduardo Soto Kloss, la potestad estatal halla su límite infranqueable en la supremacía constitucional, exigiendo que toda actuación tecnológica se supedite al respeto irrestricto de las garantías fundamentales.

La implementación del aprendizaje automático y el procesamiento de macrodatos amenaza con erosionar la servicialidad (Art. 1 CPR) y la transparencia (Art. 8 CPR). La naturaleza inescrutable de estos modelos impide reconstruir la trazabilidad del razonamiento, neutralizando la defensa ciudadana y el control jurisdiccional. Al fracturarse el nexo causal entre el hecho y el acto, el administrado queda en una indefensión material frente a una potestad que decide, pero es estructuralmente incapaz de justificar los fundamentos de su convicción.

El despliegue del aprendizaje automático y los macrodatos transforma la discrecionalidad técnica humana en una discrecionalidad algorítmica hermética. Esta mutación introduce una opacidad que fractura el nexo lógico entre los antecedentes de hecho y la decisión, desafiando el deber de motivación (Art. 41 de la Ley N° 19.880) al impedir el escrutinio de la racionalidad interna del acto administrativo.

A diferencia de la discrecionalidad humana, auditable por la lógica y la experiencia, la variante algorítmica opera sobre correlaciones masivas sin explicación causal. Aquí, el Estado delega el iter decisional en sistemas impenetrables incluso para sus operadores. Esto priva al administrado de conocer las razones materiales de la decisión, desnaturalizando el acto administrativo. El derecho a la defensa se reduce a una impugnación de formas, vacía de control sobre el fondo y ajena al estándar de racionalidad exigido por el ordenamiento jurídico.

Al delegar el iter decisional en sistemas impenetrables, el Estado priva al administrado del derecho a conocer y controvertir los fundamentos que afectan su esfera jurídica. Esta opacidad desnaturaliza la esencia del acto administrativo, el cual, según Germán Boloña, debe ser una manifestación de voluntad racional y exteriorizada. Sin trazabilidad, el acto muta en una vía de hecho tecnológica que vulnera el debido proceso.

No se sostiene la inexistencia de recursos, sino la mutación de su eficacia. Mientras la discrecionalidad humana permite contrastar el razonamiento mediante la lógica y la sana crítica, el aprendizaje automático y el procesamiento de macrodatos alteran la naturaleza del control. El algoritmo puede ofrecer una motivación formalmente perfecta pero materialmente inescrutable. Así, aunque los recursos administrativos y judiciales permanecen vigentes, se vuelven estériles al carecer de un objeto auditable, transformando el control jurisdiccional en un examen de meras apariencias.

Mientras la motivación humana es una exteriorización causal auditable, el aprendizaje automático genera ponderaciones sobre macrodatos que la propia Administración no puede explicar. Esto esteriliza la vía recursiva: el ciudadano impugna el texto del acto, pero no la lógica subyacente que construye los hechos. Como sostiene Gabriel Bocksang, la coherencia exige un iter cognoscible; sin él, la motivación es una mera apariencia de legalidad. La validez del acto administrativo termina descansando en una fe técnica incontrolable, desplazando la justificación jurídica exigida por el Estado de Derecho.

El problema jurídico no reside en la tecnología, sino en cómo su opacidad configura la falta de servicio (Art. 44, Ley N° 18.575). Al introducir sistemas que impiden el control jurisdiccional, el Estado altera el estándar de diligencia exigible. Siguiendo a Jaime Arancibia, la falta de servicio es un concepto normativo: la incapacidad de transparentar la decisión constituye, por sí misma, un funcionamiento defectuoso. Más allá de una falta tradicional, enfrentamos una responsabilidad por riesgo creado, donde la adopción de una opacidad algorítmica, activa la obligación de reparar el daño derivado de la indefensión provocada.

El uso de aprendizaje automático y macrodatos redefine el estándar de servicio debido. Al emplear sistemas cuya lógica es inexplicable, la Administración no solo incurre en una omisión técnica, sino que altera su estándar de diligencia. La falta de servicio se configura aquí como una ruptura de la confianza legítima y de la racionalidad procedimental. Como la opacidad impide garantizar una ponderación racional, no es una mera dificultad probatoria, sino un servicio defectuoso que, al no exteriorizar sus fundamentos, vulnera el estándar de juridicidad constitucional.

Más que una falta tradicional, enfrentamos una responsabilidad por riesgo creado: el Estado introduce herramientas que impiden el control al ocultar la trazabilidad de la calificación jurídica de los hechos. En el sistema analógico, el juez audita el iter lógico para detectar arbitrariedades; en el aprendizaje automático, el hecho se diluye en ponderaciones de macrodatos inescrutables. Lo que escapa al escrutinio es la veracidad del nexo causal algorítmico. Al ser incapaz de explicar la racionalidad interna que vincula el dato con la decisión, el control judicial se desplaza desde la búsqueda de la verdad material hacia la mera aceptación de un resultado técnico.

La dogmática clásica de la responsabilidad civil y extracontractual, sistematizada por autores como Ramos Pazos y Barros Bourie, se enfrenta hoy al imperativo de disciplinar una actuación estatal que, bajo el velo de la eficiencia, parece sustraerse de la transparencia exigida por nuestro Estado de Derecho.

La Administración no puede exonerarse alegando complejidad técnica; debe internalizar un estándar de diligencia algorítmica. Ante una lógica inauditable, el acto administrativo es nulo por vicio de motivación, y el daño resultante debe repararse bajo un régimen de responsabilidad objetiva. El éxito del litigante no reside en su pericia informática, sino en reconducir el debate a la prueba procesal: frente a la decisión técnica inescrutable, se debe exigir la trazabilidad del sistema. La opacidad no es una defensa válida, sino la prueba misma de un incumplimiento del estándar de transparencia pública.

La experiencia comparada rechaza la complejidad técnica como eximente de responsabilidad. En el caso SyRI (2020), el Tribunal de La Haya dictaminó que la eficacia de un sistema no prevalece sobre la transparencia; la complejidad no es un escudo frente al control jurisdiccional. Asimismo, el Consejo de Estado italiano (Sentencia 2270/2019) estableció que la regla del algoritmo debe ser plenamente cognoscible. Estos precedentes refuerzan que la opacidad constituye una delegación inadmisible de la voluntad administrativa, validando la tesis de que un sistema inescrutable vulnera estructuralmente el debido proceso y la juridicidad estatal.

Si la Administración no transparenta su lógica, se activa una presunción de ilegitimidad. Es imperativo distinguir entre motivación formal (narrativa externa) y trazabilidad material (lógica interna de ponderación). Transparentar no es enunciar un resultado razonable, sino permitir el escrutinio del nexo causal dato-consecuencia. Por equidad procesal, la carga de la prueba debe invertirse: el Estado, como custodio del sistema, debe demostrar que su algoritmo respeta la juridicidad. La opacidad debe tratarse como ausencia de fundamentos; una justificación que no explica su origen es jurídicamente inexistente. Esta brecha revela la ineficacia material de los canales de impugnación tradicionales ante la hermeticidad algorítmica.

En el esquema tradicional, administrado y funcionario comparten una lógica causal; frente al algoritmo, el control jurisdiccional queda desarmado ante lo incomprensible. La defensa estatal en la neutralidad técnica es una abdicación del deber de motivación y un desafío a la juridicidad. El Estado no solo moderniza el procedimiento, sino que desplaza el poder desde la norma hacia el código, evadiendo el escrutinio constitucional. El litigio del siglo XXI exige que jueces y abogados trasciendan la literalidad legal para defender la arquitectura del debido proceso. La novedad no es el principio de motivación, sino un poder estructuralmente incapaz de rendir cuentas. Frente a esta impunidad administrativa, la respuesta debe ser categórica: el poder estatal siempre está sujeto a control. Si el Estado no puede explicar por qué decide, no tiene derecho a decidir.