Sumario: I. Introducción. Planteo del tema. La importancia de la motivación. II. ¿Un problema naciente? ¿Cómo conviven la suficiente motivación con sistemas automatizados de inteligencia artificial? III. Conclusiones.

Palabras clave: acto administrativo, motivación, inteligencia artificial, automatización.



I. Introducción. Planteo del tema. La importancia de la motivación

Uno de los elementos trascendentales del acto administrativo, es la motivación. Es decir, ¿por qué se decide lo que se decide? ¿Cuál ha sido el razonamiento lógico, concordante y sistematizado que ha llevado a cabo la Administración para optar por tal o cual decisión?

Este elemento, en un Estado democrático y constitucional de Derecho nos parece trascendental. Y es que no puede concebirse que la Administración -por intermedio del órgano que sea-, no tenga que dar explicaciones suficientes, claras, precisas y acabadas de sus cursos de acción y, en definitiva, de su toma de decisiones.

La motivación entonces, al decir de Igartúa Salavarría “en cuanto justificatoria de una decisión- es el santo y seña de cualquier proceder razonable, o sea la única garantía para proscribir la arbitrariedad. Nada menos”.  

Una suficiente motivación aparece así como un componente sin duda esencial.

Ahora bien, ¿Por qué es necesario motivar los actos administrativos? La respuesta según enseña Coviello es sencilla: “la forma republicana de gobierno, que consagra nuestra Constitución Nacional en su artículo 13, implica la publicidad de los actos de gobierno, que permite que los habitantes del país conozcan no solo la acción que lleva a cabo el Estado, sino también porque así actúa…”  

Para nosotros además de lo indicado por Coviello, se fundamenta en la necesidad de dotar de plena vigencia al principio fundamental de tutela judicial efectiva y también con la garantía de defensa en juicio. Pues, si el acto no se encuentra motivado, el particular se halla impedido de ejercer las facultades que integran el llamado debido proceso adjetivo (derecho a ser oído, a ofrecer y producir pruebas y a una decisión fundada).

Por su parte, Cassagne firme en su postura de la necesidad de motivar todos los actos, salvo excepciones, lo sustentaba en la observancia del principio de legalidad en la actuación de los órganos estatales , pensamiento que coincide Hutchinson ; mientras que Comadira  lo sustentó en los principios republicanos que imponen a la Administración a dar cuenta de sus actos.

Se trata, en definitiva, de un requisito de fondo. Capital. Un elemento estrechamente relacionado con la razonabilidad de la decisión, como así también con sustento constitucional y en los principios generales del Derecho, que no son otra cosa que derivaciones de la dignidad de la persona y el Estado Constitucional de Derecho.

Ahora bien, y en otro orden de ideas la Administración de ninguna manera puede estar ajena a los avances -cada vez más rápidos y vertiginosos de la tecnología- y por extensión, de los requerimientos cada vez más rápidos, urgentes y complejos de la sociedad.

En esta línea de pensamiento, la incorporación de herramientas y recursos tecnológicos -verbigracia, de sistemas automatizados -algorítmicos- con mayor o menor grado de autonomía-, se impone como una realidad a la cual la Administración no puede escapar.

Es decir, a efectos de dar respuestas masivas y rápidas a una batería de requerimientos y necesidades sociales, la Administración necesariamente debe hacerse eco de los avances tecnológicos y generar así nuevos mecanismos de respuesta.

De lo contrario, no cumplirá con su finalidad esencial, y es -a nuestro entender-, la de satisfacer aquellas funciones fundamentales encomendadas por la sociedad en un determinado momento histórico (Seguridad, Justicia, Defensa, Salud, Educación).

En este escenario, entiendo que el derecho administrativo debe pronunciarse acerca del tratamiento que se le puede, o mejor dicho debe, otorgar a la decisión tomada por la Administración Pública y que se ha basado precisamente en un algoritmo.

Y aquí es donde comienza a espinarse la cuestión. ¿Cómo puede motivarse una decisión por ejemplo, si desconocemos por completo qué tipo de proceso de razonamiento se ha seguido? ¿Cómo podemos fundar algo que se ha hecho con prácticamente nula intervención humana con excepción de un programador?

¿Debemos acaso comenzar a repensar todo el sistema o basta con ir adaptando algunas estructuras quizás algo anquilosadas?

El debate, a nuestro juicio, debe necesariamente plantearse.



II. ¿Un problema naciente? ¿Cómo conviven la suficiente motivación con sistemas automatizados de inteligencia artificial?

Conforme es de público y notorio conocimiento, el desarrollo de la inteligencia artificial -IA- es muy prometedor y cada vez son más las aplicaciones y programas que, basándose en ella, ofrecen soluciones eficientes para llevar a cabo todo tipo de tareas. La Administración pública, con el objetivo último de contribuir a la adecuada consolidación de una administración inteligente, eficiente, personalizada, electrónica y garante de los derechos de la ciudadanía, está incorporando, progresivamente esta tecnología.

Ahora bien, entendemos que el necesario avance tecnológico para la mejora de la Administración -y, del servicio público- entrará necesariamente en tensión con la seguridad jurídica, derechos fundamentales de los ciudadanos tales como la igualdad, la intimidad o la protección de datos personales; o bien con principios u obligaciones de actuación administrativa como la suficiente motivación, la transparencia o el aseguramiento del derecho de defensa, pues no siempre será posible conocer el porqué de los resultados proporcionados por algunas inteligencias artificiales.

Así, según Villagrasa se habla del momento actual como la fase inicial de la cuarta revolución industrial provocada por la analítica de datos, el internet de las cosas, la robótica y los programas basados en inteligencia artificial.

Incluso hay autores que hablan de Gobierno electrónico (E-Government) para referirse a todos aquellos procesos de reorganización de la Administración Pública y de sus actividades que “apuntan a desarrollar servicios administrativos utilizando una variedad de herramientas electrónicas destinadas a aumentar la eficiencia del sector público”.  

Estas herramientas inteligentes cuentan con gran capacidad para mejorar la prestación de los servicios públicos, en la medida en que pueden procesar el lenguaje natural (por ejemplo, para detectar irregularidades en las licitaciones públicas) o analizar grandes cantidades de datos para ayudar a la toma de decisiones públicas (por ejemplo priorizando, en base a las variables analizadas, por qué zonas deben patrullar los agentes de fuerzas de seguridad en cada momento).

Ahora bien, debemos analizar estos beneficios en clave crítica. Es decir, sin obviar los eventuales efectos negativos que la adopción de estas tecnologías puede traer aparejado.

En este sentido, Corvalán trae a colación el ejemplo de la App Cuidar. Así, tras el procesamiento por parte del software de todos los datos que realiza la persona en su autodiagnóstico, y cruzándolo con diversas bases de datos, y a partir de un sistema de caja negra de inteligencia artificial, resuelve sin intervención humana previa respecto del rechazo o bien la emisión del certificado de circulación.  

El rechazo del certificado no se encontraba justificado (o al menos el ciudadano no podía saber con certeza cuáles fueron las razones del rechazo). No existía una clara y precisa exposición de motivos en virtud de los cuales se emitiera o se rechazara el certificado de circulación. Ni siquiera quedaba del todo clara cuál era la vía recursiva de ese acto administrativo emitido prácticamente sin ningún tipo de intervención humana (con excepción de los programadores y/o ingenieros informáticos que configuraron el sistema).

Por su parte, es conocido también el caso español de “Elisa”, una herramienta de vigilancia cibernética o de VeriPol en materia de detección de denuncias falsas en el seno de la Policía Nacional.  

En suma, resulta muy complejo el caso del algoritmo lógico cuya finalidad es, en última instancia, operar de forma predictiva frente a la resolución final que podría ser totalmente automatizada. Es decir, se trataría de replicar la cognición humana mediante un algoritmo cuyos datos han sido programados por humanos y que finalmente podrían producir una resolución administrativa. En estos términos parece realizarse un verdadero despojo de la función humana.

En este razonamiento, cabe coincidir con Vestri quien explica que “nos asomamos a un replanteamiento de la actividad de la Administración pública que podría dotarse de algoritmos lógicos cuyo fundamento jurídico debería tomar forma a partir de una visión moderna del derecho administrativo aunado a los criterios introducidos en este ámbito por las tecnologías de la información y de la comunicación”.



III. Conclusiones

La realidad, más tarde o más temprano, terminará imponiéndose. La incorporación de herramientas y recursos tecnológicos para la toma de decisiones por parte de la Administración no puede estar en tela de juicio. La pregunta entonces, no debe ser ¿tecnología sí o tecnología no? Sino que entendemos que la cuestión debe pasar por cómo adoptar la mejor y mayor cantidad posible de herramientas tecnológicas en aras de lograr mayor transparencia y eficientizar la toma de decisiones sin que ello implique un avasallamiento del Estado democrático y constitucional de Derecho.

Las garantías de los ciudadanos no pueden ser de ninguna manera obviadas por los supuestos beneficios de una gobernanza más eficiente e inteligente.

Respecto a esta situación, entiendo que -prima facie- se podría aceptar la idea de automatizar la actividad administrativa en todas las actividades internas de las Administraciones Públicas -el llamado back-office-; y que, por lo tanto, no consisten en la emisión de actos administrativos de relevancia externa.

Al menos hasta tanto no pueda garantizarse una debida y suficiente motivación del acto que afecta derechos y garantías del ciudadano.

Y es que el problema crucial es que la Inteligencia Artificial no puede, al menos por ahora, ofrecer una explicación detallada acerca de cómo se llega a un determinado resultado, o de cuáles son los factores que pondera para llegar a un cierto resultado. Sucede que, en principio, no puede establecerse cómo el algoritmo evalúa los datos y la información que procesa, lo que genera el fenómeno llamado “caja negra”.

En este sentido, el ejemplo del Derecho francés es muy interesante. Para ser legítima, la decisión administrativa automatizada debe cumplir con tres condiciones: “debe mencionarse su adopción sobre la base de un algoritmo, cuyas características principales deben comunicarse al interesado. Como consecuencia, si el algoritmo utilizado se encuentra entre las hipótesis previstas por la ley que no permiten revelar sus características, la decisión no puede basarse únicamente sobre el algoritmo para ser legítima. En segundo lugar, la decisión debe poder ser impugnada, y la administración debe ser capaz de dar una razón que no se base solo en el algoritmo mismo y de informar a la jurisdicción sobre las características del algoritmo. Por último, la decisión no puede basarse solo en un algoritmo si los datos que procesa se encuentran dentro del tipo de datos sensibles a que se refiere el art. 8 (ahora modificado) de la Ley n.° 78-17.”  

En este estado de cosas entonces, para las administraciones públicas -y para todos los operadores jurídicos del derecho administrativo que analizan y repiensan los conceptos fundamentales que conforman el derecho administrativo- se imponen los desafíos que provienen de la era digital y del desarrollo de la Inteligencia Artificial.

De manera que, al decir de Corvalán, “la evolución de las TIC supone una doble transición de la Administración Pública: de una “burocracia imprenta”, a una “burocracia digital” y, de ahí, a una “burocracia inteligente” en donde los sistemas de Inteligencia Artificial, facilitan, simplifican y aceleran exponencialmente interacciones y tareas”.

Sin embargo, estamos obligados a pensar y fundamentalmente, repensar los conceptos clásicos que hacen al derecho administrativo de manera tal de poder realmente comprender qué es lo que está sucediendo y qué es lo que sucederá, y así poder estar preparados para que la tecnología -con todos sus beneficios innegables-, no termine echando por tierra toda una batería de derechos y garantías fundamentales que no ha sido fácil de construir.



Bibliografía

Auby, J. B. “Le droit administratif face aux défis du numérique”. L'Actualité Juridique Droit Administratif, n.° 15, (2018).

Barrat, James. Our Final Invention: Artificial Intelligence and the End of the Human Era. New York: Thomas Dunne Books, 2013.

Capdeferro Villagrasa, Oscar. “La inteligencia artificial del sector público: desarrollo y regulación de la actuación administrativa inteligente en la cuarta revolución industrial”. IDP, revista de Internet, Derecho y Política, n.° 30 (2020). https://doi.org/10.7238/idp.v0i30.3219.

Cassagne, Juan C. El acto administrativo. Buenos Aires: Abeledo-Perrot, 1974.

Comadira, Julio R. Procedimientos administrativos. Ley Nacional de Procedimientos Administrativos, anotada y comentada. Tomo I. Buenos Aires: La Ley, 2002.

Corvalán, Juán G. “Hacia una administración pública digital”. Temas de derecho administrativo, n.° 8, (2017).

Corvalán, Juán G. “Administración Pública digital e inteligente: transformaciones en la era de la inteligencia artificial”. Revista de Direito Econômico e Socioambiental, n.° 2, vol. 8, (2017).

Corvalán, Juán G. Prometea. Inteligencia Artificial para transformar organizaciones públicas. Buenos Aires: Astrea, 2019. https://dpicuantico.com/libros/prometea_oea.pdf

Corvalán, Juan G.; Gustavo Sá Zeichen y Lihué M. Albertsen. “Actividad administrativa automatizada. Inteligencia artificial, potestad reglamentaria algorítmica, delegación algorítmica, acto administrativo automatizado y reserva de humanidad”. En Tratado de inteligencia artificial y derecho, dirigido por J. G. Corvalán. Tomo II. Buenos Aires: Thomson Reuters - La Ley, 2021.

Coviello, Pedro J. J. “La motivación del acto administrativo como medio de control judicial del ejercicio de la potestades discrecionales”. http://www.derecho.uba.ar/docentes/pdf/el-control-de-la-actividadestatal/cae-coviello-motivacion.pdf.

Decaux, M.; L. Duval, A. Labbay & M. Penitot. “Cronique de jurisprudence des droits numeriques”. Cahier de la Recherche sur les Droits Fondamentaux, n.° 17 (2019).

Galetta, Diana U. “Open-Government, open-data e Azione Amministrativa”. Istituzioni del Federalismo, n.° 3 (2019). https://air.unimi.it/handle/2434/690922

Hutchinson, Tomás. Ley Nacional de Procedimientos Administrativos. Ley 19.549. Comentada, anotada y concordada con las normas provinciales. Tomo I. Buenos Aires: Astrea, 1985.

Vestri, Gabrielle. “La inteligencia artificial ante el desafío de la transparencia algorítmica. Una aproximación desde la perspectiva jurídico-administrativa”. Revista Aragonesa de Administración Pública, n.º 56 (2021): 368-398.





Notas

1  Salaverría, cit. por Pedro José Jorge Coviello, “La motivación del acto administrativo como medio de control judicial del ejercicio de la potestades discrecionales”, http://www.derecho.uba.ar/docentes/pdf/el-control-de-la-actividad estatal/cae-coviello-motivacion.pdf.

2  Coviello, “La motivación…”.

3  Juan Carlos Cassagne, El acto administrativo, (Buenos Aires: Abeledo-Perrot, 1974), 212.

4  Tomás Hutchinson, Ley Nacional de Procedimientos Administrativos. Ley 19.549. Comentada, anotada y  concordada con las normas provinciales, Tomo I, (Buenos Aires: Astrea, 1985), 159.

5  Julio Rodolfo Comadira, Procedimientos administrativos. Ley Nacional de Procedimientos Administrativos,  anotada y comentada, Tomo I, (Buenos Aires: La Ley, 2002), 202.

6  Oscar Capdeferro Villagrasa, “La inteligencia artificial del sector público: desarrollo y regulación de la actuación  administrativa inteligente en la cuarta revolución industrial”, IDP - revista de Internet, Derecho y Política, n.° 30 (2020). https://doi.org/10.7238/idp.v0i30.3219.

7  Diana U. Galetta, “Open-Government, open-data e Azione Amministrativa”, Istituzioni del Federalismo,  n.° 3 (2019): 663 y ss., https://air.unimi.it/handle/2434/690922

8  Juan G. Corvalán, Gustavo Sá Zeichen y Lihué M. Albertsen, “Actividad administrativa automatizada. Inteligencia  artificial, potestad reglamentaria algorítmica, delegación algorítmica, acto administrativo automatizado y reserva de  humanidad”, en Tratado de inteligencia artificial y derecho, dirigido por J. G. Corvalán, Tomo II, (Buenos Aires: Thomson Reuters - La Ley, 2021), 200.

9  Gabrielle Vestri, “La inteligencia artificial ante el desafío de la transparencia algorítmica. Una aproximación desde la perspectiva  jurídico-administrativa”, Revista Aragonesa de Administración Pública, n.º 56 (2021): 368-398.

10  James Barrat, Our Final Invention: Artificial Intelligence and the End of the Human Era, (New York: Thomas Dunne Books, 2013), 92.

11  Decisión del Consejo Constitucional francés no. 2018-765 DC de 12 de junio de 2018, párr.. 70. Ver  M. Decaux, L. Duval, A. Labbay & M. Penitot, “Cronique de jurisprudence des droits numeriques”, Cahier de la Recherche sur les Droits Fondamentaux, n.° 17 (2019): 230 y ss. Ver también J. B. Auby, “Le droit administratif  face aux défis du numérique”, L'Actualité Juridique Droit Administratif, n.° 15, (2018): 835 y ss.

12  Juán G. Corvalán, “Hacia una administración pública digital”, Temas de derecho administrativo, n.° 8, (2017): 621 y  ss.; Juán G. Corvalán, “Administración Pública digital e inteligente: transformaciones en la era de la inteligencia  artificial”, Revista de Direito Econômico e Socioambiental, n.° 2, vol. 8, (2017): 26 y ss.; también Juán G. Corvalán, Prometea. Inteligencia Artificial para transformar organizaciones públicas, (Buenos Aires: Astrea, 2019), 18 y ss, https://dpicuantico.com/libros/prometea_oea.pdf