AVEDA

Las decisiones algorítmicas de la inteligencia artificial y el derecho administrativo

03 de mayo 2024

Maria Fernanda Valarino González

Profesora de la Escuela de Derecho de la Universidad Central de Venezuela

Especialista en Derecho Administrativo

Magister en Derecho Constitucional

En fecha 13 de marzo de 2024, el Instituto de Derecho Público de la Facultad de Ciencias Jurídicas y Políticas de la Universidad Central de Venezuela llevó a cabo la transmisión de otro capítulo de análisis jurídico en homenaje a la Cátedra del profesor Moles Caubet, como un importante proyecto conjunto con Universitas Fundación. 

En dicha ponencia he expuesto algunas reflexiones relativas al impacto transformador que la incorporación de la tecnología ha tenido en distintas esferas de nuestra existencia, enfatizando cómo los avances en torno a la productividad general son una constante en cada evento y circunstancia de la vida moderna, marcando un hito en el progreso hacia una sociedad global mejorada. Gracias al aporte que ha traído la llegada de la denominada “Cuarta Revolución Industrial”, se ha pronosticado que dada su naturaleza emergente aportará para el año 2030 unos 15 billones de dólares a la economía global y el mundo entero experimentará la duplicidad en las tasas de crecimiento económico para el año 2035, lo cual subraya la importancia del avance que la tecnología facilita, especialmente en los procesos de toma de decisiones automatizadas de trascendencia jurídica.

En el ámbito legal, la inteligencia artificial se ha convertido en una herramienta esencial, muestra de ello es la variedad de eficiencias que nos brinda el legal tech, no sólo para la gestión documental y la redacción de contratos sino también para prever los desenlaces judiciales, brindando a los abogados una ventaja predictiva para diferentes ramas del derecho, basada en datos.

No obstante, este progreso tecnológico ha llevado a la necesidad, desde hace ya algunos años, del establecimiento de marcos regulatorios en pro del ejercicio de los derechos subjetivos e intereses legítimos de los ciudadanos del mundo. Europa, ha logrado el primer gran marco legal integral a nivel mundial: La nueva Ley de Inteligencia Artificial europea, aprobada ese mismo día de mi exposición, en forma definitiva, pero que ya venía siendo trabajada meses antes, como un acuerdo tripartito entre la Comisión, el Parlamento y el Consejo de la Unión Europea, en la búsqueda por establecer un equilibrio entre promover la innovación y la competitividad del sector, manteniendo muy en alto la protección de derechos fundamentales.

En el ámbito del derecho administrativo y de la actividad de la Administración Pública, la inteligencia artificial viene regulada con la imposición de obligaciones para monitorear y registrar adecuadamente el funcionamiento de los sistemas computacionales, asegurando así que los derechos fundamentales estén protegidos frente a cualquier actividad que implique aplicación de la ley en la actividad administrativa del Estado, a fin de supervisar los despliegues de sistemas de inteligencia artificial de alto riesgo, los cuales deben cumplir con regulaciones específicas, incluyendo la realización de evaluaciones de impacto en los derechos fundamentales antes de su uso, garantizando una protección adecuada de datos personales y respetando las obligaciones de información y consulta de los particulares potencialmente afectados por procedimientos, que deberán ser absolutamente transparentes y verificables respecto al uso de datos personales y al procesamiento automatizado de decisiones. 

Conforme al análisis de dicha charla, señalo la importancia de que los ciudadanos comprendan cómo se fundamentan las decisiones algorítmicas que les afectan. Esto es crucial cuando dichas decisiones impactan actos administrativos, los cuales deben ser ejecutivos y motivados conforme a derecho. Surge el interrogante de quién asume la responsabilidad por las acciones de un algoritmo, especialmente cuando resultan en vulneraciones de derechos fundamentales basados en tipologías de cajas negras, cuyos resultados son sorpresivos hasta para los mismos programadores y diseñadores de los algoritmos que fundamentan tales las decisiones administrativas. En el contexto legal español, se ha debatido ampliamente sobre posibles soluciones, incluyendo auditorías obligatorias y un enfoque más humano en la verificación de los procesos algorítmicos.

Existe un consenso general en varios sistemas de derecho del mundo que señalan que es irremplazable la intervención humana en el proceso decisivo, dada la necesidad de empatía y contextualización en la interpretación de la ley a la hora de suministrar los datos requeridos para el diseño de los modelos algorítmicos. Los algoritmos, en particular aquellos utilizados en machine learning y deep learning, procesan y analizan grandes conjuntos de datos para generar decisiones, recomendaciones y predicciones, y a pesar de su eficacia, estos sistemas plantean desafíos interpretativos y de responsabilidad, especialmente cuando sus decisiones tienen consecuencias jurídicas. En tal sentido, señalo en mi exposición, que existe una preocupación creciente por los “black boxes” del deep learning, donde la lógica detrás de las decisiones del algoritmo es a menudo incomprensible.    

Nuestra misión como juristas debe ser de adaptación continua al cambio, pero de observación detallada y permanente análisis riguroso, de tal manera que la idea subyacente sea siempre que las herramientas tecnológicas deben servir como facilitadoras en nuestras vidas, pero sin menoscabar la relevancia de los fundamentos humanísticos y legales que rigen nuestra sociedad. 

Este panorama insta a la investigación jurídica en países como Venezuela y en toda América Latina, para abordar estos desafíos y aprovechar las oportunidades que las tecnologías emergentes presentan, frente a las restricciones de conectividad y recursos tecnológicos limitados en nuestra región. En suma, la integración de la tecnología en el derecho administrativo requiere de una sinergia entre la innovación tecnológica y el escrutinio jurídico, garantizando así que el avance tecnológico se alinee con los principios de justicia y equidad en beneficio de los administrados.

Déjanos tu comentario