I - INTRODUCCIÓN
La inteligencia artificial (IA) viene irrumpiendo abruptamente en nuestras vidas, a pasos agigantados y en un incesante devenir que parece marcar el puntapié de una era nueva, en un sinfín de aspectos aún desconocidos para el ser humano. Sin embargo, su uso todavía se encuentra transitando una etapa de pleno desarrollo, en la que los grandes avances realizados en el campo –combinados con su enorme capacidad disruptiva– han generado amplios debates y diálogos interdisciplinarios respecto a su impacto tanto efectivo como perjudicial.
El fenómeno jurídico que se nos interpone en el horizonte resulta amplio y variado, y se gesta en el marco de una vasta confluencia entre relaciones jurídicas que son impactadas por los cambios tecnológicos y las que no. El universo jurídico no escapa a las transformaciones tecnológicas, y se encuentra profundamente infundido por los cambios que se producen en las relaciones interpersonales, sus modalidades y formas de comunicación.
El indiscutido impacto de las nuevas tecnologías, y en particular de la IA, es un invaluable fenómeno que se posiciona para quedarse entre nosotros y que, en ese impetuoso devenir que va trazando, origina una inasequible cantidad de externalidades que, todas ellas, ponen en jaque viejas estructuras y demandan repensar las nuevas formas y modalidades en que se podrá compaginar un punto de encuentro respetuoso, serio, y razonado entre el acceso a la justicia y la protección de los derechos de los niños en el uso de la IA en el marco de los procesos judiciales.
El presente artículo propone abordar referencias sobre el marco normativo del derecho al acceso a la justicia de niñas, niños y adolescentes (NNA) y pensar en la incorporación de la IA en procesos judiciales en que se involucren derechos de NNA como un desafío en clave convencional; analizar el Art. 76 de la Constitución de la Provincia de Jujuy que incorporó expresamente la IA o no humana en la Reforma Constitucional del año 2023; hipotetizar cómo las herramientas de IA pueden facilitar el acceso a la justicia a los NNA y explorar –como una primera aproximación– las ventajas y desafíos de utilizar IA en el sistema judicial, particularmente en casos que involucran a NNA, así como las medidas necesarias para asegurar que estas tecnologías respeten y protejan los derechos de los mismos; y, por último, ensayar posibles enfoques sobre los que puede pensarse su implementación.
II - ACCESO A LA JUSTICIA DE NNA A 30 AÑOS DE LA REFORMA CONSTITUCIONAL
La incorporación de la IA en los procesos judiciales es un hecho que inevitablemente hemos comenzado a transitar. Cuando en esos procesos judiciales se involucran, discuten, debaten, y deciden cuestiones que directa o indirectamente afectan (de manera positiva o negativa) derechos de NNA, la cuestión toma un matiz diferente y particular. Es que, proteger los derechos de los NNA y concretar en el caso particular el respeto y la vigencia del interés superior del niño como principio o premisa conductora de toda decisión judicial, es una obligación en clave constitucional y convencional.
Decimos que es ésta la piedra angular desde la que debe pensarse la razonable incorporación a los procesos judiciales de este fenómeno que constituye la IA. Hoy, creemos que no es errado pensar en que esa paulatina incorporación nos posiciona como operadores jurídicos frente a un enorme desafío en clave convencional. La IA se nos aparece como una herramienta de adecuada respuesta al mandato constitucional que traduce la operatividad de normas relativas a derechos humanos, que han sido consagradas con jerarquía constitucional a partir de la reforma del año 1994.
Nuestro país asumió obligaciones en el plano internacional al suscribir tratados que consagran el derecho de NNA a participar y ser oídos en los procesos donde sus intereses se encuentran involucrados.
El artículo 12 de la Convención de los Derechos del Niño (CDN) establece que "los Estados Parte garantizarán al niño que esté en condiciones de formarse un juicio propio el derecho de expresar su opinión libremente en todos los asuntos que afectan al niño, teniéndose debidamente en cuenta las opiniones del niño, en función de la edad y madurez del niño".
La Observación General Nro. 12 del Comité de los Derechos del Niño (2009) puntualiza que los procesos de escucha de NNA deben ser transparentes, informativos, voluntarios, respetuosos, pertinentes, adaptados a los niños, incluyentes, apoyados en la formación, seguros y atentos al riesgo y responsables. El documento refiere a que el proceso de escucha, o –como lo llama Radcliffe (s.f.)– de participación, debe ser adaptado a los niños, y se concentra en que los ambientes y los métodos de trabajo deben ajustarse a la capacidad de los niños. Se debe prepararlos para dicha actividad, generar confianza con quienes participarán de este proceso y no olvidar el hecho de que los niños necesitarán diferentes niveles de apoyo y formas de participación, acordes con su edad y la evolución de sus facultades.
El Consejo de Derechos Humanos de las Naciones Unidas emitió los "Principios y Directrices de Acceso a la Justicia para las Personas en Situación de Vulnerabilidad" (2016), que proporcionan directrices específicas para asegurar que las personas en situación de vulnerabilidad, incluyendo a los menores, tengan un acceso efectivo a la justicia.
También es atinado remitir a otros instrumentos internacionales que son de aplicación en la materia: la "Recomendación sobre la Ética de la Inteligencia Artificial" (2021), emitida por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), que incluyen la equidad, la transparencia, la inclusividad y la protección de datos, y promueven la inclusión y participación de los niños y otras poblaciones vulnerables en el desarrollo y uso de la IA; las "Recomendaciones del Comité de los Derechos del Niño sobre la Era Digital" (2021), emitidas por el Comité de los Derechos del Niño de las Naciones Unidas, que aborda cómo los derechos de los niños se aplican en el contexto digital (esto incluye la protección contra la explotación y el abuso, el derecho a la privacidad y la participación en la toma de decisiones que los afectan); y las "Directrices sobre los Niños y la Inteligencia Artificial" (2020), emitidas por el Consejo de Europa, que proporcionan un marco para proteger a los niños en el uso de tecnologías de IA, destacando la necesidad de diseñar sistemas que respeten los derechos del niño y promuevan su bienestar.
Los diferentes Instrumentos Internacionales de Derechos Humanos que fueron incorporados al ordenamiento jurídico argentino con jerarquía constitucional como consecuencia del proceso de constitucionalización del derecho internacional, y los efectos que los procesos de internacionalización de los derechos humanos, constitucionalización y convencionalización tuvieron en la normativa privatista, generaron las bases para el dictado de la norma de fondo y de las de forma que –en esa construcción hermenéutica del juez para el caso particular– deben dar respuesta a una realidad empírica que requiere una adecuación al paradigma de Derechos Humanos.
La incorporación al Código Civil y Comercial del Título VIII "Procesos de Familia" plasmó nuevas directrices y reglas aplicables a los procesos de familia y principios que se direccionan a consagrar el real acceso a la justicia de los niños.
El artículo 706 contempla los principios que deben regir los procesos de familia: tutela judicial efectiva, inmediación, buena fe y lealtad procesal, oficiosidad, oralidad y acceso limitado al expediente. Además, incorpora las siguientes reglas: a) las normas que rigen el procedimiento deben ser aplicadas de modo de facilitar el acceso a la justicia, especialmente tratándose de personas vulnerables, y la resolución pacífica de los conflictos; b) los jueces ante los cuales tramitan estas causas deben ser especializados y contar con apoyo multidisciplinario; y c) la decisión que se dicte en un proceso en que están involucrados niñas, niños o adolescentes, debe tener en cuenta el interés superior de esas personas.
El art. 707, por su parte, consagra el reconocimiento de la facultad que le asiste a los niños como sujetos de derecho, y en su condición de tales, de participar en el proceso. Así, dispone: "Las personas mayores con capacidad restringida y los niños, niñas y adolescentes tienen derecho a ser oídos en todos los procesos que los afectan directamente. Su opinión debe ser tenida en cuenta y valorada según su grado de discernimiento y la cuestión debatida en el proceso".
Las premisas de las que parten los diferentes Instrumentos Internacionales con jerarquía constitucional, y la idea que se abre de un ordenamiento jurídico constitucional convencional, permiten dirigir la mirada y la perspectiva desde la cual deben pensarse, regularse e interpretarse las normas, sin soslayar la realidad social que pretenden abordar, y la consideración de las particularidades de cada caso. Esa visión, que importa un diálogo constante y en retroalimentación entre derecho, ciencia, y cultura, demanda inexcusablemente considerar los cambios y adelantos que nos acercan la IA y las Tecnologías de la Información y la Comunicación (TIC).
Como bien lo retrata Medina (2021): "Es imprescindible pensar al niño, al adolescente y a cada integrante de su familia, como sujeto de derecho y como objeto de intervención. Sólo así se podrá escuchar algo de su experiencia, al brindarles el lugar para ser protagonistas de su propia historia y ofrecerles un sostén para acompañar su deber. Ello tendrá que ver también con correrse de un lugar de omnisapientes donde se detentaría algún saber acerca de lo que cada uno de esos sujetos necesitan. Así que quienes también trabajan en esta problemática necesitan del trabajo con otros, del aporte de otros, para posibilitar la formación de un dispositivo de atención flexible y articulado que posibilite la producción de los recursos adecuados para dar alguna respuesta eficaz".
III - LA CONSAGRACIÓN CONSTITUCIONAL DE LA IA EN JUJUY
El Art. 76 de la Constitución de la Provincia de Jujuy incorporó expresamente la inteligencia artificial o no humana en la Reforma Constitucional del año 2023:
"ARTÍCULO 76.- INTELIGENCIA ARTIFICIAL O NO HUMANA
1. Esta Constitución reconoce el derecho de toda persona a utilizar sistemas de inteligencia artificial o no humana, basados en métodos computarizados de algoritmos, datos y modelos que imitan el comportamiento humano y automatizan procesos complejos, así como otros futuros desarrollos que surjan en este campo.
2. La ley sujetará estos sistemas a los principios de legalidad, transparencia, responsabilidad, privacidad y protección de datos, seguridad, no discriminación y rendición de cuentas, garantizando el acceso a la justicia en caso de vulneración de derechos y consagrando la acción de solicitud de revisión humana cuando sea necesario.
3. El Estado fomentará la investigación y el desarrollo de estos sistemas para fines que modernicen, agilicen y mejoren la prestación de servicios públicos en beneficio de la población, promoviendo la colaboración a estos efectos entre los sectores público y privado.
4. El Estado fomentará la educación y el debate público sobre los desafíos éticos y jurídicos que plantean estos sistemas, incluyendo sus efectos sobre la transformación del mundo laboral.
5. En caso de conflicto de derechos a partir del uso de estos sistemas, se aplicará el principio de primacía de los derechos humanos y de las libertades y garantías constitucionales a favor de las personas".
La incorporación al texto constitucional de la IA no es una cuestión menor y constituye una novedad su inclusión. Celebramos por nuestra parte la consagración legislativa que necesariamente debe traducirse en un serio compromiso del Estado provincial para concretar los mandatos constitucionales que los convencionales constituyentes han querido consagrar.
No es caprichoso señalar que el reconocimiento del uso de la IA no se agota con esa declaración stricto sensu. Demanda más que el reconocimiento de las tecnologías y sistemas de IA que ya conviven entre nosotros, que el Estado asuma la garantía, frente a su uso, de que todo otro derecho no sea vulnerado. Este es el sentido, teleológicamente hablando, en el que, en el marco de una interpretación consecuencialista1, entendemos debe interpretarse la norma constitucional.
Jorge Llambías (1973, p. 98) enseña que "...el resultado de la interpretación es un elemento de la hermenéutica de enorme valor...cuando legítimamente sea dable extraer dos o más significaciones, entonces sí será ineludible optar por interpretación que reporte el mejor resultado, o sea, el más justo y conforme a las exigencias de la materia social sometida al imperio de la norma en discusión...".
Ya lo hemos señalado antes (Carril, 2019, pp. 113-121), y cabe traer a colación de nuevo esa opinión respecto a que toda interpretación es una tarea que debe efectuarse bajo el prisma que impone el principio de razonabilidad, que –como dice Linares (1970, p. 107)– se traduce en la elección de la alternativa más racional, justa y equitativa de todas las posibles para obtener el fin deseado; y que debe, necesariamente, juzgarse no en abstracto sino en el caso concreto, teniendo presente a su vez el contexto histórico, ideológico, sociológico y fáctico.
El texto establece que la ley sujetará los sistemas de IA a los principios que señala en el apartado 2. Y en los siguientes apartados marca directrices de fomento para futuras políticas legislativas. En el apartado 5 refiere al principio de primacía de los derechos humanos y de las libertades y garantías constitucionales a favor de las personas, en caso de conflicto de derechos. Si bien, esa conclusión resulta una derivación lógica del sistema constitucional convencional, esencial y particularmente aplicable en materia de derechos humanos2, no es errada –pero sí quizás innecesaria– su expresa mención.
Tenemos entonces para nosotros que el texto constitucional reconoce expresamente el uso de sistemas de inteligencia artificial o no humana, basados en métodos computarizados de algoritmos, datos y modelos que imitan el comportamiento humano y automatizan procesos complejos, así como otros futuros desarrollos que surjan en este campo. La previsión constitucional no sólo focaliza la utilización de los actuales y ya conocidos sistemas de IA, sino que deja en una suerte de cláusula abierta ya sentado el reconocimiento de futuros desarrollos en ese campo. En ese aspecto, resulta impensado, o al menos difícil, aunar consensos frente a eventos cuyas fronteras aún no se avizoran.
No obstante, y siendo que la IA ha tocado la puerta en nuestras vidas, de manera transversal en casi todos los escenarios posibles e imaginables, el proceso judicial no se encuentra exento de los cambios cuyo camino ya ha comenzado a transitarse, y en lo que nos atañe, aún importa un campo desconocido la confluencia entre el acceso a la justicia y la protección de los derechos de los niños en el uso de la IA en el marco de los procesos judiciales.
IV - ACCESO A LA JUSTICIA Y PROTECCIÓN DE DERECHOS DEL NIÑO
En palabras de Casiano Highton (2020), vivimos en un devenir constante y ese fenómeno va reuniendo todo un conjunto de hechos aparentemente simples pero que todos juntos producen un cambio que trasciende lo ordinario y termina generando un cambio de época y un cambio de paradigma.
Un amplio campo de investigación se despliega a medida que nos permitimos hipotetizar cómo las herramientas de IA pueden facilitar el acceso a la justicia a los NNA en Argentina, y en particular en la provincia de Jujuy. Una primera aproximación nos invita a explorar las ventajas y desafíos de utilizar IA en el sistema judicial, particularmente en casos que involucran a NNA, así como las medidas necesarias para asegurar que estas tecnologías respeten y protejan los derechos de los mismos, evitando sesgos y asegurando la transparencia y equidad en las decisiones judiciales.
Como dice Schwab: "la nueva revolución digital está evolucionando a un ritmo exponencial, más que lineal. Este es el resultado del mundo polifacético y profundamente interconectado en que vivimos, y del hecho de que la nueva tecnología engendra, a su vez, tecnología más nueva y más poderosa se basa en la revolución digital y combina múltiples tecnologías que están llevando a cambios de paradigma sin precedentes en la economía, los negocios, la sociedad y las personas. No solo está cambiando el 'qué' y el 'cómo' hacer las cosas, sino el 'quiénes somos'" (Schwab, 2016).
La implementación del uso de técnicas y sistemas de IA en procesos en que los intereses de NNA se vean involucrados, necesariamente deberá transitar una gradual, paulatina, sistematizada e integral evaluación de las políticas y regulaciones necesarias para propender a la utilización segura y efectiva de IA en nuestro sistema judicial, con un particular enfoque en la protección de los derechos que asisten a los NNA.
El universo que estos temas ofrecen, sintetiza una amplia gama de aspectos legales, éticos y prácticos para explorar, y pueden contribuir significativamente a la comprensión y mejora de la intersección entre la IA y los derechos de los menores en el proceso judicial.
La protección de los derechos de los NNA en el uso de IA en el sistema judicial es crucial para asegurar que las decisiones automatizadas no perjudiquen a los niños y adolescentes. Es importante garantizar que las herramientas de IA sean justas, transparentes, seguras y libres de sesgos, y que respeten los derechos humanos fundamentales de los niños.
Condensar los diferentes aspectos que deberán tenerse en cuenta en relación a los posibles enfoques que la tarea demandará, resulta un enorme y comprometido desafío al que habrá que dar respuesta, y que despertará debates éticos y morales que confluirán en una indudable y necesaria discusión abierta y plural, que requerirá de inusitada prudencia para construir un orden normativo adecuado, que recepte la cuestión fáctica insoslayable pero en un marco de respeto y garantía de los derechos de los NNA en la utilización de sistemas de IA en el marco de los procesos judiciales.
V - POSIBLES ENFOQUES PARA EL USO DE IA EN EL ACCESO A LA JUSTICIA Y LA PROTECCIÓN DE LOS DERECHOS DE NNA EN EL PROCESO JUDICIAL
Las aproximaciones son aún (como casi todo en este campo en particular) primeras afirmaciones que no buscan agotarse en sí mismas, y que pretenden ser un punto basal pero abierto al diálogo, y un manto permeable de nuevas ideas que seguramente irán surgiendo y a las que habrá que adecuar incluso con los futuros desarrollos que surjan en materia de IA, que busque satisfacer mecanismos de respuesta en la adecuación a las particulares circunstancias de cada caso en la tarea exegética del juez, sopese los intereses en juego, y evite vacíos normativos que afecten la resolución de casos en los que se encuentren involucrados intereses de NNA.
Nos permitimos apuntar algunas ideas sobre el contenido en el que pensamos se puede comenzar a idear la implementación del uso de IA en el acceso a la justicia y la protección de los derechos de NNA en el proceso judicial:
- Evaluación de sesgos algorítmicos:
- Marco regulatorio para auditorías de equidad: Proponer la sanción de una ley que exija auditorías regulares de los algoritmos utilizados en el sistema judicial, específicamente para detectar y corregir sesgos que puedan afectar a los menores. Esta normativa debería establecer estándares claros para la evaluación de la equidad.
- Obligación de transparencia algorítmica: Incorporar en la legislación la obligación de los desarrolladores de IA de publicar las metodologías y datos utilizados para entrenar sus algoritmos. Esto permitiría una evaluación independiente y pública de posibles sesgos.
- Garantía de derechos procesales:
- Derecho a la información: Incluir en las leyes procesales locales el derecho de los NNA y sus representantes legales a tener acceso completo a la información sobre la modalidad y forma en que se toman las decisiones algorítmicas en sus casos, asegurando así la transparencia y el debido proceso.
- Mecanismos de impugnación: Establecer en el marco legal procedimientos claros y accesibles para que los NNA y sus representantes puedan recurrir e impugnar decisiones basadas en el uso de técnicas y sistemas de IA. Esto incluiría la obligación de una revisión humana de todas las decisiones algorítmicas impugnadas o recurridas. De esa manera, creemos que se concreta el mandato constitucional del apartado 2. del Art. 76 de la Constitución de la Provincia.
- Abordaje interdisciplinario: Como dice Radcliffe (s.f.), recurrir al auxilio de la interdisciplina, pero no solo pensada desde el aporte de instrumentos y/o soluciones tecnológicas, sino como aquella herramienta que permitirá abordar el sujeto desde diversas perspectivas. Una base que encontrará la forma de participación que mejor resguarde su interés superior y garantice el ejercicio de su capacidad jurídica.
- Protección de la privacidad y seguridad de los datos:
- Regulación de la privacidad de datos: Fortalecer las leyes de protección de datos, para asegurar que los datos personales de los NNA sean tratados, procesados, almacenados y utilizados con el más alto nivel de protección. Esto deberá incluir requisitos estrictos para el cifrado en extremo y la anonimización de datos.
- Consentimiento informado: Establecer requisitos legales claros para el consentimiento informado de los NNA y sus tutores antes de la recopilación y uso de sus datos en sistemas de IA.
- Desarrollo de IA ética:
- Normas éticas obligatorias: Incorporar en la legislación principios éticos obligatorios para el desarrollo de IA y su utilización en el marco de los procesos judiciales, tales como la equidad, la no discriminación y la promoción del bienestar de los NNA en orden a la protección de su interés superior. Las leyes deberán exigir la inclusión de estos principios desde el diseño inicial de las herramientas de IA.
- Participación de expertos en derechos del niño: Crear una comisión asesora permanente integrada por expertos en derechos del niño para supervisar el desarrollo y la implementación de IA en el sistema judicial.
- Capacitación y sensibilización:
- Formación jurídica continua: Establecer programas de capacitación y formación continua, regular y obligatoria para jueces, abogados, defensores de NNA, funcionarios, agentes del Poder Judicial de la Provincia y auxiliares de la justicia, sobre el uso de IA en el sistema judicial enfocado en la protección de los derechos de NNA.
- Sensibilización en derechos del niño: Promover campañas de sensibilización dirigidas a NNA, familias, profesionales del derecho y operadores jurídicos sobre los derechos de los niños en el contexto del uso de IA en el sistema judicial.
- Monitoreo y evaluación continua:
- Comisión de supervisión independiente: Crear una comisión independiente, con mandato legal, para monitorear y evaluar continuamente el uso de IA en el sistema judicial, que estará facultada para formular recomendaciones, cambios y mejoras en las políticas y prácticas judiciales para su implementación, y que deberá publicar informes periódicos sobre el impacto de la IA en los derechos de NNA para asegurar la protección continua y mejorada de estos derechos.
Implementar estos enfoques permitirá garantizar que la integración de la IA al proceso judicial en el que se encuentren involucrados derechos e intereses de NNA no solo mejore la eficiencia y el acceso a la justicia, sino que también respete y proteja los derechos de los niños en su uso e implementación.
VI - CONCLUSIONES
Es necesario y primordial asumir que los tiempos actuales demandan garantizar un tratamiento especial al desarrollo tecnológico, su uso y su vinculación con el acceso a la justicia y la protección de los derechos de NNA en el proceso judicial. De tal manera, es imperioso comenzar a delinear los enfoques sobre los que puede pensarse su implementación, como un punto de partida que busque satisfacer mecanismos de respuesta en la adecuación de las particulares circunstancias de cada caso en la tarea exegética del juez, sopese los intereses en juego, y evite vacíos normativos que afecten la resolución de casos en los que se encuentren involucrados intereses de NNA.
A treinta años de la Reforma Constitucional de 1994, los derechos humanos han conquistado terrenos antes impensados por el constituyente. La clave de esa conquista decididamente la han constituido los cambios de paradigmas, la irrupción en el derecho interno del derecho internacional de los derechos humanos y la constitucionalización del derecho internacional.
La inevitable incorporación de la IA en los procesos en que se decidan derechos que involucren a NNA es un desafío en clave convencional, que sintetiza un compromiso asumido por el Estado Argentino en materia de obligaciones contraídas en el ámbito internacional en el marco de tratados de derechos humanos que, con la reforma del año 1994, el constituyente ha equiparado con la misma jerarquía normativa a nuestra Carta Magna.
De la mano de la Convención de los Derechos del Niño, el respeto por el interés superior del niño se forjó como una obligación constitucional que, necesariamente requiere consagrarse como un eje transversal en la hermenéutica de cada caso particular, en la interpretación de la norma y en el juego de principios y demás fuentes del derecho, como un estándar obligado e infranqueable. De allí que, la incorporación de la IA a los procesos en que se decidan y discutan derechos de NNA debe, necesariamente, pensarse en clave convencional.
La importancia de la tarea radica en que la injerencia, incorporación y uso de los sistemas de IA no solo constituye una innegable realidad, sino un mandato constitucional consagrado expresamente en Jujuy. El uso de la IA irá aumentando de cara al futuro porque los avances en el campo se presentan a pasos agigantados y la utilización de las tecnologías en los procesos en los que se involucren intereses de NNA estará cada vez más asociada al uso de sistemas y tecnologías intrincadas que incluso aún no conocemos.
Resulta difícil aunar consensos frente a un evento cuyas fronteras aún no se avizoran. Sin embargo, es posible ensayar primigeniamente líneas generales sobre la implementación de la IA en los procesos judiciales y su necesaria vinculación con la protección de los derechos de los NNA.
El desafío que hoy afronta el Derecho es pensar en formas diversas de regular una realidad esencialmente mutable sobre bases suficientemente dinámicas, que puedan servirse también de la propia tecnología, para ir adecuándose y acompañando esa evolución. Es que, si las normas procesales no se actualizan y se adaptan a las situaciones actuales, terminan regulando supuestos de hecho obsoletos y dejan de cumplir justamente su función normativa.
Es justo que los NNA, como personas humanas esencialmente vulnerables que son, sean el epicentro de la regulación y que sus derechos –en ese irrefrenable camino de uso e implementación de las nuevas tecnologías–, no sean mera utopía, sino una verdadera realidad asequible.