La Justicia de Santa Cruz aprobó el uso de IA a los jueces y fiscales pero puso límites

El Tribunal Superior de Justicia de Santa Cruz aprobó el Protocolo de Directrices para el Uso Responsable de Inteligencia Artificial, una normativa destinada a regular la incorporación de estas tecnologías en el ámbito judicial.

La aprobación fue realizada por la presidenta del Tribunal Superior de Justicia, la Dra. Reneé Fernández, en carácter “Ad-Referendúm”, y tiene alcance para toda la magistratura, el funcionariado y el personal que integra el Poder Judicial de la provincia.

El objetivo principal de esta iniciativa es establecer un marco institucional que permita incorporar herramientas tecnológicas basadas en Inteligencia Artificial, garantizando al mismo tiempo criterios de seguridad, ética y responsabilidad en su utilización.

Optimización

El ingeniero Fernando Igoillo, responsable de la Dirección de Informática del Poder Judicial, explicó que el protocolo busca aprovechar el potencial de estas tecnologías sin perder de vista los riesgos que pueden implicar.

“El objetivo de este Protocolo es aprovechar el potencial de las nuevas tecnologías para optimizar la eficiencia y eficacia de los procesos judiciales, pero fijando límites claros para mitigar riesgos asociados, como la vulneración de la protección de datos, los sesgos algorítmicos y asegurando que siempre exista una supervisión humana sobre los resultados”, indicó.

En este sentido, el documento establece que la Inteligencia Artificial debe funcionar como una herramienta de asistencia para el trabajo cotidiano, pero sin reemplazar el criterio y la responsabilidad de las personas que intervienen en el sistema judicial.

“El personal podrá apoyarse en la IA para optimizar sus tareas diarias sabiendo que la herramienta actúa como un asistente, y que la decisión final y el control siempre seguirán siendo de exclusiva responsabilidad humana”, explicó Igoillo.

Interdisciplinario

El desarrollo del protocolo requirió varios meses de trabajo y la participación de un equipo interdisciplinario que integró diferentes miradas profesionales. Según explicó el responsable de Informática, el documento fue elaborado con la participación de especialistas en áreas técnicas, operativas, jurídicas y éticas.  “Fue desarrollado por un equipo interdisciplinario que integró visiones técnicas, operativas, jurídicas y éticas”, sostuvo.

Asimismo, Igoillo señaló que uno de los principales desafíos fue diseñar una normativa que pudiera adaptarse al ritmo acelerado con el que evolucionan las tecnologías basadas en Inteligencia Artificial.

“Afrontar este desafío llevó tiempo de elaboración, fundamentalmente debido al crecimiento exponencial y vertiginoso de la Inteligencia Artificial. Entendimos que no podíamos apresurarnos con reglas estáticas, ya que las exigencias normativas deben tener la capacidad de adaptarse al continuo cambio tecnológico”, explicó.

Para la elaboración del documento también se analizaron experiencias de otros países y de distintas jurisdicciones.

“Durante estos meses investigamos exhaustivamente experiencias nacionales e internacionales, como los lineamientos de la UNESCO, el Proyecto Prometea y experiencias en otras provincias, para consolidar un documento seguro, ágil y preparado para la evolución constante de estas herramientas en nuestra realidad judicial”, agregó.

Alcance

El protocolo aprobado por el Tribunal Superior de Justicia tiene un alcance amplio dentro del sistema judicial provincial. De acuerdo a lo establecido, las directrices serán de cumplimiento obligatorio para toda la magistratura, el funcionariado y los empleados del Poder Judicial. Además, también alcanzan a auxiliares de justicia y a cualquier persona que utilice servicios o sistemas informáticos vinculados al Poder Judicial.

“Es de alcance general y de cumplimiento obligatorio para todos los actores que utilicen estas tecnologías en el ejercicio de sus funciones. Esto incluye a toda la magistratura, el funcionariado y los empleados. Asimismo, sus directrices alcanzan a los auxiliares de justicia y a cualquier persona que utilice los servicios y sistemas de este Poder Judicial”, explicó Igoillo.

Capacitación

En relación con la implementación práctica de estas herramientas tecnológicas, desde la Dirección de Informática indicaron que el proceso será gradual y acompañado por instancias de capacitación.

Igoillo adelantó que se prevén capacitaciones específicas para el personal judicial a medida que se incorporen nuevas herramientas tecnológicas. “Desde la Dirección de Informática brindaremos capacitaciones puntuales y específicas a medida que nuestra área genere o habilite nuevos productos tecnológicos institucionales para el uso del personal. Por su lado, la Escuela de Capacitación se encuentra evaluando planes de acción específicos para abordar la temática”, explicó.

En cuanto a la vigencia del protocolo, el ingeniero aclaró que desde el punto de vista normativo ya se encuentra plenamente en vigor.  “A nivel normativo, al ser aprobado por el Tribunal Superior de Justicia, el protocolo, sus principios y directrices ya se encuentran formalmente vigentes. Son de aplicación y cumplimiento obligatorio inmediato para todo el personal judicial”, señaló.

Sin embargo, la incorporación de nuevas herramientas tecnológicas será progresiva. “A nivel tecnológico, la adopción de nuevas soluciones impulsadas o autorizadas por la Dirección de Informática, como herramientas de IA integradas al entorno de trabajo seguro o el sistema de anonimización, será progresiva y escalonada”, detalló.

Desarrollo

Desde la Dirección de Informática también informaron que actualmente se encuentran desarrollando nuevas soluciones tecnológicas basadas en Inteligencia Artificial que podrían facilitar distintas tareas dentro del sistema judicial. Entre ellas se destaca el Buscador Inteligente de Jurisprudencia del Tribunal Superior de Justicia.

“Permite a los operadores judiciales realizar consultas en lenguaje natural, es decir, formulando preguntas cotidianas en lugar de usar palabras clave estrictas. La herramienta procesa las consultas y arroja respuestas contextuales y ponderadas sobre la materia solicitada”, explicó Igoillo.

Otro de los proyectos en desarrollo es el Sistema Anonimizador de Documentos Oficiales, que se encuentra en su etapa final de pruebas.

“En los próximos días realizaremos la presentación inicial para la evaluación de esta herramienta. Está basada en Modelos de Lenguaje Grandes (LLM) y reconocimiento avanzado de entidades (NER), lo que permite identificar y ocultar automáticamente datos personales o sensibles en los textos”, cerró.