Por delegar la decisión esencial de un caso a la inteligencia artificial, un Tribunal de Apelación de la Provincia de Chubut, en la zona Sur de la Argentina, anuló la resolución que condenó a dos años y medio de cárcel a un hombre por robo.
El fallo es sumamente interesante, ya que en esa provincia la IA no está prohibida, pero su uso es bajo condiciones específicas. Como también puede ocurrir en nuestro país, comentamos la decisión.
La resolución fue dictada el 15 de octubre pasado por los camaristas Carina Paola Estefanía, Hernán Dal Verme y Martín Zacchino, quienes anularon el fallo dictado el 4 de junio pasado por el juez Penal C. R. R.
Veamos. R. A. P. fue acusado de que el 17 de noviembre del 2023 entró a una vivienda en la ciudad de Esquel, de la citada provincia, tras romper los vidrios de la ventana y sustraer 2.000 pesos y 400 dólares. En juicio oral, fue condenado a 2 años y medio de prisión.
El defensor Horacio Hernández apeló lo resuelto. Sostuvo que hubo una errónea valoración de la prueba, que lo condenaron sin fundamento, y que se interpretó mal la ley penal.
La defensa cuestionó la validez de una prueba, específicamente una grabación donde supuestamente se ve al condenado; a más de que presuntamente el hombre estaba en otro lugar.
FALLO. La Cámara Penal de la Circunscripción Judicial de Esquel resolvió la cuestión el 15 de octubre pasado.
La preopinante es la magistrada Carina Estefanía, quien hace un recuento de las posiciones de las partes, para luego estudiar el fallo del magistrado Penal.
Al analizar la resolución, dice que al inicio del Punto IV, titulado “Resolución Sobre las cuestiones probatorias planteadas por la Defensa” se puede leer: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar.”
Con ello, dice que es evidente que el magistrado usó un asistente de IA generativa de aquellas que se usan para escribir, planificar, aprender y elaborar ideas, donde se caracteriza por su capacidad para procesar y comprender.
En su extenso voto, alega que se desconoce qué asistente usó, y qué se le requirió, pero se entiende que la respuesta se puso en el fallo, lo que tiene relación con el pedido de nulidad de la defensa respecto a dos pruebas esenciales.
Luego cita el Acuerdo Plenario 5435, del Superior Tribunal de Justicia provincial, que aprueba las directivas del uso ético y responsable de la IA generativa en el Poder Judicial de Chubut.
Entre las directrices están fomentar el uso ético y responsable, garantizar el control humano, proteger datos personales y confidenciales, promover la capacitación y actualización continúa.
Cita los principios rectores como el control humano, para que las respuestas sean supervisadas; la mitigación de riesgos de la IA que pueden generar prejuicios; la capacitación continua, para garantizar el uso adecuado de estas herramientas; la ética y responsabilidad para que esté alineado con los principios de derecho y Justicia.
Habla de la comunicación clara y precisa de la entrada de datos, la validación obligatoria, la confidencialidad respecto a los datos sensibles, entre otros.
Cita las legislaciones europeas y otras, donde se establece la necesidad de prever mecanismos para vigilar el impacto social y económico.
La magistrada menciona los casos de Río Negro y Rosario, respecto a abogados que presentaron jurisprudencia inexistente.
Finalmente, en su largo análisis, apunta que el fallo no da referencias del uso de la IA, con lo que no se puede saber si la usó para fundar o para dictar el fallo.
Acota que esto viola el debido proceso, la garantía del juez natural, en que la decisión debe ser tomada por la persona, ya que aceptar que la IA tome la decisión podría significar la eliminación de la competencia. Con ello, vota por anular el fallo y remitir los antecedentes para investigar al magistrado.
Su colega Zacchino, en su voto, analiza el caso, pero también argumenta respecto al uso de la IA, ya que “no hay forma de conocer la dirección elegida por el juez”, con lo que no se puede controlar.
Habla de que la responsabilidad de dictar los fallos siga siendo responsabilidad de los magistrados, por lo que también vota por la nulidad.
El camarista Dal Verme puntualiza que en la resolución no hay referencia del uso de la IA, que se utilizó en el punto central del decisorio, no se supervisó el control, las partes no accedieron a la información, y que el error fue delegar la decisión sensible.
Según la prensa argentina, es el primer caso donde anulan un fallo por este motivo. En el Paraguay, la Corte podría tener un protocolo de uso de la IA por los jueces.
PARA ENTENDER
JUEZ NATURAL. Según el Código Procesal Penal, la potestad de aplicar la ley en los procedimientos penales, juzgando y haciendo ejecutar lo juzgado, corresponderá exclusivamente a los jueces y tribunales ordinarios, instituidos con anterioridad por la ley. Nadie podrá ser procesado ni juzgado por jueces o tribunales especiales.
INDEPENDENCIA. La misma legislación dice que los jueces serán independientes y actuarán libres de toda injerencia externa, y en particular, de los demás integrantes del Poder Judicial y de los otros poderes del Estado. En caso de injerencia en el ejercicio de sus funciones, el juez informará a la Corte sobre los hechos que afecten su independencia. Cuando provenga de la propia Corte o de alguno de sus ministros, el informe será remitido a la Cámara de Diputados. Los jueces valorarán en su decisión tanto las circunstancias favorables como las perjudiciales para el imputado, con absoluta imparcialidad. (Fuente: CPP).
