Freno a los “jueces algoritmos”: la Corte bonaerense prohíbe que la inteligencia artificial dicte sentencias o valore pruebas
Se elaboró un reglamento para regular el uso de la IA en tribunales, con límites estrictos para evitar que reemplace decisiones humanas y proteger las garantías del proceso judicial
4 minutos de lectura'
LA NACION
En un paso sin precedentes para la Justicia argentina, la Suprema Corte de Justicia de la provincia de Buenos Aires elaboró un proyecto de reglamento para regular el uso de la Inteligencia Artificial (IA) dentro de los tribunales bonaerenses. Bajo la premisa de que “la función jurisdiccional es indelegable e insustituible”, el máximo tribunal busca evitar que las herramientas tecnológicas reemplacen el razonamiento humano en la toma de decisiones judiciales.
La medida surge en un contexto donde la IA dejó de ser una tecnología experimental para convertirse en un recurso utilizado de manera formal e informal por abogados y funcionarios en tareas que van desde la atención de usuarios hasta la sistematización de jurisprudencia. Sin embargo, la Corte advirtió sobre los peligros de los sistemas generativos, que pueden producir “hallucinations” (resultados inexactos), contenidos sesgados o generar un “sesgo de automatización”, que es la tendencia de los operadores a confiar excesivamente en las sugerencias de un algoritmo.
Para ello creó una “Comisión de Gobernanza y Uso de Inteligencia Artificial”, que está integrada por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales.
La misma actuará como autoridad de aplicación y tendrá facultades para proponer protocolos, evaluar herramientas, impulsar pruebas piloto, monitorear resultados y elaborar informes periódicos.
Según la resolución, a la que pudo acceder LA NACION, registrada bajo el expediente Nº 3000-21862-2026, la Suprema Corte fundamenta esta regulación en la necesidad de consolidar la mejora de la gestión judicial sin menoscabar las garantías constitucionales del debido proceso y la tutela judicial efectiva.
El documento destaca que el Poder Judicial bonaerense ya opera casi en su totalidad en una “fase digital”, lo que constituye el entorno propicio para avanzar en una incorporación “gradual, responsable y estratégica” de estas herramientas.
Asimismo, el reglamento establece prohibiciones estrictas para proteger los derechos fundamentales de los ciudadanos involucrados en procesos judiciales. Entre los usos expresamente vedados figura la utilización de sistemas predictivos de riesgo de reincidencia que tengan efectos vinculantes sobre decisiones de libertad o prisión preventiva. También se prohíbe terminantemente el uso de IA para generar “prueba sintética” o automatizada, y la elaboración de informes periciales sin una participación activa y validación crítica del perito habilitado.
Quienes formaron parte de la elaboración de este proyecto le destacan a LA NACION que “más allá de esa toma de posición sobre uso responsable de la IA es que a diferencia de otros estamentos judiciales, que tal vez aprobaron reglamentos, aquí existe una instancia participativa que involucra a todos los actores judiciales y personas que puedan interesarse en sumar aportes”.
Además, destacan que la resolución dispone comunicar el proyecto a todos los órganos de la Administración de Justicia, al Colegio de Magistrados y Funcionarios de la provincia de Buenos Aires, al Colegio de Abogados provincial y la Asociación Judicial Bonaerense. El formulario de consulta se accede desde la web y en las redes del Tribunal.
El proyecto adopta un enfoque basado en niveles de riesgo. Por ejemplo, tareas administrativas como la transcripción de audiencias o la corrección ortográfica son consideradas de “bajo riesgo”. En tanto, aquellas que asisten funciones críticas —como la interpretación normativa o la predicción de resultados de litigios— son calificadas de “alto riesgo”. Estos últimos deberán someterse a auditorías cada seis meses y requerirán un “Análisis de Impacto Algorítmico” previo a su implementación.
Para garantizar la transparencia, el reglamento obliga a los jueces y funcionarios a informar detalladamente en el expediente cuando hayan utilizado una herramienta de IA generativa. Deberán especificar el nombre del sistema, el modelo empleado y qué partes concretas del documento fueron producidas con asistencia tecnológica, permitiendo así que las partes puedan controlar y, eventualmente, impugnar dicha intervención.
Finalmente, la Corte le prohibió a sus integrantes el uso de chatbots de acceso gratuito o comercial (como ChatGPT) para tratar información judicial sensible o investigaciones en curso, ante el riesgo de que esos datos personales sean utilizados para entrenar modelos futuros fuera del control institucional.
El proyecto se encuentra actualmente en una etapa de consulta pública abierta hasta el 7 de agosto, permitiendo que magistrados, abogados y la comunidad académica aporten sugerencias.
Después de esa fecha, esta Comisión tendrá que procesar los escritos recibidos y elevar un informe a la Suprema Corte antes del 31 de agosto. Hasta que no se concrete la aprobación de una versión definitiva, el texto tendrá carácter orientador y no vinculante.
LA NACION
Más leídas de Seguridad
1Condenaron a un gendarme por matar a un joven que había cruzado desde Bolivia por un paso fronterizo ilegal
2Juicio por la muerte de Maradona: “Nunca tomé el rol de médico clínico”, dijo Luque, que apuntó contra dos colegas
3Un joven de 19 años resultó gravemente herido al ser baleado por un amigo en la calle
4El estudiante asesinado por motochorros fue baleado en una zona que suma varios homicidios en pocos meses
Últimas Noticias
Femicidio de Agostina Vega. Las pruebas de luminol expusieron que el cuerpo fue desmembrado en el baño de Barrelier
Cita peligrosa. La caída de Lucía, la policía que tenía una vida oculta: la acusan de ser una “viuda negra”
