La irrupción de las nuevas tecnologías en la administración pública sumó un límite institucional categórico en el plano de la legalidad. La Suprema Corte de Justicia de la provincia de Buenos Aires presentó un proyecto de reglamento para regular el uso de la Inteligencia Artificial (IA) en el Poder Judicial, abriendo una instancia de consulta pública participativa que se extenderá hasta el próximo 7 de agosto para recibir aportes de magistrados, académicos y colegios de abogados.
El marco normativo, coordinado por la flamante Comisión de Gobernanza y Uso de Inteligencia Artificial, busca modernizar los procesos administrativos internos pero blindando las garantías constitucionales de los ciudadanos. La resolución del máximo tribunal bonaerense aclara que, si bien la IA es una herramienta válida para agilizar plazos, la función jurisdiccional es “indelegable e insustituible”, por lo que el razonamiento jurídico humano jamás podrá ser reemplazado por un algoritmo.
Los límites estrictos y las prohibiciones fijadas por la Corte
El texto de la acordada judicial desglosa una serie de pautas éticas y operativas de cumplimiento obligatorio para todos los juzgados, fiscalías y dependencias que integran el mapa judicial de la provincia de Buenos Aires:
- Prohibición en fallos y pruebas: Bajo ninguna circunstancia se permitirá delegar en sistemas de IA la toma de decisiones judiciales, la ponderación y valoración de pruebas aportadas en los expedientes, o la confección del razonamiento legal que fundamenta las sentencias.
- Responsabilidad penal y civil: El empleo de plataformas tecnológicas auxiliares no exime a los jueces, secretarios o peritos de la responsabilidad total por el contenido, validez y legalidad de los documentos emitidos. Cada funcionario deberá ejercer un control sustantivo y documentado de los borradores.
- Veto a ChatGPT y herramientas comerciales: La Corte prohibió taxativamente a sus agentes el uso de chatbots de acceso gratuito o comercial para procesar datos de investigaciones en curso, debido al riesgo latente de filtración de información sensible que termine siendo utilizada para entrenar modelos de lenguaje privados fuera del control del Estado.
Eficiencia operativa frente a los riesgos del sesgo digital
Al fundamentar la medida, la Suprema Corte reconoció que la IA ya se aplica a nivel global con éxito para optimizar la gestión de procesos, la sistematización de jurisprudencia compleja y la reducción de barreras lingüísticas y geográficas para los usuarios del sistema de justicia.
No obstante, el tribunal alertó sobre los peligros inherentes a los modelos predictivos automatizados, haciendo hincapié en la posibilidad de reproducir sesgos cognitivos o de género, arrastrar errores de origen y generar alucinaciones conceptuales (información inexacta con apariencia de verdad). A través de este registro virtual habilitado en el sitio web oficial de la Suprema Corte, la provincia busca liderar un estándar ético de vanguardia en el tratamiento de expedientes digitales a nivel nacional.
