DOCTRINA

AUTORÍA, DETECCIÓN Y DECISIÓN JUDICIAL

ANTE TEXTOS ASISTIDOS POR INTELIGENCIA ARTIFICIAL

AUTHORSHIP, DETECTION, AND JUDICIAL DECISION-MAKING IN THE FACE OF AI-ASSISTED TEXTS

Por Juan Manuel Garay^[1] 

Poder Judicial de la Nación, Argentina

Recibido: 21/02/2026

Aprobado: 30/04/2026

Resumen: Este trabajo analiza las dificultades que plantea la identificación de textos asistidos por inteligencia artificial y su incidencia en la función jurisdiccional. A partir de un enfoque doctrinal y jurisprudencial, se examinan, por un lado, los límites conceptuales y técnicos de la detección de textos generados por modelos de lenguaje y, por otro, la secuencia decisoria del caso Chubut. El estudio muestra que el problema no se agota en la detección de IA ni en la verificación de alucinaciones, sino que remite a cuestiones más profundas vinculadas con la autoría judicial, la motivación de la sentencia, la trazabilidad del razonamiento y el control humano efectivo. Su principal resultado es que la validez de la decisión judicial depende menos del origen instrumental del texto que de su atribuibilidad y control jurisdiccional.

Palabras clave: inteligencia artificial, autoría judicial, motivación de la sentencia, control humano

Abstract: This article examines the difficulties involved in identifying AI-assisted texts and their impact on judicial adjudication. Through a doctrinal and case-law-based approach, it analyzes, first, the conceptual and technical limits of detecting texts generated by language models and, second, the judicial decisions issued in the Chubut case. The study shows that the problem is not limited to AI detection or hallucinations, but rather concerns deeper issues related to judicial authorship, reasoning in judgments, traceability of legal reasoning, and effective human control. Its main finding is that the validity of a judicial decision depends less on the instrumental origin of the text than on its attributable authorship and jurisdictional control.

Keywords: artificial intelligence, judicial authorship, judicial reasoning, human control

INTRODUCCIÓN

La expansión de la inteligencia artificial generativa ha modificado de manera profunda las prácticas contemporáneas de producción textual. En muy poco tiempo, herramientas capaces de redactar, reformular, resumir y reorganizar contenidos pasaron de ser una novedad tecnológica a convertirse en instrumentos de uso cotidiano en ámbitos académicos, profesionales e institucionales.

Ese cambio ha incrementado el volumen de textos asistidos o producidos con apoyo algorítmico y ha abierto un problema nuevo: la progresiva dificultad para distinguir entre un texto escrito por una persona y uno producido, total o parcialmente, con intervención de una máquina (Basani y Chen, 2025; Borile y Abrate, 2025).

Como advierten Mingmeng Geng y Thierry Poibeau (2025), el principal problema no reside únicamente en la dificultad técnica de detección, sino en la falta de una definición coherente y precisa de qué debe entenderse por “texto generado por LLM”^[2], en un contexto en el que las intervenciones humanas sobre esas salidas y la influencia de estos sistemas sobre la propia escritura humana vuelven cada vez más difusa esa frontera.

Por eso, los detectores de textos generados por inteligencia artificial pueden ser útiles en condiciones específicas, pero sus resultados solo deben –y solo pueden– interpretarse como referencias y no como indicadores concluyentes. Además, su fiabilidad no es absoluta.

En el ámbito jurídico, y particularmente en la función jurisdiccional, esta transformación adquiere una importancia singular: no se trata solamente de establecer si un texto contiene errores, inventa citas o incurre en las conocidas “alucinaciones”, sino de determinar qué relevancia jurídica tiene la intervención de sistemas generativos en la producción de una decisión que, por definición constitucional, debe ser humana, fundada y atribuible al magistrado que la suscribe.

La cuestión, entonces, no se agota en la confiabilidad del resultado, sino que alcanza a la estructura misma de la decisión judicial: su motivación, su control por las partes, la posibilidad de revisión y, en último término, la preservación del carácter indelegable de la jurisdicción.

El caso “Provincia del Chubut c/ Payalef, Raúl Amelio”^[3] dio visibilidad a ese problema en la jurisprudencia argentina. La Cámara en lo Penal de Esquel^[4] advirtió que un tramo de la sentencia de condena se hallaba precedido por la frase “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”, y entendió que ese residuo textual daba cuenta del uso de inteligencia artificial en un pasaje decisorio del fallo, por lo que declaró su nulidad. El Superior Tribunal de Justicia del Chubut desplazó el eje del análisis y revocó esa decisión.^[5] 

La tensión entre ambos pronunciamientos revela el verdadero núcleo del problema: si la detectabilidad del texto generado por inteligencia artificial no puede ser determinada en términos absolutos, entonces la validez del fallo no puede reposar exclusivamente sobre una pretensión de identificación binaria entre “texto humano” y “texto artificial”.

En el terreno jurisdiccional, la pregunta no es simplemente si intervino una herramienta generativa, sino bajo qué condiciones puede seguir afirmándose que la decisión conserva su autoría judicial, responde a una motivación controlable y permanece dentro del ámbito indelegable de la función de juzgar (Martín et al., 2026). En otras palabras: el problema jurídico central no es la detección de IA, sino la preservación del control humano sobre la decisión y la posibilidad de atribuirla de manera plena y responsable al juez. Eso es lo que, en definitiva, debe importar.

Sobre esa base, este presente trabajo propone examinar las complejidades que plantea la determinación de la autoría humana o algorítmica de los textos en el contexto judicial y analizar sus repercusiones sobre la tarea jurisdiccional a propósito de los fallos mencionados.

Para ello, se partirá de los aportes de Geng y Poibeau (2025) acerca de los límites conceptuales y prácticos de la detección de textos generados por modelos de lenguaje, y se abordará, como eje empírico principal, la secuencia de decisiones dictadas en el caso Chubut. La hipótesis que guía este trabajo es que, en materia jurisdiccional, el problema no debe quedar reducido a la búsqueda de “pruebas” de uso de inteligencia artificial ni a la mera verificación de alucinaciones, sino que exige un enfoque más amplio, semejante al propuesto por IALAB,^[6] atento al grado de intervención humana sustantiva, a la trazabilidad técnica disponible y a la legitimidad del contenido finalmente producido.

Desde esa perspectiva, la cuestión decisiva no consiste en clasificar mecánicamente un texto como “humano” o “artificial”, sino en establecer si la decisión conserva una motivación controlable, una autoría judicial atribuible y un control humano efectivo que, en definitiva, garantice el carácter indelegable de la función de juzgar.

I - ¿QUÉ SIGNIFICA QUE UN TEXTO HAYA SIDO GENERADO

      POR INTELIGENCIA ARTIFICIAL?

La pregunta por el significado de un “texto generado por inteligencia artificial” parece, a primera vista, sencilla. Sin embargo, apenas se intenta precisarla, aparecen dificultades conceptuales que afectan directamente cualquier discusión posterior sobre detección, autoría o responsabilidad. Como señalan Geng y Poibeau (2025), uno de los problemas centrales del debate contemporáneo consiste en que no existe una definición consistente ni precisa del verdadero objeto de detección, esto es, de aquello que debería entenderse por “texto generado por LLM”.

Esa observación no es menor. Si el objeto de detección mismo no resulta certero, se vuelve inestable cualquier inferencia jurídica que pretenda construirse a partir de su identificación.

En este contexto, resulta de sumo interés el trabajo realizado por IALAB sobre esta cuestión (Martín et al., 2026). En lugar de partir de una lógica binaria, el trabajo propone una aproximación gradual y contextual, orientada no a descubrir un origen “puro” del texto, sino a evaluar tres cuestiones distintas: el grado de intervención humana sustantiva, la trazabilidad técnica disponible y la legitimidad del contenido producido.

Desde esa perspectiva, la pregunta relevante no es simplemente si en el proceso intervino una herramienta de inteligencia artificial,^[7] sino qué alcance tuvo esa intervención y si subsiste una base suficiente para atribuir autoría, responsabilidad y validez al contenido final. El desplazamiento es decisivo, porque evita equiparar toda asistencia algorítmica con una sustitución de la agencia humana.

En contextos de escritura asistida, la autoría no puede seguir pensándose como una cuestión puramente estilística o estadística. Lo decisivo pasa a ser la presencia de factores humanos insustituibles: juicio valorativo, toma de posición, respuesta a los planteos de las partes, fundamentación y aplicación de criterios al caso concreto.

Esta reformulación tiene especial importancia en el ámbito jurídico (CEJA, 2025). En una decisión judicial, no basta con preguntar si ciertas frases presentan compatibilidad estadística con patrones asociados a modelos de lenguaje.^[8] Lo jurídicamente relevante es establecer si el contenido expresa una operación intelectual atribuible a un sujeto responsable, capaz de identificar alternativas, ponderar razones, contextualizar normas y asumir las consecuencias de la decisión adoptada.

Por eso, hablar de “texto generado por inteligencia artificial” como si se tratara de una categoría unívoca puede inducir a error. En rigor, bajo esa expresión conviven fenómenos heterogéneos: generación íntegra, reescritura, edición, asistencia parcial o simple apoyo lingüístico. Esa heterogeneidad impide tratar el problema con categorías rígidas y obliga a abandonar la falsa alternativa entre texto “humano” y texto “artificial”.

En el estado actual del debate, parece más preciso afirmar que muchas producciones escritas son el resultado de procesos mixtos, en los que la cuestión decisiva no es la pureza de la fuente, sino la entidad de la intervención humana que permanece en el resultado final.

Desde esta perspectiva, la noción de “texto generado por inteligencia artificial” conserva utilidad descriptiva, pero pierde aptitud como categoría cerrada para justificar, por sí sola, consecuencias como la nulidad de un pronunciamiento. En particular, en materia jurisdiccional, la dificultad no consiste únicamente en determinar si un modelo intervino en la redacción, sino en establecer si esa intervención afectó de alguna manera el juicio humano que debe sustentar toda decisión judicial.

Por eso, antes que una clasificación binaria sobre la autoría tecnológica del texto, lo que debe primar es una evaluación más exigente sobre el grado de intervención humana sustantiva, la posibilidad de reconstruir el razonamiento y la autoría final del acto decisorio por la autoridad designada a tal efecto.

II - EL CASO CHUBUT

El fallo de primera instancia y de Cámara

El caso “Provincia del Chubut c/ Payalef, Raúl Amelio” constituye un antecedente significativo en torno al uso de inteligencia artificial generativa en la elaboración de una sentencia judicial.^[9] Su singularidad proviene de la aparición, dentro del propio texto del fallo, de una frase que revelaba la intervención de un asistente generativo.^[10] En la sentencia de primera instancia, inmediatamente antes del apartado dedicado a resolver las cuestiones probatorias planteadas por la defensa, podía leerse: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”^[11].

La exteriorización accidental en un tramo decisorio del pronunciamiento cobró especial relevancia por el lugar que ocupaba dentro del fallo. No se trataba de una fórmula accesoria ni de un pasaje marginal, sino que estaba justo antes del inicio del capítulo referido a la “Resolución sobre las cuestiones probatorias planteadas por la Defensa”.

La Cámara de Esquel destacó precisamente esta cuestión al advertir que el requerimiento presumiblemente efectuado al asistente se relacionaba con la respuesta judicial a planteos defensivos en torno a la evidencia producida. En consecuencia, el problema no podía reducirse a una mera torpeza de edición: la frase de la herramienta aparecía incrustada en un segmento de valoración para la condena.

Sobre esa base, el tribunal revisor consideró que la frase consignada en la sentencia daba cuenta, objetivamente, del uso de un asistente de inteligencia artificial generativa, aunque no fuera posible establecer con certeza cuál había sido la herramienta concreta ni el requerimiento formulado por el magistrado. La incertidumbre resultó decisiva, a criterio del tribunal, para sustentar la nulidad de la resolución.^[12] Precisamente, la Cámara sostuvo que el juez no había efectuado ninguna referencia expresa al modo en que utilizó la inteligencia artificial, ni había indicado cuál fue la aplicación empleada ni qué función cumplió en la construcción del texto. A juicio del tribunal, esa omisión afectaba directamente la fundamentación de la sentencia, en tanto impedía conocer el alcance real de la intervención algorítmica en un punto decisorio.

Con invocación del Acuerdo Plenario nro. 5435/2025 del Superior Tribunal de Justicia del Chubut,^[13] que aprobó directivas para el uso ético y responsable de inteligencia artificial generativa en el Poder Judicial provincial, la Cámara afirmó que, al no haberse especificado cómo fue utilizada la herramienta para elaborar la respuesta jurisdiccional, no constaba el control que pudo haber ejercido el juez sobre el resultado obtenido; y, al mismo tiempo, las partes quedaban privadas de toda posibilidad de controlar el modo en que se había construido una decisión que luego servía de fundamento a la sentencia.

Además, la Cámara extrajo dos conclusiones. La primera fue que el uso de inteligencia artificial en la sentencia debía ser explicitado, tanto en lo relativo a la herramienta utilizada como al modo de empleo, pues de otro modo resultaba imposible determinar si el sistema había introducido sesgos, alucinaciones u otros errores en la respuesta jurisdiccional. La segunda, que la falta de información sobre ese uso en un punto decisorio entrañaba un riesgo concreto de delegación indebida de la actividad jurisdiccional.

En ese contexto, la Cámara vinculó la delegación con el principio del juez natural. Expresó que, de haberse producido una sustitución del juicio del magistrado por la respuesta de una tecnología desarrollada por empresas privadas y utilizada al margen del control de las partes, ello supondría una violación flagrante de esa garantía.

De este modo, la nulidad no se fundó simplemente en la sospecha de que el juez hubiera usado una herramienta de inteligencia artificial. El tribunal de revisión reconoció, más bien, que el uso de estas tecnologías puede admitirse dentro de ciertas pautas institucionales, siempre que se mantenga el control humano efectivo y no se deleguen decisiones sensibles.

Lo que consideró incompatible con la validez del fallo fue la combinación de tres factores: la presencia explícita de una huella de interacción con un sistema generativo, la falta de toda explicación sobre el modo de utilización de la herramienta y la inserción de ese texto en un tramo decisorio relevante para la condena.

La decisión del Superior Tribunal de Justicia de Chubut

La intervención del Superior Tribunal de Justicia del Chubut desplazó el eje del análisis desde la constatación de la frase generada por inteligencia artificial hacia el régimen procesal de nulidades y el estándar jurídico aplicable al control de la sentencia. Ciertamente, encuadró la cuestión como un problema relativo a la interpretación de los artículos 161 a 164 del Código Procesal Penal, al deber de fundamentación y a la incidencia normativa del Acuerdo Plenario nro. 5435/2025.

El primer argumento consistió en reafirmar el carácter restrictivo del régimen de nulidades. En línea con la inveterada doctrina de la Corte Suprema de Justicia de la Nación, sostuvo que la invalidez solo procede cuando la irregularidad afecte una garantía constitucional o cause un perjuicio concreto a las partes, y que no toda infracción normativa ni todo apartamiento de pautas reglamentarias autoriza, por sí mismos, la sanción invalidante.

El punto central radicó en el señalamiento del tribunal respecto de que el sistema procesal no somete a escrutinio directo “los procesos internos de deliberación del juez, sino la motivación exteriorizada en la sentencia”; y agregó que la formación del convencimiento, la consulta de doctrina y precedentes, los intercambios académicos y el empleo de herramientas de apoyo, tecnológicas o no, integran el ámbito propio de la elaboración intelectual del pronunciamiento: el ordenamiento procesal controla la fundamentación expresada, no cada uno de los insumos intelectuales utilizados para construirla.

Sobre esa base, afirmó que la deliberación judicial adquiere relevancia jurídica únicamente a través de su exteriorización en una sentencia fundada y controlable, conforme a la Constitución provincial y al código ritual. Por eso mismo, indicó que el ordenamiento no impone al magistrado la carga de documentar los instrumentos empleados para arribar a su conclusión, sino la obligación de exponer razones lógicas y verificables que permitan el control recursivo.

En el tramo final del fallo, sostuvo que la inteligencia artificial es una herramienta de apoyo y nunca una fuente autónoma de decisión, que la responsabilidad por el contenido del fallo recae íntegramente en el magistrado que lo suscribe y que el control humano debe ser real, crítico y previo a la emisión del pronunciamiento. De este modo, el Superior Tribunal no relativizó el deber de prudencia frente a estas tecnologías; lo que rechazó fue la derivación automática de nulidad a partir del apartamiento reglamentario o de la incertidumbre sobre el proceso interno de elaboración.

En esa misma lógica, afirmó que convertir la sola circunstancia detectada por la Cámara en causa suficiente de invalidez implicaría trasladar el objeto del control desde el contenido de la decisión hacia los medios empleados para su elaboración, en tensión con el principio de trascendencia.

Como consecuencia de ese razonamiento, el Superior Tribunal revocó la nulidad declarada por la Cámara y reenvió las actuaciones para que, con nueva integración, resolviera los agravios pendientes de la impugnación ordinaria, limitando su análisis a la materia oportunamente recurrida y garantizando el doble conforme.

El fallo del Superior Tribunal introduce, a mi criterio, un estándar más prudente y, al mismo tiempo, más exigente para el análisis jurídico del fenómeno. Prudente, porque impide que toda intervención tecnológica dudosa desemboque sin más en la invalidez del acto. Exigente, porque reafirma que la incorporación de estas herramientas solo es admisible dentro de un marco de responsabilidad, control humano efectivo y respeto irrestricto de las garantías constitucionales.

CONCLUSIÓN

La irrupción de la inteligencia artificial generativa en el ámbito judicial obliga a repensar ciertas cuestiones inherentes a la validez de un proceso judicial. Entre ellas, el alcance del deber de motivación y las condiciones de atribuibilidad del acto jurisdiccional.

En ese marco, el problema no puede formularse de manera adecuada a partir de una oposición binaria entre textos “humanos” y textos “artificiales”, ni tampoco agotarse en la pregunta por la detección técnica de una intervención algorítmica –que, además, no es posible verificar con certeza–.

Como muestran tanto los aportes de Geng y Poibeau (2025) como el enfoque de IALAB, las prácticas actuales de escritura son crecientemente híbridas, los detectores ofrecen resultados solo orientativos y la cuestión relevante no reside en descubrir una pureza originaria del texto, sino en evaluar la entidad de la intervención humana que subsiste en el resultado final y su razonamiento.

El caso Chubut puso esa dificultad en evidencia. La Cámara en lo Penal de Esquel entendió que la aparición de una “huella textual” de interacción con un sistema generativo, sumada a la ausencia de toda explicación sobre su utilización en un tramo decisorio relevante, comprometía la fundamentación de la sentencia y abría un riesgo inadmisible de delegación de la función jurisdiccional.

El Superior Tribunal, en cambio, sostuvo que la nulidad no podía fundarse únicamente en esa irregularidad, en tanto el control jurisdiccional recae sobre la motivación exteriorizada y requiere la demostración de un perjuicio concreto, no la mera sospecha de delegación del proceso interno de elaboración del fallo.

La tensión entre ambas posiciones muestra que el debate no gira solo en torno al uso de una tecnología, sino alrededor de las condiciones bajo las cuales una decisión puede seguir siendo considerada auténticamente jurisdiccional.

Desde esta perspectiva, la principal conclusión de este trabajo es que la inteligencia artificial no vuelve irrelevante quién dictó una resolución judicial, pero sí obliga a desplazar su comprensión. La autoría ya no puede pensarse únicamente en términos materiales de redacción, sino como atribuibilidad sustantiva del razonamiento, de la selección de fundamentos y de la responsabilidad por lo decidido.

En otras palabras: lo decisivo para examinar la validez de un pronunciamiento judicial no es establecer si algún pasaje del texto fue generado, sugerido o reformulado por una herramienta de inteligencia artificial, sino determinar si el juez conservó un control humano (CM CABA, 2025) real, crítico y suficiente sobre la decisión final. Allí, entiendo, reside el núcleo del problema.

REFERENCIAS

BASANI, A. R. y CHEN, P.-Y. (2025). Diversity boosts AI-generated text detection. https://arxiv.org/abs/2509.18880.

BORILE, C. y ABRATE, C. (2025). How to generalize the detection of AI-generated text: Confounding neurons. https://aclanthology.org/2025.findings-emnlp.1388.pdf.

CENTRO DE ESTUDIOS DE JUSTICIA DE LAS AMÉRICAS [CEJA] (2025). Inteligencia artificial en los Poderes Judiciales: Reflexiones y lineamientos para las Américas. https://cejamericas.org/wp-content/uploads/2025/12/Inteligencia-Artificial-en-los-Poderes-Judiciales-de-las-Americas_.pdf.

CONSEJO DE LA MAGISTRATURA DE LA CIUDAD AUTÓNOMA DE BUENOS AIRES [CM CABA] (2025). Nuevo Manual de Buenas Prácticas para el uso de IA e IAGen en el Poder Judicial de la CABA. Secretaría de Innovación.

GENG, M. y POIBEAU, T. (2025). On the detectability of LLM-generated text: What exactly is LLM-generated text? https://arxiv.org/abs/2510.20810.

MARTÍN, C., ALVARADO, G., RAMOS PEREYRA, L., SÁNCHEZ CAPARRÓS, M. y NUCCITELLI, M. (2026). ¿Lo escribió un humano o la IA? Evaluación de autoría en textos generados o asistidos por inteligencia artificial. IALAB - Facultad de Derecho, UBA.

Derechos de autor: 2026 Juan Manual Garay

El artículo está protegido por una Licencia Creative Commons Atribución-NoComercial-ShareAlike 4.0

Revista Jurídica Universidad Nacional del Oeste . Número 7. Editada entre enero y junio del año 2025. Periodicidad semestral.

Editorial  EDUNO  de la Universidad Nacional del Oeste.Realizada en el marco del Instituto de Educación, Justicia y Trabajo de la Universidad Nacional del Oeste