LA SOBERANÍA DIGITAL COMO LÍMITE Y CONDICIÓN DEL ESTADO REGULADOR CONTEMPORÁNEO

DIGITAL SOVEREIGNTY AS A LIMIT AND CONDITION OF THE CONTEMPORARY REGULATORY STATE

Resumen: El presente artículo analiza la soberanía digital como condición ineludible de validez del Estado regulador frente a la institucionalización de la inteligencia artificial en la Administración pública, examinando la tensión entre modernización estatal y preservación de la tutela administrativa efectiva. La investigación sistematiza estándares constitucionales mínimos –reserva de humanidad, transparencia activa del código y control constructivo de convencionalidad– y ofrece como marco de cierre la recepción en el ordenamiento argentino del hábeas data algorítmico, el registro público de algoritmos estatales y la evaluación de impacto en derechos humanos y convencionalidad algorítmica, figuras del derecho comparado adaptadas al bloque de constitucionalidad federal.

Palabras clave: soberanía digital, inteligencia artificial, tutela administrativa efectiva, reserva de humanidad, hábeas data algorítmico

Abstract: This article analyzes digital sovereignty as an unavoidable condition for the validity of the contemporary regulatory state in the face of the institutionalization of artificial intelligence within Public Administration, examining the tension between state modernization and the preservation of effective administrative protection. The research systematizes minimum constitutional standards –human oversight, active transparency of code, and constructive conventionality control– and offers as a closing framework the reception within the Argentine legal system of Algorithmic Habeas Data, a Public Registry of State Algorithms, and a Human Rights and Algorithmic Conventionality Impact Assessment, figures from comparative law adapted to the federal constitutional bloc.

Keywords: digital sovereignty, artificial intelligence, effective administrative protection, human oversight, algorithmic, habeas data

Como punto de partida, es necesario precisar los contornos de la soberanía digital, noción central de este estudio. Más allá de las clásicas concepciones vinculadas al dominio territorial de las infraestructuras físicas o la gobernanza de internet, se postula aquí una definición centrada en el monopolio estatal sobre la decisión pública mediada por la tecnología. Esta dimensión supone una atribución de la Administración que no recae sobre el procesamiento técnico o material de los datos, sino estrictamente sobre la asunción de responsabilidad y la imputación jurídica del acto. El objetivo es asegurar que la formación de la voluntad estatal, incluso cuando se apoya en modelos algorítmicos,^[2] no claudique ante la falta de transparencia del código, el desplazamiento de la supremacía del orden constitucional, ni quede a merced de lógicas corporativas privadas.

El eje de esta tensión radica en la profunda crisis del componente volitivo propio del acto administrativo. La gravedad de la cuestión excede el simple vacío psicológico, la mera ausencia del querer humano en la toma de decisión, para alertar sobre un riesgo de mayor envergadura: el desplazamiento y la fractura de la cadena de imputación jurídica. Frente al actuar autónomo de los sistemas informáticos, la dogmática se enfrenta a un dilema ineludible. ¿A quién debe atribuirse la autoría material de la resolución? ¿Recae la responsabilidad sobre el funcionario que la suscribe formalmente, sobre la autoridad que sancionó el acto programador, o sobre el desarrollador privado que estructuró el código fuente? Si el ecosistema tecnológico opera como un mecanismo inescrutable y exento de auditoría, el puente lógico que une la competencia legal con la decisión fáctica termina por colapsar. Este vaciamiento de la voluntad no solo neutraliza el escrutinio judicial sustantivo, sino que pone en riesgo las garantías del juez natural y el debido proceso, tuteladas por el artículo 18 de la Constitución nacional y los artículos 8.° y 25 de la Convención Americana sobre Derechos Humanos.

Ante este escenario, el presente trabajo consolida como hipótesis central que la soberanía digital constituye la condición inexcusable de validez del acto administrativo automatizado, cuya legitimidad se encuentra inevitablemente ligada a la intensidad de la intervención tecnológica. Si en los supuestos de automatización débil la tecnología opera como soporte que asiste al decisor, en los escenarios de automatización fuerte, donde los sistemas adquieren autonomía decisional, la validez constitucional queda supeditada a la existencia de un control humano significativo, una transparencia rigurosa y la plena factibilidad de reconstruir la secuencia lógica del proceso. Carente de tales salvaguardas, la delegación algorítmica deviene inconstitucional al vulnerar la tutela administrativa efectiva estatuida en el artículo 1.° bis de la Ley 19.549,^[3] configurando, a su vez, una vía de hecho tecnológica expresamente vedada por el artículo 9.° inciso c del mismo cuerpo normativo. Este marco de protección encuentra su dimensión en la provincia de Buenos Aires. A través de una interpretación sistemática y dinámica, la exigencia clásica de motivación del acto (art. 108 del Decreto ley 7647/70) cobra nueva dimensión a la luz de los principios de centralidad de la persona humana y trazabilidad consagrados en la Resolución 9/2025,^[4] robusteciendo una garantía amparada por el bloque de constitucionalidad federal (art. 75 inc. 22 de la Constitución nacional).

Para clarificar estos desafíos, el estudio adopta una metodología dogmática de corte reconstructivo, basada en un análisis integral del bloque constitucional, el ordenamiento legal y los estándares del sistema interamericano.

En atención a estos postulados, el artículo se divide en tres partes. La primera examina la soberanía digital en su faz de capacidad estatal, entendiendo la infraestructura tecnológica como presupuesto de la Administración contemporánea. La segunda profundiza en los peligros que la falta de transparencia y el déficit de comprensibilidad proyectan sobre la imputación jurídica de la voluntad estatal. La tercera sitúa la tutela administrativa efectiva como garantía de cierre del sistema, proponiendo una sistematización de estándares constitucionales mínimos para el uso de la IA en el sector público.

La concepción dogmática tradicional de la soberanía, anclada en el monopolio de la coacción y la supremacía territorial, se reconfigura hoy en clave funcional. En el esquema del Estado regulador contemporáneo, la potestad de actuar ya sea para proveer servicios, tutelar conductas o efectivizar derechos, se halla subordinada al dominio de la infraestructura tecnológica. Bajo este nuevo paradigma, el soporte digital abandona su antiguo rol de instrumento accesorio para constituirse en el espacio mismo donde se despliega y resuelve la función pública; al punto tal que, como advierte la doctrina, “hablar hoy de Administración pública es hablar necesariamente de administración electrónica” (Canevaro y Lau Alberdi, 2021).

Lejos de constituir un mero reduccionismo tecnocrático, esta transformación obedece a un imperativo de eficacia y eficiencia, pilares del procedimiento administrativo consagrados tanto en la órbita federal (art. 1.° bis inc. c de la Ley 19.549) como en la provincia de Buenos Aires (art. 7.° del Decreto ley 7647/70)^[5]. Así, la soberanía digital, interpretada desde su vertiente positiva, impone a la Administración el deber de apropiarse del instrumento informático como respuesta a su obsolescencia institucional. Un Estado que insiste en esquemas operativos obsoletos frente a una sociedad plenamente digitalizada no ejerce soberanía real, sino que se reduce a una burocracia inoperante, incapaz de materializar el bien común dentro de un plazo razonable.

En este trabajo, la soberanía digital no es entendida como una mera capacidad técnica del Estado, sino como una categoría compuesta que integra competencia regulatoria, responsabilidad institucional y límites constitucionales derivados de los derechos fundamentales.

Esta exigencia de modernización ha cristalizado normativamente tanto en la esfera federal como en la bonaerense, evidenciando el salto cualitativo desde la simple digitalización de documentos hacia una auténtica gestión algorítmica.

En sintonía con esta directriz, la provincia de Buenos Aires ha delineado un sendero análogo a través de la Ley 14.828, que instituye el “Plan Estratégico de Modernización de la Administración Pública de la Provincia de Buenos Aires”. Este cuerpo legal consagra como pilares estructurales de la reforma la “reingeniería de procesos” y el “gobierno electrónico”, otorgando a los expedientes y documentos electrónicos “idéntica eficacia jurídica y valor probatorio que sus equivalentes en soporte papel”. Es sobre este cimiento de legalidad informática donde la jurisdicción provincial edifica su andamiaje regulatorio para la IA, materializado en la Resolución 9/2025.

La asimilación de este escenario tecnológico guarda sintonía con el principio de la buena administración, cristalizado en el artículo 1.° bis, en particular su inciso c, de la Ley 19.549. Este estándar obliga a la Administración no solo a circunscribir su accionar a la estricta legalidad, sino a materializar sus fines con niveles exigibles de calidad, eficacia y celeridad.

Sin embargo, el despliegue de esta capacidad tecnológica no constituye una potestad sin límites. La doctrina advierte que la búsqueda de eficiencia operativa no puede satisfacerse a expensas de la deshumanización del procedimiento. Por consiguiente, la soberanía digital como capacidad estatal solo halla legitimación cuando el instrumento técnico se encauza hacia la potenciación de las destrezas cognitivas humanas, bajo el paradigma de la inteligencia aumentada, clausurando cualquier intento de suplantar o licuar la responsabilidad del decisor público.

En la dogmática clásica, el acto administrativo se instituye, por excelencia, como una declaración de voluntad estatal. Frente a este postulado, ¿es lógicamente concebible atribuir voluntad a una determinación forjada por un algoritmo? Por consiguiente, cuando los sistemas de decisión operan al margen de una intervención humana significativa ante el caso concreto, se consuma lo que la doctrina califica como la “quiebra del elemento subjetivo” (Valero Torrijos, citado en Canevaro y Lau Alberdi, 2021). Esta fractura trasciende el mero debate filosófico para instalarse en el núcleo de la imputación jurídica. Surge el dilema de si la responsabilidad recae sobre el órgano legalmente investido de competencia o, encubiertamente, sobre el desarrollador privado artífice del código fuente. Cuando el aplicativo informático opera de forma autónoma y sin control efectivo, la voluntad del Estado queda disuelta en una fórmula matemática. De este modo, la discrecionalidad administrativa, cuyo pilar es la ponderación axiológica entre fines y medios, transmuta en una ejecución mecánica, insensible frente a las singularidades de cada caso particular. Como salvaguarda ante esta amenaza estructural, el ordenamiento de la provincia de Buenos Aires ha fijado un límite normativo a través del principio de centralidad de la persona humana. Al respecto, la Resolución 9/2025 consagra el imperativo de que, sin importar el grado de autonomía que ostente la herramienta de IA, la responsabilidad final y la supervisión y control siempre estarán en cabeza de los seres humanos.^[6]

La creciente automatización de la toma de decisiones en la Administración pública plantea nuevos desafíos para las garantías constitucionales. Coglianese y Lehr (2017) han advertido que, frente a la posibilidad de “adjudicar por algoritmo” (adjudicating by algorithm) o “regular por robot” (rulemaking by robot), la Administración pública debe verificar que el uso del aprendizaje automático pueda encuadrarse en las doctrinas del debido proceso y la no delegación.

La validez del acto administrativo se halla indisolublemente ligada a su motivación, condición consagrada tanto en el artículo 7.° inciso e de la Ley 19.549, en su texto vigente según artículo 27 de la Ley 27.742 (B. O. del 8 de julio de 2024), como en el artículo 108 del Decreto ley 7647/70, normativas que imponen con distinto alcance la exposición de los antecedentes fácticos y los fundamentos de derecho que sustentan la decisión. Es en esta exigencia donde aflora una de las fricciones dogmáticas más severas de la actualidad. Una parte sustancial de los sistemas basados en aprendizaje profundo (deep learning) opera bajo la dinámica de arquitecturas decisorias opacas, lo que la literatura crítica denomina “cajas negras algorítmicas” (Pasquale, 2015), en las que resulta técnicamente muy dificultoso, cuando no imposible, desentrañar el iter lógico exacto mediante el cual el software procesó la información para arrojar un resultado específico (Burrell, 2016). Pasquale advierte que esta opacidad no es una característica técnica inevitable, sino una construcción deliberada, resultado de la combinación de secreto real, secreto legal y ofuscación que impide a los ciudadanos conocer, cuestionar o corregir las clasificaciones que determinan sus oportunidades. Frente a ello, postula avanzar hacia una “sociedad inteligible” en la que las decisiones algorítmicas de consecuencia pública queden sometidas a supervisión regulatoria independiente y escrutinio ciudadano.

Si la Administración pública se escuda en un algoritmo no auditable para adoptar una determinación, denegar una prestación social o adjudicar un cargo público, y resulta incapaz de esclarecer el cómo y el porqué de dicha conclusión, la resolución adolece de nulidad insanable por vicio sustancial en su motivación. Este criterio encuentra respaldo en la jurisprudencia de la Corte Suprema de Justicia de la Nación, que en “Schnaiderman”^[7] precisó que, aun en el ejercicio de facultades discrecionales, la ausencia de causa y motivación constituye un vicio sustancial que torna ilegítimo el acto.

Como salvaguarda frente a este estado de vulnerabilidad, la soberanía digital consagra como presupuesto de validez la “trazabilidad” o auditabilidad de las arquitecturas algorítmicas, mandato que encuentra recepción normativa expresa en el artículo 6.° apartado X de la Resolución 9/2025 bonaerense, obligando al Estado a garantizar la reconstrucción de sus procesos decisorios automatizados.^[8]

La consecuencia más gravosa de una automatización carente de supervisión es la cristalización de escenarios fácticos que neutralizan el ejercicio de los derechos fundamentales. Para neutralizar esta amenaza, la reforma de la Ley 19.549 (operada por la Ley 27.742) ha incorporado una garantía de avanzada al proscribir, en su artículo 9.° inciso c, la implementación de “mecanismos electrónicos, informáticos o de otra naturaleza que, mediante la omisión de alternativas u otros defectos o recursos técnicos, tengan por efecto práctico imposibilitar conductas que no estén legalmente proscriptas”.

Este precepto consagra normativamente la figura de la vía de hecho tecnológica. Cuando un sistema informático estatal presenta fallas operativas, suprime cauces para procesar singularidades o ejecuta temperamentos mecánicos sin habilitar una instancia de rectificación humana, el Estado abandona la esfera de sus potestades legítimas para incurrir en un obrar material antijurídico. Bajo esta hermenéutica, la soberanía digital no se concibe como el mero poder de imponer la digitalización, sino como el deber de impedir que la inflexibilidad del diseño algorítmico obstruya el acceso a la justicia y a la tutela administrativa.

Frente al desafío que impone el nuevo entorno tecnológico, la respuesta del derecho administrativo no puede traducirse en una resignación ante la supuesta perfección de la máquina; exige, por el contrario, la recomposición y el afianzamiento de las garantías ciudadanas. En ese entendimiento, la reforma de la Ley 19.549 ha marcado un hito al positivizar, en su artículo 1.° bis, la “tutela administrativa efectiva”. Este estándar protectorio asegura a los administrados no solo la facultad de ejercer una defensa plena en sede administrativa, sino el derecho a obtener una resolución fundada. Si bien en la provincia de Buenos Aires el Decreto ley 7647/70 carece de una formulación idéntica, este mandato se cristaliza a través de una interpretación integral y dinámica: la exigencia de motivación del acto (art. 108) se entrelaza con la garantía del debido proceso adjetivo, cobrando nueva fuerza al amparo de los preceptos de la Constitución provincial.

Aplicada al escenario de la automatización, la tutela efectiva experimenta una profunda reconfiguración en su contenido material, la garantía ya no se agota en el clásico derecho a ser oído, sino que impone el imperativo de ser comprendido por una inteligencia humana, en el sentido de que el fundamento de la decisión debe ser inteligible para quien la padece y para el juez que eventualmente la controla. Siguiendo el razonamiento de Canevaro y Lau Alberdi (2021), cuando la falta de transparencia del sistema informático impide al administrado desentrañar cuáles han sido los “motivos determinantes” de la decisión algorítmica, se neutraliza su capacidad de impugnación, vaciando de contenido sustancial el derecho de defensa. Por consiguiente, la soberanía digital se manifiesta como un deber de garantía: ninguna resolución emanada de un mecanismo automatizado puede sustraerse del escrutinio y control de juridicidad. En esta línea, la Corte Suprema sostuvo en “Losicer”^[9] que las garantías del artículo 8.° de la Convención Americana se extienden a toda actuación estatal con incidencia en derechos, y en “Astorga Bracht”^[10] que es inconstitucional toda restricción que prive al ciudadano de acceder a una decisión fundada susceptible de impugnación.

Si bien existen experiencias en el uso de tecnología para el monitoreo de violaciones a los derechos humanos, la propuesta aquí formulada avanza hacia una dimensión específica en el contexto del Sistema Interamericano de Derechos Humanos. No se trata de detectar violaciones consumadas, sino de incorporar la IA como herramienta de prevención ex ante en la formación misma del acto administrativo. En este sentido, el “control constructivo de convencionalidad” que aquí se postula exige subsumir la inteligencia artificial como un medio para maximizar los estándares de protección de derechos, antes que como un sustituto del razonamiento jurídico.

Concretamente, este paradigma postula que la Administración no debe circunscribir el empleo de modelos algorítmicos a la mera agilización burocrática, sino orientarlos al diseño de plataformas de inteligencia aumentada capaces de emitir alertas tempranas frente a potenciales vulneraciones de derechos humanos, con carácter previo a la cristalización del acto. Bajo este enfoque, el instrumental tecnológico asume el rol de soporte analítico capaz de identificar, en tiempo real, asimetrías o inconsistencias frente al bloque de constitucionalidad y los mandatos de la Convención Americana, confiriendo al funcionario actuante la posibilidad de corregir el temperamento adoptado antes de que el ilícito convencional se consume. En sintonía con las proposiciones de Salgan Ruiz (2025), la IA se redefine así como un mecanismo de mitigación del riesgo, que articula la potencia del procesamiento masivo de datos con la sensibilidad valorativa inherente a la condición humana.

Estándares constitucionales de validez para el acto administrativo automatizado^[11]

A fin de que la actividad administrativa sustentada en entornos digitales resulte respetuosa de los mandatos constitucionales, legales y convencionales, su implementación debe sortear un riguroso test de validez. Dicho escrutinio se estructura sobre tres postulados derivados de una reconstrucción interpretativa entre los desarrollos dogmáticos de Muñoz (2022) y la reciente reglamentación bonaerense:

– Reserva de humanidad y supervisión significativa: en observancia del principio de la centralidad de la persona humana instituido por la Resolución 9/2025, la imputación de la responsabilidad final no puede ser transferida al software.

– Explicabilidad y trazabilidad: es un mandato que el Estado conserve la aptitud para reconstruir el iter lógico que precede a la toma de decisión. El déficit de explicabilidad contraría la esencia del sistema republicano de gobierno. Por ello, la Resolución 9/2025 consagra normativamente que los desarrollos informáticos sean rastreables e identificables, viabilizando su auditoría permanente (art. 6.° inc. X). Ante la renuncia de esta garantía, la resolución estatal cae bajo la sanción de nulidad absoluta por vicio sustancial en su motivación, configurando aquella vía de hecho tecnológica que el artículo 9.° inciso c de la Ley 19.549 prohíbe expresamente, en una interpretación extensiva del precepto, que originariamente apunta a los obstáculos técnicos que impiden al ciudadano realizar trámites, pero que resulta analógicamente aplicable a todo mecanismo informático que, por su opacidad, torne ilusorio el ejercicio del derecho de defensa, norma incorporada en su texto vigente por el artículo 30 de la Ley 27.742 (B. O. del 8 de julio de 2024).

– Transparencia activa del código: al amparo de la Ley 27.275 de Acceso a la Información Pública (B. O. del 29 de septiembre de 2016), la Administración se encuentra jurídicamente inhabilitada para escudarse en prerrogativas de propiedad intelectual o en el secreto comercial con el propósito de blindar los criterios de programación que rigen los algoritmos estatales. La inteligibilidad del código fuente y de los datos de entrenamiento se constituye como condición para revestir de legitimidad democrática cualquier resolución forjada en entornos automatizados.

El itinerario analítico trazado en este trabajo encuentra su fundamento en un interrogante estructural. ¿Resulta factible que el Estado despliegue potestades administrativas automatizadas sin resquebrajar la imputación constitucional de la voluntad pública ni erosionar la tutela efectiva de los derechos fundamentales? La respuesta nos obliga a una reformulación de las categorías dogmáticas clásicas. Desde esta perspectiva, la soberanía digital no se agota en la aptitud técnica para la gestión ni en la mejora de la eficiencia operativa enaltecida por normativas recientes. En su dimensión sustancial, se constituye como un deber de imputación jurídica. A la Administración le está vedado transferir el núcleo de su competencia decisoria hacia sistemas algorítmicos ininteligibles, frecuentemente diseñados o administrados por terceros.

La “reserva de humanidad”, lejos de encarnar una resistencia a la innovación, opera como el presupuesto de validez del acto administrativo, asegurando que este sea atribuible a un órgano estatal responsable y no a un código fuente de naturaleza anónima.

Esta exigencia no es novedosa en la jurisprudencia constitucional argentina. La Corte Suprema ha sostenido en “Schnaiderman” que es precisamente el ejercicio de potestades discrecionales el que impone una observancia más estricta de la debida motivación, y que la ausencia de causa y de motivación constituye un vicio sustancial que torna ilegítimo el acto, con independencia de las facultades que lo habilitan. Trasladado al universo algorítmico, este estándar conduce a una conclusión irrefutable: si la Administración no puede justificar la lógica del sistema que produjo una determinación, el acto carece de causa verificable y adolece de un vicio insanable de motivación.

En este contexto, la hermeticidad derivada de la opacidad algorítmica se instituye como el desafío más apremiante para el estado de derecho. Si la Administración ampara su accionar en mecanismos de procesamiento cerrado que obturan la posibilidad de desentrañar el iter lógico que precede a la decisión, el acto queda viciado de nulidad absoluta por carencia de motivación y materializa una vía de hecho tecnológica, conducta antijurídica expresamente proscrita por la legislación federal de procedimientos.

Desde la teoría del derecho, Ferrajoli (2011) ha precisado que cuando una decisión no puede ser reconducida a un contenido sustancial coherente con el ordenamiento superior, su invalidez no es meramente formal sino sustancial, y los efectos que produce son, en el mejor de los casos, ilegítimos y provisorios. La decisión algorítmica opaca encarna precisamente ese supuesto: su significado no es verificable, su coherencia con el bloque de constitucionalidad no puede ser constatada y, en consecuencia, su pretensión de validez carece de sustento jurídico.

Para evitar este peligro, emergen mandatos constitucionales infranqueables. Es imperativa una transparencia activa y una explicabilidad que impida oponer el secreto comercial frente a la garantía del debido proceso. Asimismo, en observancia al postulado de la centralidad de la persona humana, la supervisión debe descartar cualquier formulación meramente ritual, exigiendo la intervención de una instancia humana investida de facultades plenas para revisar, rectificar y revocar la determinación sugerida por la máquina. De este modo, el entramado tecnológico debe diseñarse para ejercer un control constructivo de convencionalidad que prevenga vulneraciones en una fase ex ante, como resorte de la buena administración y no como mecanismo de desresponsabilización estatal.

Como derivación institucional, la defensa de esta soberanía exige una configuración administrativa preventiva a nivel nacional. Tomando como referencia normativa los avances de la jurisdicción bonaerense, se propone la federalización de una evaluación de impacto en derechos humanos y convencionalidad algorítmica de carácter obligatorio, mecanismo que reconoce sus antecedentes en las evaluaciones de impacto en derechos fundamentales previstas en el Reglamento Europeo de Inteligencia Artificial (Reglamento UE 2024/1689, AI Act) y en el enfoque basado en riesgo y derechos humanos consagrado en los Principios de la OCDE sobre IA (adoptados el 22 de mayo de 2019, revisados en 2024), y cuya adaptación al ordenamiento argentino constituye la contribución específica de este trabajo. Esta evaluación deberá realizarse con carácter previo a la adquisición o diseño de cualquier sistema de IA en el Estado. Este mecanismo, anclado en un enfoque basado en el riesgo, debe complementarse con la consagración del registro público de algoritmos estatales^[12], una plataforma que, en cumplimiento del deber de transparencia activa, ponga a disposición de la ciudadanía el código fuente, las métricas de procesamiento y la trazabilidad de los datos, viabilizando un verdadero escrutinio democrático. Cabe señalar que la provincia de Buenos Aires ya ha dado un paso pionero en esta dirección mediante el artículo 15 de la Resolución 9/2025, que crea un registro de inteligencia artificial de alcance provincial. La propuesta aquí formulada consiste en su federalización y ampliación al conjunto de la Administración pública nacional.

Frente a estos nuevos escenarios, se propone la consagración doctrinaria y pretoriana de un hábeas data algorítmico, figura que, en línea con los desarrollos del derecho comparado, particularmente, el derecho de explicación consagrado en el artículo 22 del Reglamento General de Protección de Datos europeo, en la descripción que de él realizan Wachter, Mittelstadt y Floridi (2017), y el análisis de transparencia, explicabilidad y rendición de cuentas en IA desarrollado por estos mismos autores, es aquí adaptada al bloque de constitucionalidad argentino. Esta garantía, anclada en el artículo 43 de la Constitución nacional, faculta al ciudadano no solo a conocer sus datos personales, sino a interpelar la arquitectura del software para desentrañar los pesos, las variables y la lógica computacional que el sistema empleó para clasificarlo o juzgarlo. En sintonía con ello, cabe advertir que la ausencia de transparencia algorítmica afecta la presunción de legitimidad del acto administrativo (art. 12 de la Ley 19.549, texto según art. 33 de la Ley 27.742, B. O. del 8 de julio de 2024). Cuando la Administración delega su decisión en una arquitectura hermética, se produce una ruptura del nexo causal que justifica dicho privilegio, provocando una inversión de la carga probatoria: recae sobre el Estado el deber de demostrar la indemnidad, equidad y legalidad de la lógica utilizada.

Cabe reconocer que la inserción del Estado en el paradigma automatizado constituye un proceso ineludible y necesario. Ahora bien, su legitimidad constitucional se encuentra supeditada a un criterio rector: la constante subordinación de la técnica a los mandatos de la ética pública. La soberanía digital representa, en su significación última, el límite que garantiza que ninguna determinación con impacto directo sobre la vida, la libertad o el patrimonio de las personas quede librada al albedrío inescrutable de una máquina.

BURRELL, J. (2016). How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, 3(1). https://doi.org/10.1177/2053951715622512.

CANEVARO, C. R. y LAU ALBERDI, J. (2021). La actuación administrativa automatizada en el Estado constitucional de derecho. Revista de Derecho Administrativo, 133. TR LALEY AR/DOC/4068/2020.

COGLIANESE, C. y LEHR, D. (2017). Regulating by Robot: Administrative Decision Making in the Machine-Learning Era. Georgetown Law Journal, 105(5).

FERRAJOLI, L. (2011). Principia Iuris. Teoría del derecho y de la democracia. Tomo I: Teoría del derecho. Trotta.

MUÑOZ, R. A. (2022). El control judicial de la actividad administrativa automatizada. Revista Eletrônica Direito e Sociedade, 10(2). https://doi.org/10.18316/REDES.v10i2.10279.

PASQUALE, F. (2015). The black box society: The secret algorithms that control money and information. Harvard University Press.

PONCE SOLÉ, J. (2019). Inteligencia artificial, derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, 50.

SALGAN RUIZ, L. G. (2025). Control automatizado de convencionalidad en la era del algoritmo. Impacto de la IA generativa en la tutela administrativa efectiva. La Ley, 2025-C, 38. TR LALEY AR/DOC/756/2025.

WACHTER, S., MITTELSTADT, B. y FLORIDI, L. (2017). Transparent, explainable, and accountable AI for robotics. Science Robotics, 2(6), eaan6080. https://doi.org/10.1126/scirobotics. ea6080.

El artículo está protegido por una Licencia Creative Commons Atribución-NoComercial-ShareAlike 4.0

Revista Jurídica Universidad Nacional del Oeste . Número 7. Editada entre enero y junio del año 2025. Periodicidad semestral.

Editorial EDUNO de la Universidad Nacional del Oeste.Realizada en el marco del Instituto de Educación, Justicia y Trabajo de la Universidad Nacional del Oeste

[1] Jueza de Tribunal en lo Criminal nro. 2 de Merlo (designada). Secretaria de la Fiscalía de Juicio nro. 2 de Morón. Abogada. Especialista en Justicia Constitucional y Derechos Humanos (Universidad Nacional del Oeste). Diplomada en Derecho Penal Profundizado, Control de Constitucionalidad y Nuevas Modalidades Delictivas. Docente universitaria de grado y posgrado (UNO). Identificador ORCID: https://orcid.org/0009-0007-7619-7929. Correo electrónico: laura.matrakar@gmail.com.

[2] Normas recientes, como la Resolución 111/2024 del Ministerio de Justicia y la Resolución 9/2025 de la Provincia de Buenos Aires, reflejan este nuevo paradigma, al mostrar que la modernización digital se ha convertido en un paradigma global.

[3] Ley 19.549 de Procedimientos Administrativos (B. O. del 27 de abril de 1972). Texto actualizado según Ley 27.742 (B. O. del 8 de julio de 2024).

[4] Emitida por la Subsecretaría de Gobierno Digital del Ministerio de Gobierno de la provincia de Buenos Aires y titulada “Reglas para el desarrollo, implementación y uso responsable de sistemas de Inteligencia Artificial para la Administración Pública de la Provincia de Buenos Aires”.

[5] La Plata, 3 de noviembre de 1970. Texto actualizado con modificaciones introducidas por las leyes 13.262, 13.708, 14.224 y 14.229.

[6] Esta previsión puede interpretarse como una recepción provincial del principio de “reserva de humanidad”, según el cual la última palabra en los procesos decisorios debe corresponder siempre a la persona humana, concepto desarrollado en la doctrina administrativista por Ponce Solé (2019) y receptado en la literatura argentina por Muñoz (2022), cuyo correlato en el plano internacional se encuentra en el principio de “acción y supervisión humanas” consagrado en las Directrices éticas para una IA fiable, de la Comisión Europea (2019). La tecnología está llamada a actuar como vector de asistencia; le queda absolutamente vedado reemplazar la potestad decisoria y la responsabilidad del funcionario público.

[7] CSJN, “Schnaiderman Ernesto Horacio c/ Estado Nacional - Secretaría de Cultura y Comunicación de la Presidencia de la Nación s/ recurso de hecho”, 8 de abril de 2008, fallos 331:735.

[8] El derecho a la explicación de decisiones automatizadas encuentra su antecedente normativo más consolidado en el artículo 22 del Reglamento General de Protección de Datos de la Unión Europea, que consagra el derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado con efectos jurídicos o significativos sobre el individuo. Sobre los alcances y límites de ese derecho en materia de IA y robótica, y en particular sobre las tensiones entre interpretabilidad y rendimiento de los sistemas algorítmicos, así como la necesidad de mecanismos de auditoría y certificación previa al despliegue de sistemas opacos, véase Wachter, Mittelstadt y Floridi (2017).

[9] CSJN, “Losicer, Jorge Alberto y otros c/ BCRA - Resol. 169/05 (expte. 105666/86 - SUM FIN 708)”, 26 de junio de 2012, fallos 335:1126.

[10] CSJN, “Astorga Bracht, Sergio y otro c/ COMFER - dto. 310/98 s/ amparo ley 16.986”, 14 de octubre de 2004, fallos 327:4185.

[11] Cabe advertir que los conceptos de “explicabilidad”, “transparencia algorítmica” y “reserva de humanidad” aquí empleados no constituyen creaciones originales de este trabajo, sino principios ampliamente desarrollados en la literatura internacional sobre ética y derecho de la IA, particularmente en los marcos regulatorios europeo y estadounidense.

[12] Las propuestas institucionales del registro público de algoritmos y el hábeas data algorítmico representan adaptaciones al contexto jurídico argentino de mecanismos de rendición de cuentas algorítmica (algorithmic accountability) discutidos en el derecho comparado.