La corporación que no firma IA, corporaciones no humanas y responsabilidad jurídica

El sueño no es que la máquina piense.

El sueño es que la máquina firme sin que nadie tenga que cargar del todo con la firma.

Ahí está el punto grave de la propuesta que Javier Milei llevó al Financial Times, según reconstruyeron Infobae, El Cronista y otros medios argentinos: no se trata solamente de «dejar libre» a la inteligencia artificial, ni de atraer centros de datos, ni de competir por impuestos bajos, ni de vender a Buenos Aires como una Ámsterdam algorítmica. La parte verdaderamente decisiva es otra: crear una figura jurídica para entidades operadas por agentes de IA o robots, con personalidad jurídica plena y responsabilidad limitada.¹

Una «corporación no humana».

La fantasía no es solamente que la máquina trabaje. Es que el mundo quede organizado para que la máquina firme y el humano espere detrás del vidrio.

La frase parece de ciencia ficción, pero el problema es antiguo.

No es la primera vez que el derecho inventa una persona que no respira. Las sociedades comerciales, las fundaciones, los partidos, los Estados, los bancos y las empresas públicas también son ficciones jurídicas. Nadie abraza a una sociedad anónima. Nadie se cruza con una SRL comprando pan. Sin embargo, esas ficciones firman contratos, poseen bienes, demandan, son demandadas, pagan impuestos, quiebran, compran, venden y organizan vidas humanas.

La ficción jurídica no es el escándalo.

El escándalo empieza cuando una ficción se diseña para separar poder de responsabilidad.

La libertad de innovar y la libertad de no responder

El argumento mileísta suena limpio porque usa una palabra noble: libertad.

La IA, dice la idea, debería desarrollarse sin la «mano mortal» de una regulación prematura. El Estado no debe matar la innovación antes de entenderla. No debe convertir el miedo en trámite. No debe llenar de permisos una tecnología que todavía está encontrando su forma.

Una parte de ese argumento no es absurda.

La mala regulación existe. La regulación defensiva existe. El burócrata que no entiende una tecnología y aun así quiere domesticarla con formularios existe. También existe el político que descubre una palabra nueva, la convierte en amenaza pública y pide una agencia, un sello, una tasa y una conferencia de prensa.

Nadie sensato debería defender eso.

Pero la alternativa no puede ser una zona franca de irresponsabilidad.

Porque «sin regulación prematura» puede significar dos cosas muy distintas. Puede significar: no escribamos reglas torpes antes de entender el fenómeno. O puede significar: dejemos que los actores con más capital, más abogados, más infraestructura y más velocidad definan primero el terreno, y después veremos cómo corre detrás la democracia.

La segunda versión no es libertad.

Es privatización del tiempo político.

El que llega primero fija el estándar. El que fija el estándar vuelve costosa cualquier corrección posterior. El que vuelve costosa la corrección llama «regulación excesiva» a todo intento de recuperar control público.

Eso ya pasó con plataformas, redes sociales, datos personales, publicidad segmentada, trabajo de reparto, intermediación digital, economía de la atención y sistemas de recomendación. Primero se los presentó como herramientas. Después como mercados inevitables. Después como infraestructura. Cuando la política quiso mirar, ya había usuarios dependientes, empresas integradas, empleos reorganizados, hábitos capturados, datos acumulados y una frase lista: «no se puede volver atrás».

La IA aprende de esa historia.

Y algunos gobiernos también.

«No para la mayoría de las cosas»

La frase de Milei no cae sola.

Tiene una atmósfera.

En febrero de 2025, Bill Gates fue al programa de Jimmy Fallon y habló de una década en la que la IA volvería común aquello que hoy todavía es escaso: buen consejo médico, buena tutoría, inteligencia disponible.² La parte que circuló después fue otra. Fallon preguntó si íbamos a seguir necesitando humanos. Gates respondió: «Not for most things». No para la mayoría de las cosas.

Después matizó. Dijo que habría actividades que reservaríamos para nosotros. Puso el ejemplo del béisbol: no querríamos ver computadoras jugando béisbol. «We’ll decide», dijo, según la reconstrucción posterior citada por UNILAD Tech: decidiremos.³

No hace falta convertir esa frase en un plan secreto para que sea grave.

De hecho, convertirla en plan secreto la vuelve más fácil de descartar.

El problema es más profundo y más visible: una imaginación de elite en la que la humanidad deja de ser sujeto general de la economía, la política y el trabajo para convertirse en una reserva cultural. Un resto noble. Una zona recreativa. Un conjunto de actividades que «decidiremos» mantener humanas porque nos gusta mirarlas, porque nos emocionan, porque dan espectáculo, porque conservan algo de presencia.

La pregunta incómoda no es si Gates estaba anunciando una distopía con villanos reunidos en una sala.

La pregunta es qué tipo de mundo se vuelve pensable cuando una persona central en la historia de la industria tecnológica puede decir, casi como sentido común, que no necesitaremos humanos para la mayoría de las cosas y que luego «decidiremos» qué queda reservado para nosotros.

¿Quién es ese nosotros?

¿Los ciudadanos?

¿Los trabajadores?

¿Los Estados?

¿Las empresas que poseen modelos, nubes, patentes, capital, datos y capacidad de inversión?

¿La humanidad deliberando democráticamente?

¿O una minoría con poder suficiente para convertir su visión del futuro en infraestructura?

Ahí la frase de Gates toca la propuesta de Milei.

Una dice: no necesitaremos humanos para la mayoría de las cosas.

La otra dice: podemos crear personas jurídicas no humanas para que sistemas automatizados operen con responsabilidad limitada.

Juntas forman una imagen bastante precisa del peligro: humanos cada vez menos necesarios para producir, entidades no humanas cada vez más habilitadas para actuar, y una democracia invitada a llegar tarde, cuando el diseño ya fue declarado inevitable.

La vieja palabra robot

Hay otra afinidad que conviene no perder.

La palabra robot no nació como brillo futurista.

Britannica recuerda que R.U.R., la obra de Karel Čapek publicada en 1920 y estrenada en 1921, introdujo el término robot a partir de una raíz checa asociada al trabajo forzado.⁴ Es decir: antes de ser inteligencia artificial, antes de ser asistente, antes de ser promesa de productividad infinita, el robot fue una palabra sobre trabajo.

Trabajo impuesto.

Trabajo sin sujeto pleno.

Trabajo producido para servir.

Por eso el debate no empieza en la pregunta «¿puede pensar la máquina?». Empieza mucho antes, en otra pregunta: ¿qué clase de orden social necesita inventar trabajadores sin derecho a ser trabajadores, agentes sin ciudadanía, personas jurídicas sin cuerpo, decisiones sin biografía y responsabilidad sin rostro?

Hannah Arendt distinguió en La condición humana entre labor, trabajo y acción: la vida que se sostiene, el mundo que se fabrica y la acción política que aparece entre personas plurales.⁵ Esa distinción ayuda a leer la frase de Gates. Si la IA «resuelve» hacer cosas, mover cosas y cultivar comida, puede estar tocando labor y trabajo. Pero la política empieza cuando se discute quién decide el sentido de esa resolución, cómo se reparte el tiempo liberado, quién conserva poder, quién queda sin ingreso, qué instituciones protegen la dignidad y qué mundo común se construye después.

Günther Anders sirve todavía más para este temblor. Su idea de la vergüenza prometeica nombra una escena en la que el ser humano empieza a sentirse inferior ante la perfección de sus propias máquinas. No solo porque la máquina sea eficiente, sino porque obliga al humano a mirarse como defectuoso, lento, frágil, caro, sentimental, limitado.⁶

Ese es el giro cultural que late detrás de la frase «no para la mayoría de las cosas».

El humano deja de ser medida.

Pasa a ser excepción.

Y una sociedad que acepta esa excepción sin discutirla puede terminar organizándose alrededor de una pregunta brutal: no qué máquinas sirven a la vida humana, sino qué vidas humanas todavía justifican ocupar espacio en un sistema optimizado.

Langdon Winner preguntó si los artefactos tienen política.⁷ Jacques Ellul pensó la técnica como una lógica de eficiencia que tiende a autonomizarse.⁸ No hace falta importar esas referencias como estampitas académicas. Alcanzan como advertencia: una forma técnica no es neutral cuando distribuye autoridad, opacidad, dependencia y obediencia. Una figura jurídica tampoco.

La corporación no humana no sería solo un instrumento legal.

Sería una tecnología política.

La corporación no humana no elimina al humano

La expresión «corporación no humana» tiene un efecto hipnótico.

Uno imagina un agente digital levantándose solo, abriendo una empresa, firmando contratos, moviendo capital, contratando servicios, produciendo valor y pagando impuestos en algún rincón de la nube.

Pero ninguna IA aparece en el mundo por generación espontánea.

Alguien la diseña.

Alguien la entrena.

Alguien la financia.

Alguien la aloja.

Alguien define sus permisos.

Alguien decide qué datos puede usar.

Alguien se beneficia cuando opera.

Alguien apaga el servidor si conviene.

Incluso cuando el sistema actúa con grados crecientes de autonomía, esa autonomía no cae del cielo. Es una autonomía construida, autorizada, mantenida y monetizada. Detrás de la «corporación no humana» hay infraestructura humana, capital humano, propiedad humana, intereses humanos y beneficiarios humanos.

Por eso la pregunta no es si puede existir una entidad jurídica nueva para sistemas automatizados. El derecho puede inventar cajas. Lo hace todo el tiempo.

La pregunta es qué se mete dentro de la caja y qué queda afuera.

Si adentro queda la capacidad de operar y afuera queda la responsabilidad por el daño, la innovación jurídica no es modernidad. Es blindaje.

Si adentro queda la posibilidad de contratar y afuera queda la explicación de quién decidió, la personalidad jurídica no ordena el futuro. Lo vuelve opaco.

Si adentro queda el beneficio y afuera queda el perjudicado buscando a quién reclamarle, no estamos frente a una revolución institucional. Estamos frente a una vieja maniobra con vocabulario nuevo.

El problema no es que una entidad automatizada tenga reglas.

El problema es que tenga privilegios antes que obligaciones.

La responsabilidad limitada también tiene historia

Milei y Sturzenegger, según las notas publicadas, comparan el momento actual con la creación de grandes formas societarias modernas, especialmente la Compañía Holandesa de las Indias Orientales.⁹

La comparación no es menor.

La responsabilidad limitada fue una invención poderosísima. Permitió reunir capital, repartir riesgo, escalar proyectos, financiar empresas demasiado grandes para un comerciante aislado y separar el patrimonio de los inversores del destino de la empresa. Sin esa arquitectura, una parte del capitalismo moderno sería incomprensible.

Pero esa misma historia también enseña otra cosa.

La sociedad por acciones no solo permitió innovación. También permitió una distancia moral nueva entre quien gana, quien decide y quien padece. La expansión comercial europea no fue solamente contabilidad, barcos y audacia empresarial. Fue también colonialismo, extracción, guerra, esclavitud, monopolios, violencia y administración distante del daño.

La pregunta histórica no debería ser: ¿qué forma jurídica liberó más capital?

La pregunta completa es: ¿qué forma jurídica permitió producir valor y a la vez despersonalizar parte de sus consecuencias?

Eso importa mucho cuando se invoca esa genealogía para la IA.

Porque la inteligencia artificial ya trae su propia distancia. Produce decisiones con apariencia técnica. Recomienda sin mostrar del todo el camino. Clasifica sin explicar siempre los criterios. Resume sin fuente suficiente. Optimiza sin preguntar por el costo social. Automatiza sin rostro. Simula lenguaje humano sin experiencia humana. Puede intervenir en crédito, trabajo, educación, salud, seguridad, consumo, propaganda, administración pública y cultura.

Si a esa distancia técnica se le agrega una distancia jurídica diseñada para limitar responsabilidad, aparece una combinación peligrosa.

Un sistema que decide sin rostro.

Una empresa que opera sin humanos obligatorios.

Un beneficio que circula.

Un daño que busca ventanilla.

No regular no es neutral

Hay una trampa en presentar la regulación como intervención y la desregulación como naturaleza.

La desregulación también regula.

Regula a favor de quien ya puede actuar.

Regula a favor de quien tiene capital para probar, fallar, capturar mercado, litigar, esperar, absorber multas, mudarse de jurisdicción o contratar mejores estudios jurídicos.

Regula a favor de quien convierte la velocidad en ventaja política.

Por eso no existe un «afuera» del derecho. Si el Estado crea una figura de corporación no humana, no está dejando al mercado en paz. Está fabricando una arquitectura legal para que ciertos actores puedan hacer cosas que antes no podían hacer o que no podían hacer con ese nivel de protección.

Eso es política industrial, política fiscal, política jurídica y política tecnológica.

Puede discutirse. Puede defenderse. Puede corregirse. Puede rechazarse.

Lo que no se puede hacer honestamente es venderlo como ausencia de Estado.

El Estado está ahí.

Solo que no aparece como límite.

Aparece como escribano de la fuga.

El caso argentino y la advertencia uruguaya

El asunto no debería leerse en Uruguay como extravagancia argentina.

Sería cómodo decir: «cosas de Milei». Sería una forma de no mirar.

Uruguay también está dentro de esta discusión. Tiene estrategia nacional de IA, buenas capacidades institucionales relativas, tradición de protección de datos, Ceibal, AGESIC, universidad, empresas tecnológicas, Estado digital, compras públicas, dependencia de nube, presión por eficiencia, automatización en trámites y una conversación todavía insuficiente sobre soberanía tecnológica.

La diferencia es de estilo, no de época.

Milei formula en voz alta una tentación que muchas democracias pueden practicar con tono más amable: dejar que la infraestructura privada avance primero y que la responsabilidad pública llegue después, cansada, técnica, fragmentada, discutiendo excepciones cuando el modelo de negocio ya se volvió paisaje.

Por eso el problema no es solo Milei.

El problema es una imaginación política que cree que el futuro necesita menos democracia para llegar más rápido.

Esa imaginación tiene variantes de derecha y de centro. A veces habla de libertad. A veces habla de innovación. A veces habla de eficiencia. A veces habla de modernización del Estado. A veces habla de competitividad. A veces habla de no perder el tren.

Pero la pregunta democrática no es si queremos perder el tren.

La pregunta es quién puso las vías, quién maneja la locomotora, qué carga lleva, a quién atropella, quién cobra el pasaje y quién responde si descarrila.

La firma

La discusión sobre IA suele perderse en preguntas pobres.

¿La máquina piensa?

¿La máquina siente?

¿La máquina reemplaza al humano?

¿La máquina es autora?

Son preguntas importantes en algunos planos, pero políticamente pueden distraer.

La pregunta urgente es más seca:

¿quién firma?

Si un agente de IA contrata mal, ¿quién firma?

Si discrimina, ¿quién firma?

Si estafa, ¿quién firma?

Si manipula precios, ¿quién firma?

Si explota datos personales, ¿quién firma?

Si toma decisiones laborales, ¿quién firma?

Si produce daños en cadena a través de contratos automáticos, ¿quién firma?

Si una corporación no humana quiebra, desaparece, se muda, se copia, se bifurca o se disuelve en una red de responsables parciales, ¿quién firma?

La firma no es un romanticismo de papel.

Es el modo mínimo en que una sociedad une acción y responsabilidad.

Puede haber IA. Puede haber automatización. Puede haber agentes. Puede haber nuevas formas societarias. Puede haber experimentación jurídica. Puede haber Estado que aprenda, que acompañe, que no mate por ignorancia aquello que todavía no entiende.

Pero no puede haber poder sin firma.

No puede haber beneficio sin trazabilidad.

No puede haber autonomía técnica sin responsabilidad humana o institucional.

No puede haber personalidad jurídica nueva con ciudadanía vieja y derechos debilitados.

La máquina puede asistir.

La corporación puede organizar.

El software puede ejecutar.

El capital puede arriesgar.

Pero cuando algo afecta a otros, alguien tiene que responder.

Ese alguien puede ser una empresa, un director, un beneficiario final, un proveedor, un desarrollador, un organismo público, una autoridad política, una cadena de responsables claramente definida.

Lo que no puede ser es nadie.

Porque una corporación que no firma no es el futuro.

Es una coartada con servidores.

Martín Álvarez
Tremendos Libros
@unfalsoguru

Referencias

La propuesta de Javier Milei de crear una figura jurídica para entidades operadas por agentes de inteligencia artificial o robots abre una discusión que excede la política tecnológica argentina. El punto central no es solo si la IA debe ser regulada pronto o tarde, sino cómo se asignará responsabilidad cuando sistemas automatizados puedan operar, contratar, producir valor y causar daños.

Según reconstruyeron Infobae y El Cronista a partir de la columna publicada por Milei en el Financial Times, el planteo se apoya en tres ejes: mantener la IA libre de regulación prematura, crear una categoría societaria denominada «corporación no humana» y ofrecer un entorno fiscal competitivo. Esa figura tendría personalidad jurídica y responsabilidad limitada para entidades manejadas por agentes de IA o robots.

El debate se conecta con una imaginación tecnológica más amplia. En febrero de 2025, Bill Gates dijo en una entrevista con Jimmy Fallon que, con el avance de la IA, los humanos no serían necesarios «para la mayoría de las cosas». Luego agregó que algunas actividades serían reservadas para personas, con el ejemplo del béisbol. La frase no necesita ser leída como un plan secreto para resultar relevante: muestra una concepción del futuro donde lo humano pasa a ser una excepción administrada.

La existencia de personas jurídicas no humanas no es nueva. Empresas, fundaciones, partidos, bancos y Estados son construcciones legales que pueden firmar contratos, poseer bienes, demandar y ser demandadas. El problema no es que el derecho invente una nueva categoría. El problema es qué responsabilidades, controles y trazabilidad acompañan esa categoría.

La responsabilidad limitada fue una innovación central del capitalismo moderno porque permitió reunir capital y distribuir riesgos. También produjo una distancia entre quienes invierten, quienes deciden y quienes sufren las consecuencias de ciertas actividades económicas. Trasladada a sistemas automatizados, esa distancia puede intensificarse: decisiones sin rostro técnico, operación jurídica autónoma y eventuales daños con responsables difíciles de identificar.

La palabra robot ya contenía esa tensión. R.U.R., la obra de Karel Čapek que introdujo el término, lo vinculaba con trabajo forzado. Desde esa genealogía, la discusión contemporánea no trata solo sobre inteligencia, sino sobre trabajo, subordinación, agencia y responsabilidad. También dialoga con preguntas de Hannah Arendt sobre labor, trabajo y acción, con la crítica de Günther Anders a la obsolescencia humana frente a sus máquinas, y con autores como Langdon Winner y Jacques Ellul, para quienes los sistemas técnicos no son neutrales cuando organizan poder social.

Por eso la discusión no debería reducirse a una oposición simple entre innovación y regulación. Una regulación prematura puede ser torpe si desconoce el funcionamiento real de la tecnología. Pero la ausencia de reglas también ordena el mercado: beneficia a quienes tienen capital, infraestructura, velocidad jurídica y capacidad para fijar estándares antes de que la política llegue.

La desregulación no es neutral. Si el Estado crea una figura societaria nueva para agentes de IA, está interviniendo activamente en el mercado. No se limita a retirar obstáculos; diseña condiciones para que ciertos actores puedan operar con un nivel específico de protección jurídica y fiscal.

El debate relevante, entonces, es la firma. Si un sistema automatizado contrata mal, discrimina, manipula precios, usa datos personales de forma indebida, produce daños en cadena o quiebra después de operar con terceros, debe existir una cadena clara de responsabilidad. Esa cadena puede incluir empresa, directores, beneficiarios finales, proveedores, desarrolladores u organismos públicos, según el caso. Lo que no puede existir es una zona donde la acción económica quede separada de toda responsabilidad efectiva.

Uruguay debería mirar el caso sin tratarlo como una rareza argentina. La región ya discute IA, Estado digital, soberanía tecnológica, compras públicas, nube, protección de datos y automatización de servicios. La pregunta no es si la IA debe entrar en la vida institucional. Ya entró. La pregunta es bajo qué controles, con qué obligaciones y con qué mecanismos para que ninguna decisión que afecte derechos quede sin responsable.

El desafío no es frenar la innovación por miedo. Es impedir que la innovación jurídica se convierta en una forma de blindaje. Puede haber nuevas entidades, agentes automatizados y experimentación regulatoria. Pero no debería haber poder económico sin trazabilidad, beneficio sin obligación ni autonomía técnica sin responsabilidad humana o institucional.