Libertad en lo digital: tres cosas que tienen que llegar juntas

Soberanía, reglas fiables y confianza real. Quite una y las otras dos dejan de funcionar.

Esta noche, en Berlín, la Deutsche Gesellschaft für Recht und Informatik e.V. (DGRI) ha inaugurado su congreso anual, en su quincuagésimo año. El tema es una sola pregunta, y la sociedad la formula sin rodeos: Freiheit im Digitalen, libertad en lo digital. ¿Hasta qué punto somos libres en un mundo cada vez más digitalizado? 🕊️

No es una pregunta retórica. El programa continúa hasta el 13 de noviembre en la Universidad Humboldt de Berlín y se organiza en torno a los temas que desarman esa pregunta: inteligencia artificial, soberanía digital, anonimato y libertad de expresión. Jueces, academia, reguladores, operadores de plataformas y abogados en ejercicio en la misma sala, algo más raro de lo que debería ser.

Nuestro Director General asiste. Esto es lo que ese encuadre significa para quien construye sistemas de IA para organizaciones europeas.

🧭 La libertad digital no es un estado por defecto

La suposición cómoda es que la libertad digital es lo que queda cuando nadie interfiere. Se quitan las reglas y aparece la libertad.

Nunca ha funcionado así. La libertad digital es una construcción. Se apoya en tres cosas, y las necesita las tres a la vez:

1. Soberanía. No depender, ni tecnológica ni jurídicamente.
2. Reglas fiables. Reglas lo bastante claras como para planificar con ellas.
3. Confianza real. No confianza declarada. Confianza demostrada.

Quite cualquiera de las tres y las otras dos dejan de funcionar. Eso es precisamente lo que el debate público suele pasar por alto, porque casi siempre defiende una a costa de otra.

☁️ Soberanía: la pregunta detrás de la pregunta sobre la nube

La soberanía digital figura en el programa como tema propio, lo cual dice bastante. La pregunta de fondo es sencilla: ¿somos realmente soberanos?

En Europa, el debate sobre la nube suele plantearse como una cuestión de dónde está el centro de datos. Ese encuadre es cómodo y es incompleto.

La pregunta real es quién puede obligar a dar acceso, bajo qué ordenamiento jurídico, y si usted llegaría a enterarse. Un centro de datos dentro de la UE, operado por una entidad sujeta a un ordenamiento no europeo, es una respuesta geográfica a una pregunta de jurisdicción.

Y las "garantías digitales" de un proveedor son exactamente eso. Garantías. Valen algo. No son lo mismo que una arquitectura en la que el acceso ni siquiera existe para poder ser exigido.

Tres preguntas de soberanía que valen más que cualquier certificación:

• ¿Dónde residen físicamente las credenciales y las claves, y quién las custodia?
• Si queremos marcharnos, ¿qué nos llevamos exactamente y cuánto tiempo lleva?
• ¿Puede el proveedor cambiar las condiciones de servicio por debajo de nosotros, y en qué posición quedamos si lo hace?

La soberanía no es una bandera en un mapa. Es revocabilidad, portabilidad y la ausencia de un único punto donde se pueda ejercer coacción. 🔑

⚖️ Reglas: la regulación no es lo contrario de la innovación

La inteligencia artificial figura junto a ella en el programa, incluido el estado actual del Reglamento Europeo de IA y la calificación jurídica de los agentes de IA en concreto.

En parte del sector tecnológico existe un reflejo que trata toda regulación como un freno. A veces lo es. Pero el reflejo invierte la causalidad.

Las reglas claras son las que crean las condiciones para invertir. Un mercado regulado es aquel en el que un comprador puede firmar un contrato a tres años sin temer que el suelo se mueva. Un mercado no regulado es aquel en el que nadie en el consejo aprueba el presupuesto, porque nadie sabe decir cuál es la exposición.

Lo que frena la innovación no es la regulación. Es la incertidumbre regulatoria. Son dos problemas distintos con soluciones opuestas.

La versión honesta es esta: las malas reglas sí frenan. Reglas escritas sin entender la tecnología, reglas que exigen pruebas que nadie puede aportar, reglas que cambian cada dieciocho meses. La respuesta a eso son reglas mejores, no menos reglas.

El caso agéntico lo hace concreto. Un agente de IA que ejecuta una acción sobre un sistema de registro no es un chatbot. Necesita una identidad, un permiso acotado, un punto de aprobación y una traza de auditoría. Cada uno de ellos es a la vez un requisito jurídico y un requisito de ingeniería. Eso no es la regulación peleando contra la innovación. Es la regulación describiendo la arquitectura. 🤖

🤝 Confianza: la parte que no se puede declarar

El tercer elemento es el que las organizaciones intentan atajar con más frecuencia.

La confianza no es un sello en una web. No es una garantía en un contrato. La confianza es lo que se acumula cuando un sistema se comporta de forma previsible en condiciones que nadie diseñó.

En la práctica surge de cosas poco vistosas:

• El sistema dice lo que no sabe, en lugar de adivinar con aplomo
• Una persona puede ver qué ocurrió y por qué
• Cuando falla, falla de forma ruidosa y no silenciosa
• Alguien responde, y ese alguien tiene nombre

El anonimato y la libertad de expresión están ambos en el programa, y ambos son preguntas de confianza con otra ropa. Con cuánta libertad y cuánta seguridad se mueve la gente por internet se decide a diario, mediante decisiones de diseño que la mayoría de los usuarios nunca ve.

🔄 Por qué las tres no se pueden separar

Esta es la parte en la que merece la pena detenerse.

Soberanía sin reglas produce fragmentación. Cada país construyendo su propia pila, nada que interopere y un mercado más pequeño para todos.

Reglas sin soberanía producen teatro de cumplimiento. Puede escribir el mejor marco de gobernanza de IA de Europa y seguir sin controlar la infraestructura sobre la que corre.

Cualquiera de las dos sin confianza produce un sistema que nadie usa. La adopción es donde la gobernanza se demuestra o se revela como papeleo.

Libertad y responsabilidad no son un equilibrio de compromiso. Son la misma estructura descrita desde dos lados. 🧩

🏗️ Qué significa esto para quien construye de verdad

Un congreso como este es donde se discute el orden jurídico de la próxima década. La mayor parte de lo que allí se decide llega a los backlogs de ingeniería unos dieciocho meses después.

La lectura práctica, para quien despliega IA dentro de una organización europea:

• Resuelva la pregunta de jurisdicción ya, en el diseño. No porque mañana lo pregunte un regulador, sino porque adaptar un perímetro de datos a posteriori es mucho más caro que construirlo. Los controles diseñados pronto cuestan menos y son mucho más fáciles de evidenciar que los controles atornillados contra una fecha límite.
• Trate la traza de auditoría como una funcionalidad del producto. Es lo que le permite ampliar después la autoridad del sistema. Sin ella, cada ampliación exige volver a argumentar desde cero.
• Ponga a la persona donde la decisión sea reversible. No en todas partes, eso paraliza el sistema. En los puntos donde equivocarse sale caro.
• Mantenga una salida real. Si no puede describir en una página cómo se marcharía de una plataforma, no tiene una salida. Tiene una esperanza.

🎯 Dónde estamos

Construimos y operamos sistemas de IA agéntica para organizaciones europeas, con equipos alemanes e indios. Las preguntas de este programa son las que nuestros clientes plantean en la primera reunión, normalmente de forma menos precisa.

Nuestra posición no ha cambiado y esta semana la ha reforzado: la capacidad del modelo ya no es la restricción determinante para la mayoría de las cargas de trabajo empresariales. Lo son la gobernanza, los costes unitarios y la propiedad.

Un agente que puede leer es una demostración. Un agente que puede escribir necesita cuatro cosas: una identidad, un permiso acotado, un punto de aprobación y una traza de auditoría. Soberanía, reglas y confianza no son abstracciones en esa frase. Son el material del que están hechas esas cuatro cosas.

🚧 Lo que no vamos a afirmar

No somos abogados y nada de esto es asesoramiento jurídico. Son nuestras notas sobre un programa de congreso público y nuestra lectura de lo que significa para quienes construyen.

Tampoco vamos a afirmar que los sistemas gobernados salgan gratis. Arrancan más despacio y cuestan más al principio. Lo que compran es la capacidad de ampliar el alcance después sin renegociar la confianza desde cero, que es justamente donde suelen morir los pilotos sin gobernanza.

Y la posición jurídica en varias de estas cuestiones, en particular la responsabilidad por agentes, está genuinamente sin resolver. Quien le diga lo contrario le está vendiendo algo.

📅 Hablemos

Reserve una revisión de 30 minutos. Le diremos cuáles de sus casos de uso de IA resisten hoy la pregunta de jurisdicción y cuáles no.

Privacidad de datos, GenAI y asesoramiento: mejuvante.ai/enquiry-1