Imagina encender la televisión y encontrarse con el rostro de una actriz albanesa, traje tradicional incluido, anunciando políticas públicas y respondiendo a periodistas desde un atril ministerial. No se trata de una campaña publicitaria ni de un montaje satírico: es Diella, un Avatar, o la primera inteligencia artificial en el mundo nombrada ministra en funciones de un Estado. Albania, un país pequeño en el Mediterráneo con una historia reciente marcada por la transición acelerada, ha decidido dar a una IA un puesto oficial en el gabinete. El gesto suena provocador, incluso ridículo a primera vista: ¿un algoritmo en el Consejo de Ministros? ¿No es esto abrir la puerta a un futuro de ciencia ficción donde las máquinas sustituyen a los humanos?

Otra señal de que el futuro siempre está cerca
Pero el movimiento del gobierno albanés revela otra intención. Lejos de ser una fría sustitución, Diella simboliza un experimento democrático. Su rol no es reemplazar la política, sino amplificarla, ordenarla, y hacerla más transparente. La extrañeza inicial es, quizás, la reacción natural a un hecho disruptivo. Lo relevante es la pregunta que sigue: ¿estamos ante un ensayo aislado en Tirana, o ante la semilla de un modelo político global que podría redefinir la democracia del siglo XXI?

Albania como laboratorio
Albania, con 2,8 millones de habitantes, no juega en la liga de las grandes potencias, pero precisamente ahí radica su ventaja. En países grandes, cualquier iniciativa gubernamental debe atravesar capas interminables de burocracia, regiones y autoridades intermedias. En Albania, los circuitos son más cortos. Una propuesta no se pierde en pasillos infinitos, sino que asciende y desciende con menos fricción. Esa “verticalidad reducida” convierte al país en un laboratorio institucional: lo que allí se ensaya puede aplicarse con agilidad.

El gobierno de Edi Rama, que busca modernizar el Estado y limpiar la imagen de corrupción que lastra su candidatura a la Unión Europea, vio en esa escala compacta la oportunidad de probar algo audaz. Así nació el proyecto Diella, un ministerio digital que no se limita a asesorar, sino que actúa con agencia. En realidad, hay algo de exageración y Diella es más un “bot con inteligencia artificial”, como responsable de la contratación pública, con el objetivo declarado de utilizar su naturaleza incorpórea para eliminar la corrupción en los procesos de licitación. Punto de aplicación donde han decido probar si de este modo se mejora y hace más transparente, o auditable, la gobernanza contractual. Aunque el gobierno la presenta como una «ministra», su designación es más bien simbólica, ya que no cumple con los requisitos legales, como por ejemplo tener ciudadanía albanesa (véase 9news.com).

De expedientes y canicas, para entender mejor
Para visualizar cómo funciona este modelo, viene muy bien recurrir a una metáfora visual y muy tangible: la célebre Máquina de Canicas del artista Martin Molin (banda»Wintergaten»). En ella, miles de bolitas recorren rieles intrincados, golpean xilófonos, tambores o cuerdas de guitarra, y logran una melodía perfecta. No hay azar: cada trayecto está diseñado con precisión, y cada desviación genera una nota.

Ten paciencia, espera un poco. La “maquina” tiene un pre-proceso antes de ejecutar su misión

El «sonido» que produce cada canica al final de su trayectoria (ya sea el cling de golpear un xilófono o el click de activar un mecanismo) es el equivalente a cerrar una fase del trámite o emitir una resolución. Si una canica no llega a su destino (un expediente se retrasa), el sistema no se detiene, pero la IA activa automáticamente alertas y recordatorios («avisos a la instancia superior»), asegurando que el conjunto de la máquina (la Administración) siga funcionando sin que ningún caso se pierda o quede olvidado en un cajón.

Respecto al video de las canicas, animo al lector a que lo vea al menos hasta más allá de la mitad. En esencia la lógica de nuestros sistemas de IA tienen algo de lo que ves representado en esa máquina, que ya en sí misma es bonita y suena bien. Es un parecido remoto. Pero ayuda a comprender de lo que hablamos. La complejidad y a veces la indecidibilidad del resultado, donde tendrá que intervenir el músico o el humano en el caso de una IA aplicada a asuntos humanos. Hay un límite para la algoritmia y para eso estamos los humanos.

Disculpad si parece fuera de tema. La belleza del sistema no está en su complejidad, sino en cómo transforma miles de elementos caóticos (las canicas) en un flujo ordenado, eficiente, a veces aprovechando los retrasos caóticos otros modulándolos y, sobre todo, el resultado es audible al final de cada paso consolidad. Se ve también como se capturan las excepciones e incidencias y se reconducen. Con canicas…

Ahora imagina más difícil, que cada canica es una petición de expediente administrativo, o un dato, o un conjunto de datos si otras canicas ya pasaron por donde debían juntas, y que así paso a paso se completa el expediente, o una solicitud ciudadana. Una larga cadena de canicas juntas saliendo por donde deben como matriz, sería en este caso un contrato público. Los rieles son los esquemas procesales que dicta la ley: plazos, firmas, verificaciones, avisos de vencimientos de plazos, aviso a los encargados supervisores si hay incumplimiento o demora… La IA, en este caso Diella, es la mente que coordina el recorrido. Decide cuándo liberar cada expediente, hacia qué área dirigirlo, cómo sincronizarlo con otros, y detecta si uno se ha quedado atascado. El “sonido” final es la resolución de un trámite o la aprobación de una política.

Volvamos al Bot o IA, como ministro y con agencia para gobernar la contratación pública de un modo más auditable y blindado de influencias espurias o impropias (lo que llamamos corrupción en todas sus formas).  El mérito del sistema no está en su complejidad, sino en la transparencia que permite. Cada paso es auditable, cada incidencia deja rastro, cada retraso genera una alerta automática. La máquina no sustituye al músico: asegura que la partitura se cumpla y que la melodía no se detenga.

Dar “agencia” a una IA, ¿qué es eso? y ¿qué implica?
Sigamos un poco más allá de lo que tengan montado en Tirana (Albania). En el texto hasta ahora hemos usado un concepto central “la agencia”. No basta con que una IA ofrezca recomendaciones; la innovación es permitirle ejecutar acciones dentro de límites definidos. Un asistente de voz que envía un correo en tu nombre ya tiene un grado de agencia. Un sistema bancario que aprueba o rechaza un crédito en segundos también tiene agencia. El avatar Diella, a escala estatal, se le supone que eleva consultas, asigna expedientes o bloquea irregularidades sin esperar siempre una orden humana.

La diferencia es que esa agencia no es autónoma ni opaca, sino que está supervisada. Mejor dicho es supervisable, o trazable, en grado que las reuniones de los responsables e intermediarios humanos en reuniones (comidas, cenas, etc) o lo que se conoce como cabildeo o lobbying. Cada decisión está enmarcada en esquemas procesales claros, como carriles de la máquina de canicas. Si una IA especializada en licitaciones detecta un riesgo de corrupción, Diella puede frenar el proceso y notificar a los supervisores humanos. No inventa reglas nuevas: aplica las existentes con precisión y sin intereses creados.

Agencia supervisada y esquemas procesales
El Avatar Diella no es una deidad digital ni un oráculo inescrutable. Opera bajo agencia supervisada. Su poder se articula en cuatro capas:

  • Agencia especializada. Diella coordina un ecosistema de IAs enfocadas en áreas concretas: contratación pública, análisis legal, gestión presupuestaria. Cada una procesa información y genera recomendaciones.
  • Colaboración humano-máquina. Los especialistas humanos no desaparecen. Alimentan al sistema con contexto, historia, advertencias legales. La IA devuelve propuestas explicadas paso a paso, señalando los puntos donde la interpretación humana es irremplazable.
  • Auditoría continua. Todas las decisiones deben ser rastreables y, además, explicables. Si algo falla, se revisa dónde estuvo el error: ¿datos mal cargados? ¿sesgo humano al configurar reglas? ¿laguna en el algoritmo? El objetivo no es culpar, sino mejorar. Y, a diferencia de una caja negra ininteligible, el sistema está diseñado para rendir cuentas. Al menos eso promete la propaganda oficial.

Pero es muy de desear que cada acción (ya sea una sugerencia, una conclusión o un bloqueo de contrato) pueda ser explicada por la propia IA en términos comprensibles. Es decir, por qué eligió una opción y no otra, qué factores tuvo en cuenta y cómo los combinó. No se trata de aceptar ciegamente el veredicto de una red con millones de parámetros opacos, sino de poder preguntar y obtener una respuesta clara, auditando no solo el resultado sino también el razonamiento que llevó a él.

Ese, sin embargo y para ser sinceros, es un reto aún no resuelto. Es el campo de la llamada IA explicable (XAI), que busca no solo resultados precisos sino también razonamientos comprensibles y consistentes. Conseguir que un sistema revele de manera transparente cómo llegó a una conclusión y que, (en situaciones idénticas, produzca el mismo desenlace) es mucho más difícil que mostrar solo el resultado final. La maduración de esta capacidad de ‘razonamiento auditable’ será decisiva para que la ciudadanía confíe en sistemas de este tipo. Lo que hoy se presenta al público como “Inteligencia Artificial” es, en realidad, un mosaico de ciencias y tecnologías heterogéneas. El término es un atajo de lenguaje que suena futurista, se vende bien, pero que apenas roza la riqueza y la apasionante diversidad de los métodos que hay detrás.

Retroalimentación evolutiva. Siempre bajo supervisión humana, porque incluso en el mejor de los casos, aunque Diella llegara a una versión “N.0” perfeccionadísima, seguiría siendo solo una ministra más dentro de un Consejo de ministros. Eso suponiendo que alguien, si la tecnología llega a ese grado de madurez, explicabilidad, etc (ver aspecto anterior, …ser “auditable”), en un arrebato jurídico-filosófico, decidiera reconocerla como “persona jurídica”, y otorgarle ciudadanía para sentarla virtualmente a la mesa con los demás ministros. No es poca cosa. Estamos aún muy lejos de eso.

Sería como concederle a un algoritmo la condición de sujeto legal, algo que hoy si reservamos a las empresas y corporaciones.  Haciendo un apartado aquí para observar, que son personas jurídicas hasta tal punto que pueden denunciar a una Nación, si ésta aprueba Legislación que la corporación (como persona jurídica) considera que perjudica sus inversiones o las pone en riesgo.

Si ya con las enormes corporaciones multinacionales impersonadas jurídicamente tenemos problemas (por tener así más poder económico y relacional, o coercitivo, que el de un Estado pequeño o mediano) … En el caso de la IA, tranquilidad. No se sienta a la mesa aún pero recomienda. Con todo, el Consejo de ministros es un órgano colegiado dirigido por el primer ministro. Y, en última instancia, Albania tiene un presidente de la República como jefe de Estado, situado en la cúspide institucional, aunque con funciones más moderadoras que ejecutivas.

Tal vez lo hemos pintado un poco oscuro. Esto de las IAs, en parte, funcionan ya con agencia. Este marco no es exclusivo de Albania. La banca, los seguros o la logística global ya operan con esquemas similares y ni te has dado cuenta. La razón o el sopesar los riesgos de un crédito o un seguro muy complejo ya cuenta con la asistencia de una máquina de esquemas procesales por un lado y una IA que pondera y recomienda por otro. Lo novedoso es la noticia de llevarlo al corazón de un ministerio o a la gobernabilidad de una Nación. Albania es noticia por eso.

Democracia 2.0: de votar a colaborar
Aún hay otra manera de enforcar el tema de los esquemas procesales y las IA y que tal vez sea más transformador que un Bot ministrable y “versión N.0”. De lo que estamos hablando es que en este modelo y tecnologías hay o se esconde un potencial democrático increíble.

Nuevamente avanzamos el tiempo o damos por perfeccionada y testada la tecnología y su uso: si los esquemas procesales funcionan con ciudadanos, no solo con funcionarios, el resultado podría ser una participación mucho más rica que el voto periódico una vez cada cuatro años o el ciclo que sea.

Piense en una plataforma cívica voluntaria. Cualquier ciudadano puede registrarse y elegir sus áreas de interés: medio ambiente, educación, urbanismo (según su formación certificada o equivalente). Cuando el Ministerio de Transportes aborda un proyecto de movilidad, en lugar de que un partido redacte en secreto los detalles y limites (en función de los intereses que sea), miles de ciudadanos reciben un esquema procesal interactivo donde intervenir decisivamente o como una recomendación con un % de ciudadanos detrás. Eso es en esencia la Democracia, el equilibrio de pesos y contrapesos entre intereses, aspiraciones, y la voluntad de la gente contando cabezas (votos u opiniones razonadas).

La plataforma a la que se asoma el ciudadano no entrega un PDF inmutable con casillas para marcar y campos de puntos donde escribir libre. No es algo más poderoso. Se asoma a un entorno guiado user friendly y donde la “usabilidad” ha sido pensada y asegurada. Como ya se dijo por detrás es una máquina de esquemas procesales y una(s) IAs.

Un contexto real: “el tráfico aumentó 40%, el presupuesto es X”), opciones técnicas (“peatonalizar, carril bici, optimizar semáforos”), y preguntas clave (“¿qué prioriza: reducir ruido o tiempo de viaje?”). El ciudadano no responde con un “sí” o “no”, sino que dialoga, matiza, prioriza. Sus aportes, junto a los de miles, se sintetizan en mapas de consenso, disenso y argumentos. Incluso fases de implementación que primera satisfagan lo más necesario y luego puedan ser ampliados hasta abarcar todo el requerimiento que salió de la consulta.  No es ciencia ficción. Así ya funcionan las empresas y la gestión de proyectos o el pipeline de proyectos (que no es otra cosa que gestionar la adaptación constante de la empresa al mundo). Si se hace en el contexto empresarial, llevémoslo a la “democracia 2.0”.

El cambio es profundo: de las voces en la barra del bar, discusiones en la cena de Navidad, o la queja estéril en redes sociales, vamos al co-diseño informado. No es democracia directa caótica, sino democracia deliberativa, extendida y continua. El voto cada cuatro años se transforma en una colaboración constante.  NO opinas una vez cada 1.460 días y casi entregando un talón en blanco… “o un brindis al Sol” tal como es la política hoy en todo el Planeta (lo digo con pena).

Límites y aplicaciones prudentes
¿Debe todo pasar por un sistema así? No. Hay áreas donde la decisión última seguirá siendo humana, pero donde la IA ofrece apoyo invaluable. Ya hablamos del estado del desarrollo en el que estamos hoy por hoy, y de lo que se espera a dos, tres años vista. Pero hay puntos de aplicación que lo están pidiendo, al menos en calidad de ensayos.

Sanidad. Un médico saturado difícilmente puede dedicar media hora a cada paciente. Una IA con su avatar conversacional sí y más. Puede escuchar ir completando una matriz de síntomas y otros aspectos relevantes, sonsacar síntomas, hábitos, preocupaciones, y entregar al médico una anamnesis detallada, enriqueciendo el diagnóstico.

Varios estudios experimentales han mostrado que los pacientes tienden a sincerarse más y revelar información más sensible cuando interactúan con sistemas automatizados o agentes virtuales que cuando hablan con un entrevistador humano. Esto se atribuye principalmente a la percepción de mayor anonimato, menor riesgo de juicio social y sensación de imparcialidad del sistema, lo que reduce la inhibición y fomenta la apertura. El efecto es especialmente marcado en temas sensibles o estigmatizados y ha sido observado tanto en encuestas médicas como en entrevistas asistidas por computadora y agentes virtuales. (Para quienes deseen profundizar: PMC 1447060, Frontiers Robotics 2017, ACM 238386).

El medico con la IA también puede dialogar y generarse una llamada de la IA al paciente para recabar un dato más, para tranquilizar, etc.  Con esta ayuda el médico tiene más tiempo para aquellos pacientes que le necesitan directamente (comunicar un diagnostico o un tratamiento que pueda ser delicado o asustar). El médico en muchos casos puede recibir de la pre-anamnesis de la IA sugerencias de visita a especialistas para asegura el diagnóstico.

Puede tomar decisiones colegiadas con otros médicos cuando estos reciben un conjunto de información cierta, precisa, pre-digerida, y participar cada uno si es un caso multidisciplinar. NO es democracia… en este caso. Es colaboración en un grado que de otro modo cuesta mas tiempo desplazamientos, etc. Además de todo queda registro y el Sistema aprende. La próxima vez que se presente un caso cuyo cubo de datos sea suficientemente coincidente, puede desplegársele al facultativo al medico una ventanita con un mensaje que le recuerde o señale hechos relevantes.

Justicia. En lo Contencioso-Administrativo, una IA puede tener la Legislación consolidada a la fecha de lo que se juzga (es decir la Ley como era cuando se cometió el delito, no como es ahora si hubo modificaciones en las leyes implicadas. Las leyes nuevas NO son retroactivas… Hacer eso ya es un buen galimatías). Una IA puede leer y considerar los detalles de miles de páginas de jurisprudencia y señalar al juez los puntos críticos de interpretación (la jurisprudencia consolidada), o incluso aportar Doctrina jurídica para consultarla. Los Jueces y la Justicia se ve abocada a un mundo que cambia más rápido que las Leyes sus figuras y procedimientos. El fallo sigue siendo humano. Es el juez el que crea justicia en una circunstancia donde unas partes (la Administración y un particular o una empresa) no se ponen de acuerdo, pero el juez lo hará con herramientas más poderosas. Menos recursos y más velocidad.

Subvenciones. Solicitar ayudas públicas es a menudo kafkiano. Un sistema como Diella, en Albania, puede guiar a autónomos, pymes, y particulares o comunidades de vecinos, etc, pasito a pasito, asegurando que cumplen requisitos y liberando a los funcionarios de tareas repetitivas y asegurando que no hay defectos de forma, ausencias de datos, etc. Otra cosa es ya al decisión final.

El criterio no es reemplazo de lo humano, sino asistencia. Aumentar la capacidad humana sin deshumanizar el resultado.
Volviendo a Albania: origen y propósito de Diella
Pero habíamos empezado hablando de Albania y Diella, que no surgió como ministra de la nada. Su historia comenzó en enero de 2025 como asistente en la plataforma digital e-Albania, donde ayudaba a ciudadanos a obtener documentos oficiales. Su avatar, inspirado en la actriz Anila Bisha, le dio un rostro familiar. El éxito del experimento convenció al gobierno de ampliarle funciones (usnews).

La motivación política es clara: luchar contra la corrupción y mostrar un país en transformación de cara a la UE (Reuters). ¿Una IA que gestiona contratos públicos reduce el margen para sobornos y favoritismos? Pero también abre un debate incómodo: ¿quién supervisa a la supervisora? La oposición tilda la iniciativa de inconstitucional y acusa al gobierno de teatralidad tecnológica. El riesgo de manipulación o falta de transparencia sigue en discusión (apnews.com). Sea como sea, en este sentido el Sistema del Avatar Diella, parte de “lo humano” y tienen sus razones los desconfiados ante la corrupción.

El problema técnicamente se podría llamar «Garbage In, Garbage Out» (basura entra – basura sale): Si la IA se entrenó con datos históricos corruptos, aprenderá a replicar esa corrupción. Por ejemplo, si en el pasado ganaban siempre empresas de una cierta región sin motivo claro, la IA puede aprender a favorecerlas. Esa es la dificultad. Todo era más fácil con las canicas.

Un futuro cercano, no Ciencia Ficción
Pese a las dudas, resistencias, e intereses creados. El experimento albanés no es ciencia ficción ni un espectáculo excéntrico. Es un paso concreto hacia un contrato social donde la eficiencia y la transparencia se combinan. Superar la extrañeza inicial es comprender que no hablamos de máquinas que mandan, sino de sistemas que amplifican la inteligencia colectiva una vez que parten de una base de conocimiento sin sesgos (o que se detectan y corrigen en el tiempo).

En el tema de «la democracia 2.0», no busca sustituir al ciudadano. Muy al contrario. Se trata de rediseñar su voluntaria experiencia cívica colocándolo en el centro del sistema. Para lograrlo, adopta los principios del Diseño de Experiencia de Usuario (UX), aplicando una arquitectura de información clara, una usabilidad rigurosa y flujos de interacción intuitivos. Esto transforma la participación: dejará de ser solo el acto de votar cada 1.460 días para convertirse en una experiencia continua, similar a servir como jurado popular pero extendida a los asuntos cotidianos que impactan tu vida diaria.

Al igual que hoy aceptamos ser interventores o escrutadores en unas elecciones por la transparencia y simplicidad del proceso presencial, en este nuevo modelo podremos ser coautores de decisiones públicas a través de canales digitales seguros. Estos canales, respaldados por una interfaz de gestión de procesos minuciosamente estudiada y optimizada, harán que participar sea una experiencia fluida, accesible y eficiente. El resultado es un ecosistema de participación que, gracias a un diseño centrado en el usuario, alcanza la armonía funcional de una sinfonía: cada elemento, desde la notificación de un tema hasta la emisión de una opinión fundada, está orquestado para generar confianza, claridad y una sensación de fluidez absoluta.

Albania, con su escala y su audacia, ha encendido una chispa. Si la experiencia madura, quizás pronto dejemos de ver a Diella como una curiosidad balcánica y empecemos a verla como el anticipo de un modelo de gobernanza global. Un modelo donde el Estado, por fin, se convierte en un organismo vivo, transparente y permeable a la voz de todos.

Seguridad, confidencialidad y privacidad. Por ultimo y casi el tema más importante. Este diseño sublime del que hemos estado hablando. Ya sea una ministra virtual tipo “Bot” o IA muy primitiva. Hasta los futuribles a dos tres años vista, que recomiendan al Consejo de ministros, o a la Justicia, o en la Sanidad,… todo ello sería un monstruoso castillo de naipes sin una base inquebrantable de seguridad integral de los datos, su proceso, y mientas se mueven de un lado a otro.

La lección más evidente la tenemos en el escándalo del NHS británico, y es 300% aleccionadora: no se puede/debe confiar la savia de la democracia (el voto, la deliberación y los datos de los ciudadanos) a plataformas cuyos servidores están en un «limbo legal» y cuya gobernanza responde a jurisdicciones extranjeras. En este caso, el gobierno del Reino Unido tuvo que ceder ante la demanda sobre el “acuerdo de datos” del NHS (su Seguridad Social) de 23 millones de libras con la controvertida corporación tecnológica estadounidense Palantir. Se iniciaron acciones legales contra el gobierno por no consultar al público antes de otorgar un contrato masivo a la corporación tecnológica estadounidense Palantir. Frente a una reclamación de Revisión Judicial, el gobierno finalmente ha cedido. (Véase foxglove.org.uk).

En este caso la conclusión es contundente. En Europa se nos plantea la disyuntiva final: o tener soberanía digital e informacional real o ser una colonia digital disfrazada.

La soberanía digital no es negociable. La seguridad debe ser punto a punto, con cifrado extremo a extremo, y los datos deben residir en infraestructuras nacionales o bajo tratados de protección estrictos, libres de la extraterritorialidad de leyes que convierten a las grandes tecnológicas en los administradores de facto de la información soberana de otros países. De lo contrario, la «democracia 2.0» no pasará de ser una colonia digital con una interfaz bonita.

Fuentes:

Para el enfoque de “Democracia 2.0” e ideas para una participación ciudadana más allá de los ciclos electorales, las democracias formales o representativas, o que uno de cada 1.460 días nos dejen decidir entre una opción bastante limitada, me basé en el libro “Un macroscopio para el Siglo XXI”, de Carlos Rossique.