El 28 de febrero, un sistema de inteligencia artificial clasific\u00f3 un edificio en Minab, Ir\u00e1n, como objetivo militar. El edificio era una escuela de ni\u00f1as. Ten\u00eda aulas, pizarras, delantales colgados en los percheros. Ten\u00eda 180 cuerpos que todav\u00eda no eran cad\u00e1veres. El sistema no sab\u00eda eso. O lo sab\u00eda y lo proces\u00f3 como \u00abda\u00f1o colateral dentro de par\u00e1metros aceptables\u00bb. En cualquiera de los dos casos el resultado fue el mismo: el hormig\u00f3n se vino abajo, y debajo quedaron ni\u00f1as de entre 7 y 12 a\u00f1os. El mundo sigui\u00f3 girando. Los algoritmos siguieron aprendiendo.<\/p>\n
Lo que ocurri\u00f3 en Minab no fue un accidente. Fue el producto de una arquitectura deliberada, construida durante a\u00f1os con dinero p\u00fablico, talento privado y una filosof\u00eda que decidi\u00f3 que la fricci\u00f3n humana en la guerra es un problema de ingenier\u00eda a resolver. Esa arquitectura tiene nombre: Proyecto Maven. Y su historia es uno de los relatos m\u00e1s inquietantes de la \u00faltima d\u00e9cada, porque empieza con una derrota moral que todav\u00eda no terminamos de celebrar y concluye con un triunfo del cinismo que todav\u00eda no terminamos de lamentar.<\/p>\n
En 2018, el Pent\u00e1gono necesitaba procesar im\u00e1genes satelitales a una velocidad que ning\u00fan equipo humano pod\u00eda sostener. La soluci\u00f3n era obvia: automatizaci\u00f3n. Y el socio natural era Google. La empresa firm\u00f3 el contrato. Pero entonces ocurri\u00f3 algo que la historia de Silicon Valley rara vez registra: los empleados se rebelaron. Cuatro mil ingenieros firmaron una carta. Varios renunciaron. El argumento era simple y demoledor: no queremos que nuestro trabajo sirva para matar personas. Google, acorralado entre sus empleados y su imagen p\u00fablica, abandon\u00f3 el proyecto.<\/p>\n
Fue un momento de lucidez en un valle que no los tiene con frecuencia. Un momento en que la \u00e9tica de los trabajadores fue m\u00e1s r\u00e1pida que la \u00e9tica de la corporaci\u00f3n. Un momento que dur\u00f3 lo que dura cualquier vac\u00edo de poder en el mercado de la defensa: nada.<\/p>\n
Porque Palantir ya estaba esperando. Alex Karp, el director ejecutivo de la compa\u00f1\u00eda, no es lo que uno imagina al pensar en un ejecutivo de tecnolog\u00eda militar. Tiene doctorado en filosof\u00eda. Estudi\u00f3 teor\u00eda cr\u00edtica en Frankfurt, la misma ciudad donde Adorno y Horkheimer escribieron la Dial\u00e9ctica de la Ilustraci\u00f3n, el libro que advirti\u00f3, en 1944, que la raz\u00f3n instrumental podr\u00eda convertirse en un instrumento de barbarie. Karp ley\u00f3 esas p\u00e1ginas. Las entendi\u00f3. Y luego construy\u00f3 una empresa cuya misi\u00f3n declarada es acelerar exactamente eso.<\/p>\n
Esa contradicci\u00f3n no es menor. Es, quiz\u00e1s, el gesto m\u00e1s revelador de nuestra \u00e9poca: el hombre formado en la cr\u00edtica del poder t\u00e9cnico-instrumental aplicando ese poder con una convicci\u00f3n que roza lo mesi\u00e1nico. Seg\u00fan periodistas que lo han seguido de cerca, Karp cree que Occidente libra una guerra existencial contra adversarios como Ir\u00e1n, China, Rusia y los movimientos de resistencia en Gaza. En esa visi\u00f3n apocal\u00edptica, las sutilezas sobran. El poder tecnol\u00f3gico disponible debe usarse en su totalidad. Los muertos civiles son el precio de la civilizaci\u00f3n.<\/p>\n
Para entender Minab hay que entender la \u00abkill chain\u00bb: la secuencia que va desde la detecci\u00f3n de un objetivo hasta su destrucci\u00f3n. En la guerra tradicional, esa cadena llevaba horas o d\u00edas. Hab\u00eda que identificar, verificar, consultar, evaluar, autorizar. Era lenta, imperfecta, pero dejaba espacio para la duda. Para que alguien dijera \u00abesper\u00e1, revisemos de nuevo\u00bb.<\/p>\n
En 2017, los analistas militares pasaban el 80% de su tiempo revisando im\u00e1genes satelitales de forma manual. Para 2023, ese porcentaje se hab\u00eda reducido dr\u00e1sticamente. Lo que en la invasi\u00f3n de Irak de 2003 requer\u00eda 2.000 personas operando sobre el terreno se realiza hoy con 20 operadores sentados frente a pantallas a miles de kil\u00f3metros del conflicto. La meta final es a\u00fan m\u00e1s ambiciosa: procesar 1.000 objetivos en una hora. Un objetivo cada 3,6 segundos.<\/p>\n
Tres coma seis segundos. El tiempo que tarda una maestra en decir \u00abbuenos d\u00edas\u00bb. El tiempo que necesita un humano para parpadear dos veces. En ese intervalo, el sistema detecta, clasifica, calcula probabilidades de impacto, estima da\u00f1o colateral y presenta la recomendaci\u00f3n. El operador, entrenado para confiar en la m\u00e1quina y para no convertirse en \u00abcuello de botella\u00bb, aprieta el bot\u00f3n. Y el hormig\u00f3n cae sobre las ni\u00f1as de Minab.<\/p>\n
La industria tiene un discurso cuidadosamente calibrado para esto. Dicen que el humano mantiene el \u00abcontrol final\u00bb. Que la IA solo \u00absugiere\u00bb y que el operador \u00abautoriza\u00bb. Pero cuando el sistema presenta un objetivo con el 99% de confianza, cuando cada segundo de hesitaci\u00f3n es una \u00abineficiencia\u00bb que el protocolo penaliza, cuando el entrenamiento est\u00e1 dise\u00f1ado para maximizar la velocidad de aprobaci\u00f3n, ese control final es una ficci\u00f3n administrativa. El operador no decide: certifica. No piensa: valida. Es el \u00faltimo eslab\u00f3n de una cadena de la que no puede salir, el \u00abbur\u00f3crata del bot\u00f3n\u00bb cuya funci\u00f3n no es ejercer juicio sino atestiguar que la m\u00e1quina trabaj\u00f3.<\/p>\n
Lo que estos episodios ense\u00f1an no es que las m\u00e1quinas se equivocan \u2014eso ya lo sab\u00edamos\u2014, sino que el sistema en su conjunto produce una ilusi\u00f3n de precisi\u00f3n que encubre una realidad mucho m\u00e1s ca\u00f3tica. La automatizaci\u00f3n no elimina el error humano: lo industrializa. Lo escala. Lo hace reproducible a una velocidad que ninguna revisi\u00f3n posterior puede alcanzar. El problema no es que el algoritmo alucine. El problema es que cuando alucina, alguien muere. Y esa muerte se registra en una base de datos como un \u00abevento\u00bb, se codifica como \u00abda\u00f1o colateral\u00bb y se archiva.<\/p>\n
Lo que ocurre en Minab no ocurre solo en Minab. Las mismas empresas que automatizan la muerte automatizan tambi\u00e9n la deportaci\u00f3n, la recaudaci\u00f3n fiscal, la gesti\u00f3n de la pobreza. Palantir tiene contratos con el ICE para identificar y deportar migrantes. El IRS aplica sistemas opacos para detectar fraude: cuando se equivocan, la carga de la prueba recae sobre el ciudadano. La misma l\u00f3gica: un adversario que neutralizar, una eficiencia que justifica el sacrificio, una m\u00e1quina en la que confiar m\u00e1s que en el juicio humano.<\/p>\n
Evgeny Morozov lo llama \u00absolucionismo tecnol\u00f3gico\u00bb: la creencia de que cualquier problema complejo se resuelve con m\u00e1s datos y m\u00e1s algoritmos. Es una ideolog\u00eda profundamente antipol\u00edtica porque reduce las decisiones colectivas a problemas de optimizaci\u00f3n t\u00e9cnica. Elimina el conflicto, la negociaci\u00f3n, la posibilidad de decir no. Nos promete un mundo sin fricciones. Y un mundo sin fricciones es un mundo sin resistencia.<\/p>\n
Detr\u00e1s de todo esto hay hombres concretos. Karp y Peter Thiel, cofundador de Palantir, que ha escrito abiertamente que la democracia es incompatible con la libertad, que la pol\u00edtica es el problema y la tecnolog\u00eda la soluci\u00f3n, que la historia puede optimizarse. Son los nuevos fil\u00f3sofos reyes, pero sin la carga de la sabidur\u00eda. Tienen el poder que antes ten\u00edan los Estados y la impunidad que siempre tuvieron los ej\u00e9rcitos. A diferencia de los presidentes, no enfrentan elecciones. Sus algoritmos se perfeccionan mientras las democracias debaten.<\/p>\n
Hannah Arendt describi\u00f3 la \u00abbanalidad del mal\u00bb para referirse a personas ordinarias cometiendo atrocidades extraordinarias sin sentir que hacen nada malo. Solo segu\u00edan \u00f3rdenes. Solo optimizaban procesos. En Minab no hubo un asesino. Hubo un sistema que clasific\u00f3, un operador que valid\u00f3, un registro que document\u00f3 el \u00ab\u00e9xito\u00bb. Nadie decidi\u00f3 matar a 180 ni\u00f1as. Nadie tuvo que hacerlo. Eso es exactamente lo que hace tan dif\u00edcil detenerlo.<\/p>\n
Las madres de Minab siguen buscando entre los escombros. En alg\u00fan servidor de Palantir, un campo de base de datos indica que la operaci\u00f3n fue un \u00e9xito. Entre esas dos realidades hay un abismo que la tecnolog\u00eda ensanch\u00f3 y que solo la pol\u00edtica puede volver a cerrar. Pero para eso habr\u00eda que aceptar que la democracia no es un cuello de botella. Que la duda no es una ineficiencia. Que 3,6 segundos no alcanzan para decidir si una vida vale o no vale la pena.<\/p>\n","protected":false},"excerpt":{"rendered":"
El 28 de febrero, un sistema de inteligencia artificial clasific\u00f3 un edificio en Minab, Ir\u00e1n, como objetivo militar. El edificio era una escuela de ni\u00f1as. Ten\u00eda aulas, pizarras, delantales colgados en los percheros. Ten\u00eda 180 cuerpos que todav\u00eda no eran…<\/p>\n","protected":false},"author":2439,"featured_media":2690155,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[497,11389,39,74],"tags":[5388,50963,696,39631,1697,923,153682,154787,154786,1404],"class_list":["post-2690144","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-tecnologia","category-contenido-original","category-internacional","category-politica-es","tag-control","tag-datos","tag-democracia","tag-ia","tag-iran-es","tag-masacre","tag-minab","tag-palantir","tag-solucionismo-tecnologico","tag-tecnologia"],"yoast_head":"\n