Puede parecer una pregunta extra\u00f1a. Cuando pensamos en nuevas tecnolog\u00edas de control fronterizo, nos vienen a la mente visiones dist\u00f3picas.<\/p>\n
Por ejemplo, el Departamento de Seguridad Nacional de Estados Unidos est\u00e1 invirtiendo en\u00a0perros robot<\/a>\u00a0para patrullar regiones remotas de su frontera con M\u00e9xico, Frontex de la Uni\u00f3n Europea (UE) est\u00e1 desplegando quioscos de video de\u00a0detecci\u00f3n de mentiras<\/a>\u00a0automatizados con IA seudocient\u00edfica para los viajeros, y la Agencia de Servicios Fronterizos de Canad\u00e1 est\u00e1 utilizando un software de\u00a0coincidencia de fotos<\/a>\u00a0defectuoso para despojar a los refugiados de su estatus.<\/p>\n Los defensores de los derechos humanos tienen mucho\u00a0trabajo<\/a>\u00a0por hacer para contrarrestar estas tecnolog\u00edas.<\/p>\n Pero, adem\u00e1s de criticar el uso de la tecnolog\u00eda por parte de los gobiernos para controlar el movimiento de personas a trav\u00e9s de las fronteras, tambi\u00e9n debemos explorar c\u00f3mo la tecnolog\u00eda puede promover los derechos humanos.<\/p>\n Una v\u00eda prometedora es el uso de la IA para arrojar luces acerca de la problem\u00e1tica toma de decisiones en el control de fronteras.<\/p>\n En los \u00faltimos a\u00f1os se ha producido una aceleraci\u00f3n espectacular de la capacidad de las herramientas de IA generativa entrenadas en grandes vol\u00famenes de texto para producir respuestas plausibles a las preguntas de los usuarios.<\/p>\n \u00a0ChatGPT<\/a>, de OpenAI, es la herramienta que m\u00e1s inter\u00e9s ha despertado entre el p\u00fablico, pero hay muchos sistemas competidores, desde plataformas comerciales como\u00a0Claude<\/a>, de Anthropic, hasta alternativas de c\u00f3digo abierto como\u00a0Bloom<\/a>, de BigScience.<\/p>\n Gran parte del debate en los c\u00edrculos de derechos humanos sobre estas tecnolog\u00edas se ha centrado en sus defectos.<\/p>\n Por ejemplo, la IA generativa suele reflejar\u00a0sesgos<\/a>\u00a0en los conjuntos de datos de entrenamiento, incluidos sesgos raciales, de g\u00e9nero y religiosos.<\/p>\n Tambi\u00e9n\u00a0alucinan<\/a>\u00a0inventando hechos veros\u00edmiles pero falsos. La IA generativa tambi\u00e9n plantea problemas de\u00a0privacidad<\/a>,\u00a0propiedad intelectual<\/a>,\u00a0impacto ambiental<\/a>\u00a0y\u00a0alteraci\u00f3n del mercado laboral<\/a>.<\/p>\n A pesar de estas preocupaciones, la IA generativa brinda oportunidades interesantes para ayudar a los defensores de los derechos humanos a emprender investigaciones con grandes cantidades de texto que, de otro modo, podr\u00edan resultar prohibitivas desde el punto de vista de los costos.<\/p>\n Consideremos este ejemplo de mi investigaci\u00f3n sobre la toma de decisiones en materia de inmigraci\u00f3n en Canad\u00e1.<\/p>\n Hace m\u00e1s de una d\u00e9cada, llev\u00e9 a cabo un\u00a0proyecto de investigaci\u00f3n<\/a>\u00a0emp\u00edrica acerca de las revisiones judiciales de las decisiones de las cortes federales en materia de refugiados, en el que una docena de estudiantes de derecho asistentes de investigaci\u00f3n revisaron manualmente miles de expedientes de cortes federales en l\u00ednea.<\/p>\n Este proyecto demostr\u00f3 que los resultados depend\u00edan de la suerte del sorteo: de qu\u00e9 juez atend\u00eda el caso. En respuesta, la corte federal adopt\u00f3\u00a0medidas<\/a>\u00a0para tratar de mejorar la coherencia y la equidad.<\/p>\n Repet\u00ed el\u00a0estudio<\/a>\u00a0unos a\u00f1os m\u00e1s tarde. Esta vez escrib\u00ed un programa inform\u00e1tico que utilizaba IA basada en reglas, es decir, instrucciones sencillas como, si esta frase est\u00e1 cerca de esta palabra pero no de esta otra, entonces infiere x.<\/p>\n Verifiqu\u00e9 los resultados de ese programa con el conjunto de datos del estudio anterior y con un conjunto m\u00e1s peque\u00f1o de datos nuevos recogidos manualmente. A continuaci\u00f3n, apliqu\u00e9 el programa a miles de nuevos expedientes judiciales federales en l\u00ednea.<\/p>\n Este proyecto requiri\u00f3 mucho menos tiempo del asistente de investigaci\u00f3n. Sin embargo, tambi\u00e9n me llev\u00f3 cientos de horas escribir y verificar el programa, y no podr\u00eda haberlo completado sin el gran conjunto de datos recopilados por humanos del primer estudio.<\/p>\n Al igual que en el primer estudio, en el segundo se observ\u00f3 que los resultados depend\u00edan, al menos en parte, de la suerte. Una vez m\u00e1s, esto gener\u00f3 debates pol\u00edticos sobre c\u00f3mo mejorar la toma de decisiones en este \u00e1mbito.<\/p>\n Hace poco\u00a0volv\u00ed<\/a>\u00a0a intentarlo con un procedimiento judicial federal diferente: las suspensiones de expulsi\u00f3n de \u00faltima hora.\u00a0Esta vez utilic\u00e9 IA generativa, en concreto, modelos personalizados ajustados con precisi\u00f3n en la\u00a0plataforma<\/a>\u00a0de OpenAI.<\/p>\n Este proyecto solo requiri\u00f3 unos cientos de ejemplos de datos recopilados por humanos. Tambi\u00e9n me llev\u00f3 menos de una semana completarlo, con \u00edndices de precisi\u00f3n similares a los logrados por mis asistentes de investigaci\u00f3n humanos.<\/p>\n Si hubiera utilizado la metodolog\u00eda de la primera iteraci\u00f3n de esta investigaci\u00f3n, habr\u00eda necesitado miles de horas de ayuda a la investigaci\u00f3n.<\/p>\n Una vez m\u00e1s, el proyecto demostr\u00f3 que los resultados depend\u00edan del juez que decidiera el caso, con tasas de concesi\u00f3n en las decisiones de suspensi\u00f3n de expulsi\u00f3n que oscilaban entre 2,6 % y 79,2 %, dependiendo del juez.<\/p>\n \u00bfQu\u00e9 podemos aprender de esta trayectoria de investigaci\u00f3n sobre c\u00f3mo puede utilizarse la IA para promover los derechos de los refugiados y otras personas en movimiento?<\/p>\n En primer lugar, cuando los defensores de los derechos humanos critican el uso de la IA en un entorno de control fronterizo \u2014incluida la preocupaci\u00f3n por la parcialidad y la falta de transparencia en la toma de decisiones\u2014, debemos tener en cuenta que muchas de estas cr\u00edticas se aplican con la misma fuerza a la toma de decisiones humana.<\/p>\n Entre otras cosas, esto tiene implicaciones para las herramientas destinadas a mitigar los da\u00f1os asociados a la IA en el control fronterizo, incluida la idea de garantizar que siempre haya un ser humano en el bucle \u2014aunque es tan probable que este ser humano sea una fuente de sesgo como cualquier herramienta de IA que est\u00e9 supervisando\u2014, como se exige ahora en algunas directrices de IA, como\u00a0la Directiva de Canad\u00e1 sobre la toma de decisiones automatizada<\/a>.<\/p>\n En segundo lugar, debemos reconocer que un problema clave de la IA en el \u00e1mbito del control fronterizo tiene que ver con la elecci\u00f3n de hacia d\u00f3nde dirigir estas tecnolog\u00edas.<\/p>\n Por ejemplo, podr\u00edamos optar por invertir en tecnolog\u00edas que hagan m\u00e1s seguros los viajes de los solicitantes de asilo en lugar de tecnolog\u00edas que bloqueen sus movimientos. Del mismo modo, podr\u00edamos dar prioridad a la creaci\u00f3n de herramientas de IA para detectar los prejuicios o el racismo de los funcionarios de inmigraci\u00f3n en lugar de herramientas para detectar supuestamente el fraude de los viajeros.<\/p>\n O podr\u00edamos utilizar la IA para examinar la imparcialidad y coherencia de las decisiones de asilo en lugar de examinar la veracidad de los materiales presentados por los solicitantes.<\/p>\n A medida que nos adentramos en una era en la que los Estados recurren\u00a0cada vez m\u00e1s<\/a>\u00a0a la IA en el \u00e1mbito del control fronterizo, debemos ir m\u00e1s all\u00e1 de la mera cr\u00edtica de estas tecnolog\u00edas.<\/p>\n Los defensores de los no ciudadanos tambi\u00e9n deben experimentar con el uso de estas tecnolog\u00edas para estudiar y criticar la toma de decisiones humanas en el control fronterizo.<\/p>\n Y debemos exigir a los Estados, as\u00ed como a las empresas y personas con conocimientos t\u00e9cnicos muy codiciados, que elijan mejor qu\u00e9 problemas son prioritarios abordar a trav\u00e9s de las tecnolog\u00edas emergentes.<\/p>\n Este\u00a0art\u00edculo<\/a>\u00a0se public\u00f3 originalmente en\u00a0OpenGlobalRights<\/a>.<\/em><\/strong><\/p>\n RV: EG<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Este es un art\u00edculo de opini\u00f3n de Sean Rehaag, director del Centro de Estudios sobre Refugiados y del Laboratorio de Derecho de los Refugiados en la canadiense Universidad de York. TORONTO, Canad\u00e1 \u2013 \u00bfPuede utilizarse la inteligencia artificial (IA) para…<\/p>\n","protected":false},"author":347,"featured_media":1743037,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[76,79,54574,161,74,106740],"tags":[441,113283,1014,54175,12010,3022,109997],"class_list":["post-1743036","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-relaciones-exteriores","category-derechos-humanos","category-migrantes-es","category-opiniones","category-politica-es","category-reportaje","tag-derechos-humanos","tag-inteligencia-artificial-ia","tag-migraciones","tag-migrantes-es","tag-mundo-es","tag-refugiados","tag-voces-aliadas"],"yoast_head":"\n![\"\"](\"https:\/\/ipsnoticias.net\/wp-content\/uploads\/2023\/05\/Sean-Rehaag_White-Background.jpg\")
<\/a>