Noticias falsas por algoritmo

30.07.2017 - Londres, Reino Unido - Silvia Swinden

Este artículo también está disponible en: Inglés, Francés, Italiano, Griego

Noticias falsas por algoritmo

Hoy abrí mi Facebook y descubrí que dos de mis mejores amigos, que viven en otro país, se habían casado. Me pareció extraño, ya que han estado juntos durante muchos años, han criado a sus hijos y no recibí ninguna noticia al respecto. Pero el anuncio de FB parecía genuino; aparecían fotos relevantes y varias felicitaciones. Así es que envié un mensaje a la “novia”, quien me confirmó que se casaron hace 35 años. Simplemente cuando ella trató de actualizar su correo electrónico, FB le preguntó si está casada y con quién, creando la publicación automáticamente.

Estamos acostumbrados a difundir todo tipo de falsas noticias publicadas en FB, ya sea por malicia, ingenuidad u oscuras razones imposibles de entender, pero en general podemos detectar algún tipo de intención humana tras ello.

El hecho de que FB pueda producir noticias falsas a partir de un accidente de algoritmo, crea un problema diferente. He estado siguiendo con interés la discusión entre Mark Zuckerberg y Elon Musk sobre el futuro de la Inteligencia Artificial.

Quien desató la lucha más nerd del mundo fue Musk, el CEO de Tesla y SpaceX, a principios de este mes, cuando presionó nuevamente por una regulación proactiva de la inteligencia artificial, porque cree que plantea un “riesgo fundamental para la existencia de la civilización”. “Sigo haciendo sonar la señal de alarma, pero hasta que la gente no vea a robots caminando por la calle y matando gente, no sabrá cómo reaccionar, porque todo parece tan etéreo”, dijo. Cuando se le pidió su opinión en el asunto, Zuckerberg sostuvo: “Tengo opiniones bastante fundadas sobre esto. Soy un optimista. Y pienso que la gente que se asusta e intenta describir este tipo de escenarios apocalípticos – se equivocan o yo no las entiendo. Lo que hacen es realmente negativo y de alguna manera creo que son bastante irresponsables.” The Guardian.

Pero parece que antes de ver a los robots hacerse cargo del mundo, podemos tener algunos accidentes bastante preocupantes, simplemente porque los algoritmos que se ocupan de la mayoría de las tareas automatizadas de los gigantes que operan en línea asumen tareas cada vez más complejas, a las que no necesariamente son capaces de hacer frente. Ya existen pequeñas muestras evidentes. Esta falsa noticia sobre mis amigos resulta bastante inofensiva, pero quién sabe qué tipo de permutaciones puede producir otra “información” menos benigna para influir en el comportamiento de aquellos que creen todo lo que ven en las redes sociales.

Otro accidente de software le sucedió a FB cuando por un error dejó los nombres de los que regulan el contenido disponible para el público:

“Revelado: Facebook expuso las identidades de los moderadores de sospechosos de terrorismo. Un lapso de seguridad que afectó a más de 1.000 trabajadores obligó a un moderador a ocultarse – y todavía vive en constante temor por su seguridad”. The Guardian.

La intencionalidad humana, la forma en que la conciencia estructura los datos de los sentidos y la memoria, tiene una dirección y un tono emocional. Toda la humanidad trata de alejarse del sufrimiento y orientarse hacia una significativa felicidad. Incluso si se equivoca (por ejemplo, aumentando la violencia) es posible comprender las raíces del mal funcionamiento: miedo, frustración, injusticia, adoctrinamiento, codicia.

Si los algoritmos organizan su propia estructuración, no debemos atribuirles intencionalidad. Sólo los humanos pueden dar dirección. Las máquinas seguirán una cierta lógica formulada por sus creadores humanos, pero la búsqueda de IA introduce necesariamente la posibilidad de conexiones aleatorias, una cierta “libertad” que hace la diferencia con las calculadoras simples.

Desde el momento en que Alan Turing, padre de las computadoras modernas, creó la prueba de Turing (cuyo objetivo era detectar el momento en que no se pueden diferenciar las respuestas dadas por un ser humano de aquellas dadas por una computadora), comenzó la carrera para salir de las restricciones que impone el control humano. Lo más preocupante es que la ética humana ha perdido mucho terreno en la investigación, en una sociedad donde el lucro resulta el valor más alto. Y en la era del ciberespacio transnacional ningún Estado-nación puede esperar aplicar normas y reglamentos establecidos por mecanismos democráticos, aunque sean imperfectos. En otras palabras, un nuevo tipo de régimen totalitario lleva a decidir qué tipo de tecnología dará forma a nuestras vidas.

Por lo tanto, no es el caso de convertirse en una Luddite (1) o un tecnófobo paranoico y temer a los robots. El peligro en este momento está en las intenciones humanas que decidirán si prevalecerá la Inteligencia Artificial o la Estupidez Artificial. Sólo humanizar los valores de la sociedad puede mover la tecnología en la dirección correcta.

(1) Trabajadora textil inglesa del siglo XIX que destruyó la maquinaria recién introducida para proteger su empleo.

Categorías: Ciencia y Tecnología, Internacional, Opiniones
Tags: ,

Noticias diarias

Suscríbete ingresando tu correo electrónico para recibir un resumen diario de noticias.


Video presentation: What Pressenza is...

Milagro Sala

Programa de Radio

Diálogos por una internet ciudadana

Renta Básica

International Campaign to Abolish Nuclear Weapons

International Campaign to Abolish Nuclear Weapons

Foro para la integración de NuestrAmerica

Foro para la integración de NuestrAmerica

Archivos

Except where otherwise note, content on this site is licensed under a Creative Commons Attribution 4.0 International license.