Ψευδείς ειδήσεις παραγόμενες από αλγόριθμους

31.07.2017 - Λονδίνο, Ηνωμένο Βασίλειο - Silvia Swinden

Αυτή η ανάρτηση είναι επίσης διαθέσιμη σε: Αγγλικα, Ισπανικα, Γαλλικα, Ιταλικα, Γερμανικα

Ψευδείς ειδήσεις παραγόμενες από αλγόριθμους
Παιχνίδια ρομπότ στο Μουσείο του Objeto del Objeto στην Πόλη του Μεξικό (Εικόνα του AlejandroLinaresGarcia, Wikimedia Commons)

Σήμερα άνοιξα το Facebook και ανακάλυψα ότι δυο από τους πολύ καλούς μου φίλους σε μιαν άλλη χώρα παντρεύονταν. Μου φάνηκε παράξενο γιατί είναι μαζί για πολλά χρόνια, είχαν ήδη μεγάλα παιδιά και δεν είχαν κάνει καμία προσωπική ανακοίνωση. Όμως το post τους στο Facebook φαινόταν εξαιρετικά αυθεντικό, καθώς υπήρχαν σχετικές φωτογραφίες και πολλά συγχαρητήρια από κοινούς φίλους και φίλες. Έτσι έστειλα ένα μήνυμα στη «νύφη» η οποία επιβεβαίωσε ότι φυσικά δεν παντρεύονται, απλά σε προηγούμενη προσπάθειά της να ανεβάσει ένα post, το Facebook την ρώτησε αν και με ποιον είναι παντρεμένη και από την απάντησή της το website δημιούργησε αυτόματα αυτό το post.

Έχουμε συνηθίσει να διαδίδουμε κάθε είδους ψεύτικα νέα που δημοσιεύονται στο FB, είτε από κακή πρόθεση, είτε επειδή εξαπατηθήκαμε είτε για άλλους σκοτεινούς λόγους που δεν μπορούμε να καταλάβουμε. Γενικότερα όμως κρύβεται ενός είδους ανθρώπινης πρόθεσης στη διασπορά αυτών των ειδήσεων.

Το γεγονός ότι το FB μπορεί να παράξει ψεύτικες ειδήσεις, μέσα από τη χρήση ενός αλγόριθμου, συνιστά ένα διαφορετικό θέμα. Παρακολούθησα με ενδιαφέρον τη συζήτηση μεταξύ Mark Zuckerberg και Elon Musk σχετικά με το μέλλον της τεχνητής νοημοσύνης (ΤΝ).

«Το έδαφος δράσης απέναντι στην παγκόσμια nerd διαμάχη δημιουργήθηκε από τον Elon Musk, Διευθύνοντα Σύμβουλο της Tesla και της SpaceX, νωρίτερα αυτό το μήνα, ο οποίος κινείται δυναμικά προς τη δημιουργία προληπτικής οδηγίας που αφορά την τεχνητή νοημοσύνη, καθώς πιστεύει ότι «αποτελεί μια σοβαρότατη απειλή για την ύπαρξη του πολιτισμού» … «Κρούω διαρκώς τον κώδωνα του κινδύνου, αλλά μέχρι οι άνθρωποι να βλέπουν ρομπότ να βρίσκονται στο δρόμο και να σκοτώνουν ανθρώπους, δεν ξέρουν πώς να αντιδράσουν, γιατί όλο αυτό τους φαίνεται πολύ αιθέριο», είπε. Όταν ρωτήθηκε για το θέμα αυτό ο Mark Zuckerberg είπε: «Έχω αρκετά σταθερή άποψη γι’ αυτό. Είμαι αισιόδοξος. Και νομίζω ότι αυτούς που το αρνούνται και προσπαθούν να φέρουν στο φως αποκαλυπτικής φύσης σενάρια – απλά δεν τους καταλαβαίνω. Είναι ιδιαίτερα αρνητική ως στάση και θα έλεγα μάλιστα ότι αγγίζει τα όρια της ανευθυνότητας». The Guardian

Νομίζω όμως ότι πριν φτάσουμε να πούμε ότι τα ρομπότ θα καταλάβουν τον κόσμο, μπορούμε να μιλήσουμε για αρκετά ανησυχητικά ατυχήματα, απλώς γιατί οι αλγόριθμοι που μπλέκονται με αυτόματες διαδικασίες που αφορούν τις γιγάντιες εταιρίες του διαδικτύου, αναλαμβάνουν να δώσουν αποτέλεσμα σε πλέον εξαιρετικά περίπλοκες εργασίες, που απλώς μπορεί να μην «αντέχουν» να τις καταφέρουν. Μερικά τέτοια δείγματα είναι ήδη ορατά, όπως τα ψεύτικα νέα για τους φίλους μου, που φαινομενικά δεν προκαλούν κανένα κακό. Ποιος ξέρει όμως τι άλλου είδους πληροφορίες μπορούν να παραχθούν από αυτή τη δαιδαλώδη διαδικασία με στόχο την επιρροή της συμπεριφοράς αυτών που πιστεύουν όλα όσα κυκλοφορούν στα κοινωνικά μέσα δικτύωσης;

Ένα άλλο ατύχημα που αποδίδεται σε software που συνέβη στο FB ήταν όταν από λάθος διέρρευσαν τα ονόματα αυτών που ρυθμίζουν περιεχόμενο που είναι στη διάθεση του κόσμου (χωρίς περιορισμό απορρήτου):

«Το Facebook αποκάλυψε την ταυτότητα κάποιων διαχειριστών σε πιθανούς τρομοκράτες. Επρόκειτο για ένα κενό ασφάλειας που εξέθεσε περίπου 1.000 εργαζόμενους και ώθησε έναν διαχειριστή στο να κρύβεται – και ακόμα να ζει με διαρκή φόβο για την ασφάλειά του». The Guardian

Η ανθρώπινη πρόθεση, ο τρόπος που η ανθρώπινη συνείδηση δομεί στοιχεία που δίνουν οι αισθήσεις στη μνήμη, έχει μια κατεύθυνση και έναν συγκινησιακό τόνο. Όλη η ανθρωπότητα προσπαθεί να απομακρυνθεί από την οδύνη και να ανακαλύψει την ευτυχία μέσα από το νόημα. Ακόμα και αν κάνει λάθος (πχ η διαρκής αύξηση της βίας) είναι δυνατόν να αντιληφθούμε τις ρίζες που μας οδηγούν στη δυσλειτουργία: είναι ο φόβος, η απογοήτευση, η έλλειψη δικαιοσύνης, η απληστία…

Αν οι αλγόριθμοι οργανώνονται με τη δική τους δομή, δεν θα μπορούμε να επέμβουμε με πρόθεση σε αυτό. Μόνο οι άνθρωποι μπορούμε να δώσουμε κατεύθυνση. Οι μηχανές θα ακολουθήσουν συγκεκριμένη λογική, που θα τους δοθεί από τους ανθρώπους που τις κατασκευάζουν. Όμως η αναζήτηση της τεχνητής νοημοσύνης εξ ανάγκης εισάγει την πιθανότητα των τυχαίων συνδέσεων, ενός είδους «ελευθερίας» που συνιστά τη διαφορά από την απλή υπολογιστική δράση.

Από τη στιγμή που ο Alan Turing, ο πατέρας των μοντέρνων υπολογιστών, δημιούργησε το Turing test (του οποίου ο στόχος είναι να εντοπιστεί η στιγμή που δεν θα είμαστε σε θέση να διαχωρίσουμε τις απαντήσεις που δίνει το ανθρώπινο ον από αυτές που δίνει ένας υπολογιστής) ξεκίνησε ο αγώνας για την έξοδο της μηχανής από τους περιορισμούς που της θέτει ο ανθρώπινος έλεγχος. Ακόμα πιο ανησυχητικό είναι το γεγονός ότι η ανθρώπινη ηθική έχασε πολύ έδαφος στην έρευνα σε μια κοινωνία της οποίας κεντρική αξία είναι το κέρδος. Πόσο μάλλον στην εποχή της διακρατικής διακυβέρνησης, όπου κανένα κράτος δεν μπορεί να ελπίζει στο ότι θα καταφέρει να βάλει κανόνες και ρυθμίσεις, που όσα ελαττώματα κι αν τυχόν έχουν, θα μπορούσαν πιθανώς να είναι δημοκρατικοί μηχανισμοί. Με άλλα λόγια, ένα νέο είδος απολυταρχικού καθεστώτος αποφασίζει τι είδους τεχνολογία θα καθορίζει τη ζωή μας.

Οπότε, το θέμα μας δεν είναι να γίνουμε Λουδίτες ή παρανοϊκά αντίθετοι στην τεχνολογική εξέλιξη αναπτύσσοντας φόβο απέναντι στα ρομπότ. Ο κίνδυνος τώρα αφορά ανθρώπινες προθέσεις, οι οποίες θα αποφασίσουν αν θα κυριαρχήσει η τεχνητή νοημοσύνη ή η τεχνητή ανοησία. Μόνο εξανθρωπίζοντας τις αξίες της κοινωνίας μπορούμε να κάνουμε χρήση της τεχνολογίας στη σωστή κατεύθυνση.

Κατηγορίες: Γνώμες, Επιστήμη και Τεχνολογία
Tags: ,

Ενημερωτικό Δελτίο

Εισάγετε την ηλεκτρονική σας διεύθυνση για να λαμβάνετε τις καθημερινές μας ειδήσεις.


Ντοκιμαντέρ για το βασικό εισόδημα

Η αρχή του τέλους των πυρηνικών όπλων

Παγκοσμια πορεια για την ειρηνη και τη μη-βια

Pressenza On Air

Μιλάγκρο Σάλα

International Campaign to Abolish Nuclear Weapons

International Campaign to Abolish Nuclear Weapons

Portokali radio

Αρχείο

Except where otherwise note, content on this site is licensed under a Creative Commons Attribution 4.0 International license.