Το υποσύνολο της τεχνητής νοημοσύνης που είναι γνωστό ως Μεγάλα Γλωσσικά Μοντέλα δεν μπορεί να μας πει τίποτα για την εκμάθηση της ανθρώπινης γλώσσας, αλλά υπερέχει στο να παραπλανά τους ανενημέρωτους.
Η τεχνητή νοημοσύνη (ΤΝ) σαρώνει τον κόσμο. Μεταμορφώνει κάθε τομέα της ζωής και εγείρει κατά τη διαδικασία αυτή σημαντικές ηθικές ανησυχίες για την κοινωνία και το μέλλον της ανθρωπότητας. Το ChatGPT, το οποίο κυριαρχεί στα μέσα κοινωνικής δικτύωσης, είναι ένα chatbot με τεχνητή νοημοσύνη που αναπτύχθηκε από την OpenAI. Αποτελεί ένα υποσύνολο της μηχανικής μάθησης και βασίζεται σε αυτό που ονομάζεται Large Language Models (Μεγάλα γλωσσικά μοντέλα), τα οποία μπορούν να παράγουν απαντήσεις που μοιάζουν με ανθρώπινες. Οι πιθανές εφαρμογές μιας τέτοιας τεχνολογίας είναι πράγματι τεράστιες, γι’ αυτό και υπάρχουν ήδη εκκλήσεις για τη ρύθμιση της τεχνητής νοημοσύνης όπως το ChatGPT.
Μπορεί η τεχνητή νοημοσύνη να ξεπεράσει τον άνθρωπο; Αποτελεί δημόσια απειλή; Μπορεί η τεχνητή νοημοσύνη να γίνει υπαρξιακή απειλή; Ο κορυφαίος γλωσσολόγος στον κόσμο Νόαμ Τσόμσκι, και ένας από τους πιο αξιόλογους δημόσιους διανοούμενους όλων των εποχών, του οποίου το πνευματικό ανάστημα έχει συγκριθεί με αυτό του Γαλιλαίου, του Νεύτωνα και του Ντεκάρτ, αντιμετωπίζει αυτά τα βασανιστικά ερωτήματα στη συνέντευξη που ακολουθεί.
J. Polychroniou: Ως επιστημονικός κλάδος, η τεχνητή νοημοσύνη (ΤΝ) χρονολογείται από τη δεκαετία του 1950, αλλά τις τελευταίες δύο δεκαετίες έχει εισχωρήσει σε κάθε είδους τομείς, συμπεριλαμβανομένων των τραπεζών, των ασφαλειών, της αυτοκινητοβιομηχανίας, της μουσικής και της άμυνας. Μάλιστα, η χρήση τεχνικών τεχνητής νοημοσύνης έχει αποδειχθεί σε ορισμένες περιπτώσεις ότι ξεπερνά τις ανθρώπινες ικανότητες, όπως σε μια παρτίδα σκάκι. Είναι πιθανό οι μηχανές να γίνουν πιο έξυπνες από τους ανθρώπους;
Νόαμ Τσόμσκι: Για να διευκρινίσουμε την ορολογία, ο όρος «μηχανή» εδώ σημαίνει πρόγραμμα, βασικά μια θεωρία γραμμένη σε μια σημειογραφία που μπορεί να εκτελεστεί από έναν υπολογιστή -και ένα ασυνήθιστο είδος θεωρίας με ενδιαφέροντες τρόπους που μπορούμε να αφήσουμε στην άκρη εδώ.
Μπορούμε να κάνουμε μια πρόχειρη διάκριση μεταξύ της καθαρής μηχανικής και της επιστήμης. Δεν υπάρχει αυστηρό όριο, αλλά είναι μια χρήσιμη πρώτη προσέγγιση. Η καθαρή μηχανική επιδιώκει να παράγει ένα προϊόν που μπορεί να έχει κάποια χρησιμότητα. Η επιστήμη επιδιώκει την κατανόηση. Αν το θέμα είναι η ανθρώπινη νοημοσύνη ή οι γνωστικές ικανότητες άλλων οργανισμών, η επιστήμη επιδιώκει την κατανόηση αυτών των βιολογικών συστημάτων.
Όπως τους αντιλαμβάνομαι, οι ιδρυτές της ΤΝ – ο Άλαν Τούρινγκ, ο Χέρμπερτ Σάιμον, ο Μάρβιν Μίνσκι και άλλοι – την θεωρούσαν επιστήμη, μέρος των τότε αναδυόμενων γνωστικών επιστημών, που χρησιμοποιούσαν τις νέες τεχνολογίες και τις ανακαλύψεις στη μαθηματική θεωρία του υπολογισμού για να αναπτύξουν την κατανόηση. Με την πάροδο των ετών αυτές οι ανησυχίες ξεθώριασαν και αντικαταστάθηκαν σε μεγάλο βαθμό από έναν προσανατολισμό μηχανικής. Οι προηγούμενες ανησυχίες συνήθως τώρα απορρίπτονται, μερικές φορές συγκαταβατικά, ως GOFAI – καλή παλιομοδίτικη τεχνητή νοημοσύνη.
Συνεχίζοντας με το ερώτημα, είναι πιθανό να επινοηθούν προγράμματα που θα ξεπερνούν τις ανθρώπινες ικανότητες; Πρέπει να είμαστε προσεκτικοί με τη λέξη «ικανότητες», για λόγους στους οποίους θα μιλήσω παρακάτω. Αλλά αν θεωρήσουμε ότι ο όρος αναφέρεται στις ανθρώπινες επιδόσεις, τότε η απάντηση είναι: σίγουρα ναι. Στην πραγματικότητα, υπάρχουν εδώ και πολύ καιρό: η αριθμομηχανή σε ένα φορητό υπολογιστή, για παράδειγμα. Μπορεί να υπερβεί κατά πολύ αυτό που μπορεί να κάνει ο άνθρωπος, έστω και μόνο λόγω έλλειψης χρόνου και μνήμης. Για κλειστά συστήματα όπως το σκάκι, ήταν κατανοητό στη δεκαετία του ’50 ότι αργά ή γρήγορα, με την πρόοδο των τεράστιων υπολογιστικών δυνατοτήτων και μια μακρά περίοδο προετοιμασίας, θα μπορούσε να επινοηθεί ένα πρόγραμμα που θα μπορούσε να νικήσει έναν γκραν μάστερ που παίζει με περιορισμένη μνήμη και χρόνο. Το επίτευγμα, χρόνια αργότερα, ήταν λίγο πολύ δημόσιες σχέσεις για την IBM. Πολλοί βιολογικοί οργανισμοί ξεπερνούν τις ανθρώπινες γνωστικές ικανότητες με πολύ βαθύτερους τρόπους. Τα μυρμήγκια της ερήμου στην αυλή μου έχουν μικροσκοπικούς εγκεφάλους, αλλά ξεπερνούν κατά πολύ τις ανθρώπινες ικανότητες πλοήγησης, επί της αρχής, όχι μόνο στην απόδοση. Δεν υπάρχει Μεγάλη Αλυσίδα της Ύπαρξης με τους ανθρώπους στην κορυφή.
Τα προϊόντα της μηχανικής της τεχνητής νοημοσύνης χρησιμοποιούνται σε πολλούς τομείς, προς το καλύτερο ή προς το χειρότερο. Ακόμα και τα απλά και γνωστά μπορούν να είναι αρκετά χρήσιμα: στον τομέα της γλώσσας, προγράμματα όπως η αυτόματη συμπλήρωση, η ζωντανή μεταγραφή, το google translate, μεταξύ άλλων. Με πολύ μεγαλύτερη υπολογιστική ισχύ και πιο εξελιγμένο προγραμματισμό, θα υπάρξουν και άλλες χρήσιμες εφαρμογές, και στις θετικές επιστήμες. Ήδη έχουν υπάρξει κάποιες: Η βοήθεια στη μελέτη της αναδίπλωσης των πρωτεϊνών είναι μια πρόσφατη περίπτωση όπου η τεχνολογία μαζικής και ταχείας αναζήτησης βοήθησε τους επιστήμονες να αντιμετωπίσουν ένα κρίσιμο και δύστροπο πρόβλημα.
Τα μηχανικά έργα μπορεί να είναι χρήσιμα ή επιβλαβή. Και τα δύο ερωτήματα προκύπτουν στην περίπτωση της μηχανικής ΤΝ. Οι τρέχουσες εργασίες με Μεγάλα Γλωσσικά Μοντέλα (LLM), συμπεριλαμβανομένων των chatbots, παρέχουν εργαλεία για την παραπληροφόρηση, τη δυσφήμιση και την παραπλάνηση των ανενημέρωτων. Οι απειλές ενισχύονται όταν συνδυάζονται με τεχνητές εικόνες και αντιγραφή της φωνής. Έχοντας κατά νου διαφορετικές ανησυχίες, δεκάδες χιλιάδες ερευνητές ΤΝ ζήτησαν πρόσφατα μορατόριουμ στην ανάπτυξη λόγω των πιθανών κινδύνων που αντιλαμβάνονται.
Όπως πάντα, τα πιθανά οφέλη της τεχνολογίας πρέπει να σταθμίζονται έναντι του πιθανού κόστους.
Αρκετά διαφορετικά ερωτήματα προκύπτουν όταν στρεφόμαστε προς την ΤΝ και την επιστήμη. Εδώ απαιτείται προσοχή λόγω των υπερβολικών και απερίσκεπτων ισχυρισμών, που συχνά ενισχύονται από τα μέσα ενημέρωσης. Για να αποσαφηνίσουμε τα ζητήματα, ας εξετάσουμε περιπτώσεις, κάποιες υποθετικές και κάποιες πραγματικές.
Ανέφερα την πλοήγηση των εντόμων, η οποία είναι ένα εκπληκτικό επίτευγμα. Οι επιστήμονες των εντόμων έχουν σημειώσει μεγάλη πρόοδο στη μελέτη του τρόπου με τον οποίο επιτυγχάνεται, αν και η νευροφυσιολογία, ένα πολύ δύσκολο θέμα, παραμένει ασύλληπτη, μαζί με την εξέλιξη των συστημάτων. Το ίδιο ισχύει και για τα εκπληκτικά κατορθώματα των πτηνών και των θαλάσσιων χελωνών που ταξιδεύουν χιλιάδες χιλιόμετρα και επιστρέφουν αλάνθαστα στον τόπο καταγωγής τους.
Ας υποθέσουμε ότι έρχεται ο Τομ Τζόουνς, ένας υποστηρικτής της μηχανικής ΤΝ, και λέει: «Η δουλειά σας έχει διαψευσθεί. Το πρόβλημα λύθηκε. Οι πιλότοι των εμπορικών αερογραμμών επιτυγχάνουν συνεχώς τα ίδια ή και καλύτερα αποτελέσματα».
Αν έστω μπαίναμε στον κόπο να απαντήσουμε, θα γελούσαμε.
Πάρτε την περίπτωση των ναυτικών κατορθωμάτων των Πολυνησίων, που είναι ακόμα ζωντανά μεταξύ των ιθαγενών φυλών, χρησιμοποιώντας τα αστέρια, τον άνεμο, τα ρεύματα για να αποβιβάσουν τα κανό τους σε ένα καθορισμένο σημείο εκατοντάδες μίλια μακριά. Και αυτό έχει αποτελέσει αντικείμενο πολλών ερευνών για να μάθουμε πώς το κάνουν. Ο Τομ Τζόουνς έχει την απάντηση: «Σταματήστε να σπαταλάτε τον χρόνο σας, τα ναυτικά σκάφη το κάνουν συνέχεια».
Ίδια απάντηση.
Ας στραφούμε τώρα σε μια πραγματική περίπτωση, την απόκτηση γλωσσών. Έχει αποτελέσει αντικείμενο εκτεταμένης και εξαιρετικά διαφωτιστικής έρευνας τα τελευταία χρόνια, η οποία δείχνει ότι τα βρέφη έχουν πολύ πλούσια γνώση της γλώσσας (ή των γλωσσών) του περιβάλλοντος, πολύ πέρα από αυτό που επιδεικνύουν. Αυτό επιτυγχάνεται με ελάχιστα στοιχεία και σε ορισμένες κρίσιμες περιπτώσεις με καθόλου. Στην καλύτερη περίπτωση, όπως έχουν δείξει προσεκτικές στατιστικές μελέτες, τα διαθέσιμα δεδομένα είναι αραιά, ιδίως όταν λαμβάνεται υπόψη η συχνότητα κατάταξης («νόμος του Zipf»).
Μπαίνει ο Τομ Τζόουνς: «Διαψεύστηκες. Μη δίδοντας σημασία στις ανακαλύψεις σας, τα LLM που σαρώνουν αστρονομικές ποσότητες δεδομένων μπορούν να βρουν στατιστικές κανονικότητες που καθιστούν δυνατή την προσομοίωση των δεδομένων στα οποία εκπαιδεύονται, παράγοντας κάτι που μοιάζει αρκετά με τη φυσιολογική ανθρώπινη συμπεριφορά. Τα Chatbots».
Αυτή η περίπτωση διαφέρει από τις άλλες. Πρώτον, είναι πραγματική. Δεύτερον, ο κόσμος δεν γελάει- στην πραγματικότητα, πολλοί βρίσκονται σε δέος. Τρίτον, σε αντίθεση με τις υποθετικές περιπτώσεις, τα πραγματικά αποτελέσματα απέχουν πολύ από αυτά που ισχυρίζονται.
Αυτές οι εκτιμήσεις αναδεικνύουν ένα μικρό πρόβλημα με τον σημερινό ενθουσιασμό για τα LLM: τον απόλυτο παραλογισμό του, όπως και στις υποθετικές περιπτώσεις όπου το αναγνωρίζουμε αμέσως. Υπάρχουν όμως πολύ σοβαρότερα προβλήματα από τον παραλογισμό.
Το ένα είναι ότι τα συστήματα LLM είναι σχεδιασμένα με τέτοιο τρόπο ώστε να μη μπορούν να μας πουν τίποτα για τη γλώσσα, τη μάθηση ή άλλες πτυχές της νόησης, ένα θέμα αρχής, ανεπανόρθωτο. Διπλασιάστε τα terabytes των δεδομένων που σαρώνονται, προσθέστε άλλες τρισεκατομμύρια παραμέτρους, χρησιμοποιήστε ακόμα περισσότερη από την ενέργεια της Καλιφόρνιας και η προσομοίωση της συμπεριφοράς θα βελτιωθεί, ενώ θα αποκαλυφθεί με μεγαλύτερη σαφήνεια η καταρχήν αποτυχία της προσέγγισης να αποδώσει οποιαδήποτε κατανόηση. Ο λόγος είναι στοιχειώδης: Τα συστήματα λειτουργούν εξίσου καλά με αδύνατες γλώσσες που τα βρέφη δεν μπορούν να αποκτήσουν όπως με εκείνες που αποκτούν γρήγορα και σχεδόν αντανακλαστικά.
Είναι σαν να έλεγε ένας βιολόγος: «Έχω μια μεγάλη νέα θεωρία για τους οργανισμούς. Απαριθμεί πολλούς που υπάρχουν και πολλούς που δεν είναι δυνατόν να υπάρχουν και δεν μπορώ να σας πω τίποτα για τη διάκριση».
Και πάλι, θα γελούσαμε. Ή θα έπρεπε.
Όχι ο Τομ Τζόουνς – τώρα αναφερόμαστε σε πραγματικές περιπτώσεις. Επιμένοντας στη ριζική απομάκρυνσή του από την επιστήμη, ο Τομ Τζόουνς απαντά: «Πώς μπορείτε να ξέρετε κάτι από αυτά μέχρι να ερευνήσετε όλες τις γλώσσες;» Σε αυτό το σημείο η εγκατάλειψη της κανονικής επιστήμης γίνεται ακόμη πιο σαφής. Με αυτό το σκεπτικό, μπορούμε να απορρίψουμε τη γενετική και τη μοριακή βιολογία, τη θεωρία της εξέλιξης και τις υπόλοιπες βιολογικές επιστήμες, οι οποίες δεν έχουν παρατηρήσει παρά μόνο ένα μικροσκοπικό κλάσμα των οργανισμών. Και για το μεγάλο μέρος της, μπορούμε να απορρίψουμε όλη τη φυσική. Γιατί να πιστεύουμε στους νόμους της κίνησης; Πόσα αντικείμενα έχουν πράγματι παρατηρηθεί να κινούνται;
Υπάρχει, επιπλέον, ένα μικρό θέμα, το βάρος της απόδειξης. Αυτοί που προτείνουν μια θεωρία έχουν την ευθύνη να δείξουν ότι έχει κάποιο νόημα, στην προκειμένη περίπτωση, να δείξουν ότι αποτυγχάνει για αδύνατες γλώσσες. Δεν είναι ευθύνη των άλλων να αντικρούσουν την πρόταση, αν και σε αυτή την περίπτωση φαίνεται αρκετά εύκολο να το κάνουν.
Ας στρέψουμε την προσοχή μας στην κανονική επιστήμη, όπου τα πράγματα αποκτούν ενδιαφέρον. Ακόμα και ένα μόνο παράδειγμα απόκτησης γλωσσών μπορεί να δώσει πλούσια εικόνα για τη διάκριση μεταξύ δυνατών και αδύνατων γλωσσών.
Οι λόγοι είναι απλοί και οικείοι. Κάθε ανάπτυξη και εξέλιξη, συμπεριλαμβανομένου αυτού που ονομάζεται «μάθηση», είναι μια διαδικασία που ξεκινά από την κατάσταση του οργανισμού και τη μετατρέπει βήμα προς βήμα σε μεταγενέστερα στάδια.
Η κατάκτηση της γλώσσας είναι μια τέτοια διαδικασία. Η αρχική κατάσταση είναι η βιολογική προίκα της γλωσσικής ικανότητας, η οποία προφανώς υπάρχει, ακόμη και αν είναι, όπως πιστεύουν ορισμένοι, ένας ιδιαίτερος συνδυασμός άλλων ικανοτήτων. Αυτό είναι εξαιρετικά απίθανο για λόγους που έχουν γίνει από καιρό κατανοητοί, αλλά δεν έχει σχέση με τις ανησυχίες μας εδώ, οπότε μπορούμε να το αφήσουμε στην άκρη. Προφανώς υπάρχει βιολογική προίκα για την ανθρώπινη ικανότητα της γλώσσας. Η πιο απλή κοινοτοπία.
Η μετάβαση προχωρεί σε μια σχετικά σταθερή κατάσταση, που αλλάζει μόνο επιφανειακά πιο πέρα: τη γνώση της γλώσσας. Τα εξωτερικά δεδομένα πυροδοτούν και διαμορφώνουν εν μέρει τη διαδικασία. Μελετώντας την κατάσταση που επιτυγχάνεται (γνώση της γλώσσας) και τα εξωτερικά δεδομένα, μπορούμε να βγάλουμε εκτεταμένα συμπεράσματα για την αρχική κατάσταση, τη βιολογική προίκα που καθιστά δυνατή την απόκτηση της γλώσσας. Τα συμπεράσματα σχετικά με την αρχική κατάσταση επιβάλλουν τη διάκριση μεταξύ δυνατών και αδύνατων γλωσσών. Η διάκριση ισχύει για όλους εκείνους που μοιράζονται την αρχική κατάσταση -όλους τους ανθρώπους, απ’ όσο γνωρίζουμε- δεν φαίνεται να υπάρχει διαφορά στην ικανότητα απόκτησης γλώσσας μεταξύ των ανθρώπινων ομάδων που υπάρχουν.
Όλα αυτά είναι μια κανονική επιστήμη, η οποία έχει επιτύχει πολλά αποτελέσματα.
Τα πειράματα έχουν δείξει ότι η σταθερή κατάσταση επιτυγχάνεται ουσιαστικά πολύ νωρίς, από την ηλικία των τριών έως τεσσάρων ετών. Είναι επίσης καλά τεκμηριωμένο ότι η ικανότητα της γλώσσας έχει βασικές ιδιότητες που χαρακτηρίζουν τον άνθρωπο, άρα είναι μια πραγματική ιδιότητα του είδους: κοινή στις ανθρώπινες ομάδες και κατά θεμελιώδη τρόπο μοναδική ανθρώπινη ιδιότητα.
Πολλά παραλείπονται σε αυτή τη σχηματική περιγραφή, ιδίως ο ρόλος του φυσικού νόμου στην ανάπτυξη και την εξέλιξη: στην περίπτωση ενός υπολογιστικού συστήματος όπως η γλώσσα, οι αρχές της υπολογιστικής αποτελεσματικότητας. Αλλά αυτή είναι η ουσία του θέματος. Και πάλι, κανονική επιστήμη.
Είναι σημαντικό να ξεκαθαρίσουμε τη διάκριση του Αριστοτέλη ανάμεσα στην κατοχή της γνώσης και τη χρήση της γνώσης (στη σύγχρονη ορολογία, ικανότητα και απόδοση). Στην περίπτωση της γλώσσας, η σταθερή κατάσταση που επιτυγχάνεται είναι η κατοχή της γνώσης, κωδικοποιημένη στον εγκέφαλο. Το εσωτερικό σύστημα καθορίζει μια απεριόριστη σειρά δομημένων εκφράσεων, καθεμία από τις οποίες μπορούμε να θεωρήσουμε ότι διατυπώνει μια σκέψη, η κάθε μία εξωτερικεύεται σε κάποιο αισθητικοκινητικό σύστημα, συνήθως τον ήχο, αν και θα μπορούσε να είναι η νοηματική ή ακόμη και (με δυσκολία) η αφή.
Η πρόσβαση στο εσωτερικά κωδικοποιημένο σύστημα γίνεται με τη χρήση της γνώσης (απόδοση). Η απόδοση περιλαμβάνει την εσωτερική χρήση της γλώσσας στη σκέψη: συλλογισμός, σχεδιασμός, ανάκληση και πολλά άλλα. Στατιστικά μιλώντας, αυτή είναι μακράν η συντριπτική χρήση της γλώσσας. Είναι απρόσιτη στην ενδοσκόπηση, αν και μπορούμε να μάθουμε πολλά γι’ αυτήν με τις συνήθεις μεθόδους της επιστήμης, από «έξω», μεταφορικά μιλώντας. Αυτό που αποκαλείται «εσωτερικός λόγος» είναι, στην πραγματικότητα, θραύσματα εξωτερικευμένης γλώσσας με τον μηχανισμό της ομιλίας σε σίγαση. Είναι μόνο μια απομακρυσμένη αντανάκλαση της εσωτερικής χρήσης της γλώσσας, σημαντικά ζητήματα που δεν μπορώ να εξηγήσω εδώ.
Άλλες μορφές χρήσης της γλώσσας είναι η αντίληψη (γραμματική ανάλυση) και η παραγωγή, η οποία περιλαμβάνει ιδιότητες που παραμένουν για εμάς σήμερα το ίδιο μυστηριώδεις όσο και όταν τις έβλεπαν με δέος και κατάπληξη ο Γαλιλαίος και οι σύγχρονοί του στην αυγή της σύγχρονης επιστήμης.
Ο κύριος στόχος της επιστήμης είναι να ανακαλύψει το εσωτερικό σύστημα, τόσο στην αρχική του κατάσταση στην ανθρώπινη γλωσσική ικανότητα όσο και στις ιδιαίτερες μορφές που παίρνει κατά την κατάκτηση. Στο βαθμό που αυτό το εσωτερικό σύστημα είναι κατανοητό, μπορούμε να προχωρήσουμε στη διερεύνηση του τρόπου με τον οποίο υπεισέρχεται στην απόδοση, αλληλεπιδρώντας με πολλούς άλλους παράγοντες που υπεισέρχονται στη χρήση της γλώσσας.
Τα δεδομένα της απόδοσης παρέχουν στοιχεία για τη φύση του εσωτερικού συστήματος, ιδίως όταν αυτά βελτιώνονται με πειράματα, όπως στην τυπική εργασία πεδίου. Αλλά ακόμη και η πιο μαζική συλλογή δεδομένων είναι αναγκαστικά παραπλανητική με κρίσιμους τρόπους. Κρατάει αυτό που παράγεται κανονικά, όχι τη γνώση της γλώσσας που κωδικοποιείται στον εγκέφαλο, το πρωταρχικό αντικείμενο έρευνας για όσους θέλουν να κατανοήσουν τη φύση της γλώσσας και της χρήσης της. Αυτό το εσωτερικό αντικείμενο καθορίζει άπειρες δυνατότητες ενός είδους που δεν θα χρησιμοποιηθούν στη φυσιολογική συμπεριφορά λόγω παραγόντων άσχετων με τη γλώσσα, όπως οι περιορισμοί της βραχυπρόθεσμης μνήμης, θέματα που μελετήθηκαν πριν από 60 χρόνια. Τα δεδομένα που παρατηρούνται θα περιλαμβάνουν επίσης πολλά που βρίσκονται έξω από το σύστημα που είναι κωδικοποιημένο στον εγκέφαλο, συχνά συνειδητή χρήση της γλώσσας με τρόπους που παραβιάζουν τους κανόνες για ρητορικούς σκοπούς. Αυτές είναι κοινοτοπίες γνωστές σε όλους τους εργαζόμενους στο πεδίο, οι οποίοι βασίζονται σε τεχνικές εκμαίευσης με πηγές, βασικά πειράματα, για να αποδώσουν ένα εκλεπτυσμένο σώμα κειμένων που αποκλείει άσχετους περιορισμούς και αποκλίνουσες εκφράσεις. Το ίδιο ισχύει και όταν οι γλωσσολόγοι χρησιμοποιούν τους εαυτούς τους ως πηγές, μια απολύτως λογική και φυσιολογική διαδικασία, συνηθισμένη στην ιστορία της ψυχολογίας μέχρι σήμερα.
Προχωρώντας περαιτέρω με την κανονική επιστήμη, διαπιστώνουμε ότι οι εσωτερικές διαδικασίες και τα στοιχεία της γλώσσας δεν μπορούν να ανιχνευθούν με την επιθεώρηση των παρατηρούμενων φαινομένων. Συχνά τα στοιχεία αυτά δεν εμφανίζονται καν στην ομιλία (ή στη γραφή), αν και τα αποτελέσματά τους, συχνά ανεπαίσθητα, μπορούν να ανιχνευθούν. Αυτός είναι άλλος ένας λόγος για τον οποίο ο περιορισμός στα παρατηρούμενα φαινόμενα, όπως στις προσεγγίσεις των LLM, περιορίζει απότομα την κατανόηση των εσωτερικών διεργασιών που αποτελούν τα βασικά αντικείμενα της έρευνας για τη φύση της γλώσσας, την κατάκτηση και τη χρήση της. Αλλά αυτό δεν έχει σημασία αν η μέριμνα για την επιστήμη και την κατανόηση έχουν εγκαταλειφθεί υπέρ άλλων στόχων.
Γενικότερα, στις επιστήμες, εδώ και χιλιετίες, τα συμπεράσματα προκύπτουν από πειράματα -συχνά από πειράματα σκέψης- που το καθένα αποτελεί μια ριζική αφαίρεση από τα φαινόμενα. Τα πειράματα βασίζονται στη θεωρία, επιδιώκοντας να απορρίψουν τους αναρίθμητους άσχετους παράγοντες που υπεισέρχονται στα παρατηρούμενα φαινόμενα, όπως η γλωσσική απόδοση. Όλα αυτά είναι τόσο στοιχειώδη που σπάνια συζητούνται. Και οικεία. Όπως σημειώθηκε, η βασική διάκριση ανάγεται στη διάκριση του Αριστοτέλη μεταξύ της κατοχής της γνώσης και της χρήσης της γνώσης. Η πρώτη είναι το κεντρικό αντικείμενο της μελέτης. Οι δευτερεύουσες (και αρκετά σοβαρές) μελέτες διερευνούν τον τρόπο με τον οποίο το εσωτερικά αποθηκευμένο σύστημα γνώσεων χρησιμοποιείται στην απόδοση, μαζί με τους πολλούς μη γλωσσικούς παράγοντες που υπεισέρχονται σε αυτό που παρατηρείται άμεσα.
Θα μπορούσαμε επίσης να θυμηθούμε μια παρατήρηση του εξελικτικού βιολόγου Τεοντόσι Ντομπζάνσκι, διάσημου κυρίως για το έργο του με τη Δροσόφιλα: Κάθε είδος είναι μοναδικό και οι άνθρωποι είναι το πιο μοναδικό από όλα. Αν μας ενδιαφέρει να κατανοήσουμε τι είδους πλάσματα είμαστε -ακολουθώντας την προτροπή του Δελφικού Μαντείου πριν από 2.500 χρόνια- θα ασχοληθούμε πρωτίστως με το τι κάνει τον άνθρωπο τον μοναδικότερο όλων, κυρίως η γλώσσα και η σκέψη, στενά συνυφασμένες μεταξύ τους, όπως αναγνωρίζεται σε μια πλούσια παράδοση που ανάγεται στην κλασική Ελλάδα και την Ινδία. Οι περισσότερες συμπεριφορές είναι αρκετά συνηθισμένες, άρα σε κάποιο βαθμό προβλέψιμες. Αυτό που παρέχει πραγματική εικόνα για το τι μας κάνει μοναδικούς είναι αυτό που δεν είναι ρουτίνα, το οποίο βρίσκουμε, άλλοτε με πειράματα και άλλοτε με παρατήρηση, από τα κανονικά παιδιά μέχρι τους μεγάλους καλλιτέχνες και επιστήμονες.
Ένα τελευταίο σχόλιο στο πλαίσιο αυτό. Η κοινωνία μαστίζεται εδώ και έναν αιώνα από μαζικές εταιρικές εκστρατείες που ενθαρρύνουν την περιφρόνηση της επιστήμης, θέματα που έχουν μελετηθεί καλά από τη Ναόμι Ορέσκις μεταξύ άλλων. Ξεκίνησε με εταιρείες των οποίων τα προϊόντα είναι δολοφονικά: μόλυβδος, καπνός, αμίαντος, αργότερα ορυκτά καύσιμα. Τα κίνητρά τους είναι κατανοητά. Ο στόχος μιας επιχείρησης σε μια καπιταλιστική κοινωνία είναι το κέρδος, όχι η ανθρώπινη ευημερία. Αυτό είναι ένα θεσμικό γεγονός: Αν δεν παίξεις το παιχνίδι, είσαι εκτός, και αντικαθιστάσαι από κάποιον που θα το κάνει.
Τα τμήματα δημοσίων σχέσεων των εταιρειών αναγνώρισαν από νωρίς ότι θα ήταν λάθος να αρνηθούν τα αυξανόμενα επιστημονικά στοιχεία για τις θανατηφόρες επιπτώσεις των προϊόντων τους. Αυτό θα μπορούσε εύκολα να διαψευστεί. Καλύτερα να σπείρουν την αμφιβολία, να ενθαρρύνουν την αβεβαιότητα, την περιφρόνηση γι’ αυτούς τους κουφιοκέφαλους κουστουμάτους που δεν έχουν βάψει ποτέ σπίτι, αλλά κατεβαίνουν από την Ουάσιγκτον για να μου πουν να μη χρησιμοποιώ μολύβδινη μπογιά, καταστρέφοντας την επιχείρησή μου (μια πραγματική περίπτωση, που εύκολα πολλαπλασιάζεται). Αυτό λειτούργησε πάρα πολύ καλά. Αυτή τη στιγμή μας οδηγεί σε μια πορεία προς την καταστροφή της οργανωμένης ανθρώπινης ζωής στη γη.
Στους διανοητικούς κύκλους, παρόμοια αποτελέσματα έχει προκαλέσει η μεταμοντέρνα κριτική της επιστήμης, η οποία αποδομήθηκε από τον Ζαν Μπρίκμοντ και τον Άλαν Σοκάλ, αλλά εξακολουθεί να είναι πολύ ζωντανή σε ορισμένους κύκλους.
Μπορεί να είναι άκομψο να θέσουμε το ερώτημα, αλλά είναι, νομίζω, δίκαιο να αναρωτηθούμε αν οι Τομ Τζόουνς και όσοι άκριτα επαναλαμβάνουν ή και ενισχύουν τις απρόσεκτες διακηρύξεις τους συμβάλλουν στις ίδιες ολέθριες τάσεις.
CJP: Το ChatGPT είναι ένα ρομπότ συνομιλίας με βάση τη φυσική γλώσσα που χρησιμοποιεί τεχνητή νοημοσύνη για να επιτρέπει συνομιλίες που μοιάζουν με τις ανθρώπινες. Σε ένα πρόσφατο άρθρο στους New York Times, σε συνδυασμό με δύο άλλους συγγραφείς, κλείνετε τα στόματα για τα νέα chatbots ως διαφημιστική εκστρατεία, επειδή απλώς δεν μπορούν να φτάσουν τη γλωσσική ικανότητα των ανθρώπων. Δεν είναι ωστόσο πιθανό ότι οι μελλοντικές καινοτομίες στην τεχνητή νοημοσύνη μπορούν να δημιουργήσουν μηχανικά έργα που θα φτάνουν και ίσως ακόμη και να ξεπερνούν τις ανθρώπινες ικανότητες;
ΝΤ: Τα εύσημα για το άρθρο πρέπει να δοθούν στον πραγματικό συγγραφέα, τον Jeffrey Watumull, έναν εξαιρετικό μαθηματικό-γλωσσολόγο-φιλόσοφο. Οι δύο αναφερόμενοι συν-συγγραφείς ήταν σύμβουλοι, οι οποίοι συμφωνούν με το άρθρο αλλά δεν το έγραψαν.
Είναι αλήθεια ότι τα chatbots δεν μπορούν κατ’ αρχήν να φτάσουν τη γλωσσική ικανότητα των ανθρώπων, για τους λόγους που επαναλαμβάνονται παραπάνω. Ο βασικός σχεδιασμός τους τα εμποδίζει να φτάσουν στην ελάχιστη προϋπόθεση επάρκειας για μια θεωρία της ανθρώπινης γλώσσας: να διακρίνουν τις δυνατές από τις αδύνατες γλώσσες. Εφόσον αυτό αποτελεί ιδιότητα του σχεδιασμού, δεν μπορεί να ξεπεραστεί από μελλοντικές καινοτομίες σε αυτό το είδος τεχνητής νοημοσύνης. Ωστόσο, είναι πολύ πιθανό τα μελλοντικά έργα μηχανικής να φτάσουν ή και να ξεπεράσουν τις ανθρώπινες ικανότητες, αν εννοούμε την ανθρώπινη ικανότητα για δράση και απόδοση. Όπως αναφέρθηκε παραπάνω, ορισμένα το έχουν κάνει εδώ και καιρό: οι αυτόματες αριθμομηχανές για παράδειγμα. Ακόμη πιο ενδιαφέρον είναι ότι, όπως αναφέρθηκε, έντομα με μικροσκοπικούς εγκεφάλους ξεπερνούν τις ανθρώπινες ικανότητες που νοούνται ως ικανότητα.
CJP: Στο προαναφερθέν άρθρο επισημάνθηκε επίσης ότι τα σημερινά έργα τεχνητής νοημοσύνης δεν διαθέτουν ανθρώπινη ηθική ικανότητα. Αυτό το προφανές γεγονός καθιστά τα ρομπότ ΤΝ λιγότερο απειλητικά για το ανθρώπινο είδος; Υποθέτω ότι το επιχείρημα μπορεί να είναι ότι τα καθιστά ίσως ακόμη περισσότερο.
ΝΤ: Είναι πράγματι ένα προφανές γεγονός, αν κατανοήσουμε την «ηθική ικανότητα» ευρέως. Αν δεν ελεγχθεί προσεκτικά, η μηχανική της Τεχνητής Νοημοσύνης μπορεί να δημιουργήσει σοβαρές απειλές. Ας υποθέσουμε, για παράδειγμα, ότι η φροντίδα των ασθενών αυτοματοποιείται. Τα αναπόφευκτα σφάλματα που θα ξεπερνιόντουσαν από την ανθρώπινη κρίση θα μπορούσαν να δημιουργήσουν μια ιστορία τρόμου. Ή ας υποθέσουμε ότι οι άνθρωποι απομακρυνθούν από την αξιολόγηση των απειλών που προσδιορίζονται από αυτοματοποιημένα συστήματα πυραυλικής άμυνας. Όπως μας πληροφορεί μια συγκλονιστική ιστορική καταγραφή, αυτό θα ήταν το τέλος του ανθρώπινου πολιτισμού.
CJP: Οι ρυθμιστικές αρχές και οι υπηρεσίες επιβολής του νόμου στην Ευρώπη εκφράζουν ανησυχίες σχετικά με την εξάπλωση του ChatGPT, ενώ μια πρόσφατα νομοθεσία που υποβλήθηκε στην Ευρωπαϊκή Ένωση προσπαθεί να αντιμετωπίσει την τεχνητή νοημοσύνη με την ταξινόμηση τέτοιων εργαλείων ανάλογα με το αντιληπτό επίπεδο κινδύνου τους. Συμφωνείτε με όσους ανησυχούν ότι το ChatGPT αποτελεί σοβαρή δημόσια απειλή; Επιπλέον, πιστεύετε πραγματικά ότι η περαιτέρω ανάπτυξη των εργαλείων ΤΝ μπορεί να σταματήσει μέχρι να εισαχθούν διασφαλίσεις;
ΝΤ: Μπορώ εύκολα να κατανοήσω τις προσπάθειες να προσπαθήσουν να ελέγξουν τις απειλές που θέτει η προηγμένη τεχνολογία, συμπεριλαμβανομένης και αυτής της περίπτωσης. Είμαι, ωστόσο, επιφυλακτικός ως προς τη δυνατότητα να γίνει κάτι τέτοιο. Υποψιάζομαι ότι το τζίνι έχει βγει από το μπουκάλι. Οι κακόβουλοι φορείς -θεσμικοί ή μεμονωμένοι- μπορούν πιθανώς να βρουν τρόπους να παρακάμψουν τις δικλείδες ασφαλείας. Τέτοιες υποψίες δεν αποτελούν φυσικά λόγο να μην προσπαθήσουμε και να μην επιδείξουμε επαγρύπνηση.
Μετάφραση από τα αγγλικά: Pressenza Athens
