Artificial Intelligence / Νοημοσύνη χωρίς νόημα; Γιατί ο ανθρωπομορφισμός δημιουργεί σύγχυση γύρω από την τεχνητή νοημοσύνη!!

Συνομιλήσαμε με τον Γιάννη Περπερίδη για τα χαρακτηριστικά της Τ.Ν., τον ανθρωπομορφισμό που την περιβάλλει, το σενάριο της αυτονόμησης και τον αντίκτυπο της στο περιβάλλον. 

«Γράψε μου το προσχέδιο για μία συνέντευξη με θέμα την τεχνητή νοημοσύνη», «Συνόψισε μου τα δικαιώματα μου σύμφωνα με το εργατικό δίκαιο», «Γράψε μου ένα συμπονετικό μήνυμα για ένα φίλο που περνάει δύσκολα». Με περίπου 1 δις ανθρώπους να αλληλεπιδρούν καθημερινά με κάποιο chatbot για να ψυχαγωγηθούν, να εργαστούν, ή να διεκπεραιώσουν καθημερινές δραστηριότητες, η τεχνητή νοημοσύνη έχει πλέον ενσωματωθεί για τα καλά στην καθημερινότητα μας. 

Η τεχνολογία σε όλες τις ιστορικές περιόδους έχει λειτουργήσει ως κοινωνικός μετασχηματιστής, που αναδιαμόρφωσε τις σχέσεις μεταξύ των ανθρώπων και παρήγαγε νέα ιστορικά υποκείμενα. Στο Alphaville του Ζαν-Λυκ Γκοντάρ οι κάτοικοι της ομώνυμης διαστημικής πόλης, ελέγχονται από τον υπερυπολογιστή Αlpha 60. Στην ταινία αποτυπώνεται τόσο το δέος για τις δυνατότητες, που ανοίγει η τεχνολογία όσο και το άγχος, που βιώνουν τα υποκείμενα, που υφίστανται τον μετασχηματισμό. Σήμερα οι ειδικοί φαίνονται να συγκλίνουν ότι η Τ.Ν. θα διαδραματίσει τον ρόλο του μετασχηματιστή της κοινωνία μας. Αλλά δεν γνωρίζουμε ακόμα ποια θα είναι η νέα κοινωνία και το νέο υποκείμενο, που θα προκύψουν. 

Συνομιλήσαμε με τον Γιάννη Περπερίδη, διδάκτορα Φιλοσοφίας της Τεχνολογίας και Ερευνητικό Υπότροφο του Κέντρου Ελληνικών Σπουδών του Πανεπιστημίου του Harvard  πάνω στην Ηθική της Τεχνητής Νοημοσύνης, για τα χαρακτηριστικά της Τ.Ν., τον ανθρωπομορφισμό που την περιβάλλει, το σενάριο της αυτονόμησης και τον αντίκτυπο της στο περιβάλλον.

Τα τελευταία δύο χρόνια βλέπουμε μία έκρηξη Τ.Ν., με διάφορες εφαρμογές της να ενσωματώνονται στην καθημερινότητα μας. Είμαστε στις απαρχές μιας τεχνολογικής επανάστασης;

Μπορεί να βλέπουμε σήμερα τις διάφορες εφαρμογές της Τ.Ν. στη ζωή μας, ωστόσο, είναι ένας κλάδος της επιστήμης των υπολογιστών και της γνωσιακής επιστήμης που υπάρχει ήδη από τις δεκαετίας του ’50 και του ’60. Δεν ήταν πάντοτε αυτό το τεχνολογικό-οικονομικό παιχνίδι  των μεγάλων εταιριών, όπως το βλέπουμε σήμερα. Ξεκίνησε τη  δεκαετία του ’50  με τις εργασίες επιστημόνων όπως ο Αλαν Τιούρινγκ, ο Μάρβιν Μίνσκυ και άλλοι στα εργαστήρια του MIT και αλλού. Σήμερα βλέπουμε τις απτές τεχνολογικές εφαρμογές αυτού του θεωρητικού πεδίου προσομοίωσης της ανθρώπινης νοημοσύνης. Εντούτοις θα μπορούσαμε να μιλήσουμε για κάτι επαναστατικό, μένει όμως να το εξετάσουμε ξανά και ξανά και πρακτικά και θεωρητικά. Είναι ακόμα πολύ αρχή.

Πόσο ακριβές ωστόσο είναι το να αποκαλούμε την Τ.Ν., νοημοσύνη; Ο Τσόμσκι στην κριτική του απορρίπτει τη χρήση του όρου νοημοσύνη, επειδή δεν μπορεί να παράξει νέες απαντήσεις. 

Είμαι περισσότερο σύμφωνος με την όμορη υπόθεση  του φιλοσόφου του νου, Τζον Σέρλ, ο οποίος λέει ότι η T.N.  δεν είναι νοημοσύνη, όχι απλώς επειδή δεν παράγει νέες απαντήσεις, αλλά επειδή δεν νοηματοδοτεί. Δηλαδή δεν έχει πρόσβαση στο πεδίο του νοήματος, της νοηματοδότησης, του να επενδύει κάτι με νόημα, είτε μέσα από συναρμογή παλαιότερων, είτε δημιουργώντας κάποιο καινούργιο. Αυτό αγκαλιάζει και τη θέση του Τσόμσκι. Όχι, μόνο ότι δεν παράγει γλωσσολογικά νέες λέξεις και νέες προτάσεις, γιατί αυτό μπορεί να το κάνει η Τ.Ν., το ξέρουμε. Ωστόσο,  δεν μπορεί να προσδώσει νέα νοήματα στον κόσμο. Αυτό μέχρι σήμερα μπορεί να το κάνει μόνο ο άνθρωπος.

Για να εκπαιδευτούν τα μεγάλα γλωσσικά μοντέλα γνωρίζουμε ότι χρησιμοποιούν τα έργα δημοσιογράφων, καλλιτεχνών, δημοσιολογούντων, που είναι διαθέσιμα στο διαδίκτυο. Υπάρχει ένα κενό στη νομοθεσία;

Οι θεωρητικοί που ανέπτυξαν το πεδίο αυτό τη δεκαετία του ‘50 θεωρούσαν βασικό ζήτημα το γεγονός ότι δεν υπήρχαν πάρα πολλά δεδομένα στα οποία να μπορεί να γίνει η λεγόμενη η μηχανική μάθηση, που φτιάχνει τους αλγορίθμους της τεχνητής νοημοσύνης. Αυτό το ζήτημα λύθηκε σταδιακά και πολύ περισσότερο λύνεται τα τελευταία 10 χρόνια με την ανάπτυξη του λεγόμενου καπιταλισμού της επιτήρησης, όπως  τον αποκαλεί η Σοσάνα Ζούμποφ. Οι πλατφόρμες που χρησιμοποιούμε, το Facebook, το YouTube, δίνουν δισεκατομμύρια δεδομένα στους αλγορίθμους, τους οποίους διαχειρίζονται και αναπτύσσουν οι εταιρείες, προκειμένου η Τ.Ν. που οι ίδιες αναπτύσσουν να μάθει από αυτά. Οπότε το ζήτημα των πνευματικών δικαιωμάτων δεν άπτεται μόνο της Τ.Ν. Αυτό είναι η κορυφή του παγόβουνου -με αυτό, βέβαια, δεν εννοώ ότι το ζήτημα των πνευματικών δικαιωμάτων στην εποχή της ΤΝ δεν είναι σημαντικό, αλλά ότι πρέπει να το εξετάζουμε στο συνολικότερο πλαίσιο του και όχι εξατομικευμένα. Είναι ένα ζήτημα στον λεγόμενο καπιταλισμό της επιτήρησης που δεδομενοποιεί την εμπειρία μας. Θα πρέπει να προκύψουν νομικά πλαίσια, όχι απλώς για την Τ.Ν., αλλά γενικότερα για τα δεδομένα που λαμβάνουν από εμάς οι μεγάλες τεχνολογικές εταιρείες. 

Σε ένα πρόσφατα  πείραμά διαπιστώθηκε ότι το γλωσσικό μοντέλο της OpenAL είπε επανειλημμένα ψέματα και προσπάθησε να παραπλανήσει τους εκπαιδευτές του, ώστε να μην το απενεργοποιήσουν. Αυτό σημαίνει ότι έχει δική του βούληση; Θα μπορούσαμε να φανταστούμε ένα σενάριο, που η Τ.Ν. να αυτονομείται; 

Από τις αναπτυξιακές θεωρίες γνωρίζουμε πότε αρχίζει ένα μωρό να κάνει αυτό που ονομάζουμε συμβολικό παιχνίδι. Να κρύβει ένα αντικείμενο και να καταλαβαίνει ότι το έκρυψε και ότι δεν στο δίνει σαν να λέει ψέματα. Οι θεωρίες αυτές δείχνουν ότι φτάνουμε σε αυτό το αναπτυξιακό στάδιο με πάρα πολύ περίπλοκους τρόπους, που είναι κοινωνικοί και ατομικοί, έτσι ώστε να αντιληφθεί το παιδί ότι αυτό που κάνω τώρα είναι ότι λέω ψέματα. Κάτι τέτοιο δεν συμβαίνει με την Τ.Ν., η οποία ακολουθεί απλώς κάποια μοτίβα, που έχει δει στα κείμενα, στα οποία εκπαιδεύεται. Δεν γνωρίζουμε ακριβώς ποια εντολή υπήρχε στον αλγόριθμο ή πώς δημιουργήθηκε αυτός ο αλγόριθμος, ο οποίος έκανε αυτές τις μηχανές «να πουν ψέματα». Δεν θα έπρεπε καν να λέμε πως «είπαν ψέματα», γιατί είναι ανθρωπομορφισμός. Αντίστοιχα, δεν θα έπρεπε να λέμε ότι «δεν επιθυμούσε να το απενεργοποιήσουν», όσο ότι είχε λάβει μια εντολή, που το κατεύθυνε να θεωρήσει ότι το να το απενεργοποιήσουν είναι ένα αρνητικό σενάριο και προσαρμόστηκε σε αυτό ή ότι στα δεδομένα, με τα οποία εκπαιδεύτηκε υπήρχαν μέσα και κείμενα, εικόνες ή οτιδήποτε που έλεγαν ότι το να σε σβήσουν ή πεθάνει κάποιος είναι κακό. Άλλωστε, το μοναδικό ον που μπορεί να φοβάται την απενεργοποίηση -δηλαδή τον θάνατο-, καθώς του έχει δώσει αρνητική χροιά, είναι ο άνθρωπος. Αν και γνωρίζουμε ότι υπάρχουν περιπτώσεις βλ. υστεροφημία, που ο θάνατος νοηματοδοτήθηκε με θετικό πρόσημο.

Όσον αφορά το αν θα μπορούσε να αυτονομηθεί, υπάρχουν πάρα πολλές προσεγγίσεις στο πλαίσιο του τεχνολογικού ντετερμινισμού καθώς και του διανθρωπισμού. Η πιο φανταχτερή είναι η έννοια του «singularity»,  της τεχνολογικής μοναδικότητας, δηλαδή της θέσης ότι η τεχνολογία και πολύ περισσότερο η Τ.Ν.  θα αυτονομηθεί εντελώς και πλέον δεν θα μπορεί να αναχαιτιστεί από τους ανθρώπους με κανέναν τρόπο. Δεν συμφωνώ με αυτή τη θέση. Τη θεωρώ φαντασιοκόπημα. Είναι πολύ επηρεασμένη από ταινίες που ήδη από τα δεκαετία του ‘80 και του ‘90 έχουν επηρεάσει πολύ τόσο την αντίληψη των ανθρώπων για την τεχνολογία όσο και τους τεχνολογικούς σχεδιασμούς, γιατί και οι επιστήμονες που φτιάχνουν τις τεχνολογίες είναι άνθρωποι. Είναι μία θέση με σαθρά φιλοσοφικά θεμέλια. Η τεχνολογία είναι πάντοτε ένα δημιούργημα του ανθρώπου. Αυτό δεν σημαίνει ότι αυτή δεν επηρεάζει τον άνθρωπο. Η τεχνολογία επιδρά πάνω μας καθορίζοντας τον τρόπο ζωής μας και τις δραστηριότητές μας, απλώς, κατ’ εμέ,  αυτό το agency είναι πολύ διαφορετικό από εκείνο που κατέχει ο άνθρωπος έναντι της τεχνολογίας. Για να επιστρέψουμε στην Τ.Ν. συγκεκριμένα, θεωρώ πως αν αφαιρέσουμε το «νοημοσύνη», η ονομασία της θα έπρεπε να είναι μεγάλες βάσεις δεδομένων από τις οποίες προκύπτουν αυτοματοποιημένοι αλγόριθμοι.  Από τη στιγμή που μπορούμε να κλείσουμε τις μεγάλες βάσεις δεδομένων με ένα κουμπί δεν θεωρώ πως μπορεί να αυτονομηθεί ένα τέτοιο δημιούργημα. Δεν πρέπει να μπερδεύουμε την καταχρηστικά δοσμένη έννοια της «νοημοσύνης» στην Τ.Ν. με εκείνα που μπορεί να είναι και να κάνει αυτή τη τεχνολογία. Χωρίς την ονομασία «νοημοσύνη», θεωρώ, δεν θα γινόταν καθόλου λόγος περί αυτονόμησης.

Αν και η τεχνολογία παραδοσιακά παρουσιάζεται ως «ψυχρή» βλέπουμε ότι η Τ.Ν. έχει διεισδύσει και σε αυτό που λέμε «συναισθηματική εργασία». Για παράδειγμα, πολλοί χρησιμοποιούν εξειδικευμένα μοντέλα για να κάνουν ψυχοθεραπεία άλλοι για να κατασκευάσουν έναν ιδανικό σύντροφο. Τι μας λέει αυτό για τα χαρακτηριστικά της συγκεκριμένης τεχνολογίας και αντίστοιχα της κοινωνία μας;

Για την τεχνολογία μας λέει, απλώς, ότι μπορεί να παράξει κείμενο. Οτιδήποτε θα μπορούσε να παράξει κείμενο ο άνθρωπος θα το εξίσωνε με πρόσωπο, λόγω των υπαρξιακών του αναγκών. Για τη σημερινή μας κοινωνία, όμως, λέει πάρα πολλά. Οι εφαρμογές της Τ.Ν. προέκυψαν στο εσωτερικό της κοινωνίας μας, που η σχέση ανθρώπου με τον άνθρωπο έχει διαρραγεί. Ο καθένας και η καθεμία προσπαθεί να αναπληρώσει τη σχέση αυτή με μηχανές, που παράγουν κείμενο. Όπως το να μιλάς με τον άλλο στο Instagram ή στην οποιαδήποτε πλατφόρμα, αντί να μιλάτε δια ζώσης. 

Ένα άλλο σχετικό σύμπτωμα της σημερινής μας κοινωνίας συνδέεται με την άνοδο της μόδας του life coaching, όπου  ο καθένας και η καθεμία μπορεί να δώσουν συμβουλές για το ευζήν και για το πως να υπερβείς κάποια ψυχολογικά ζητήματα, χωρίς να έχουν καμία αναφορά στην επιστήμη της ψυχολογίας. Γιατί πρέπει να θυμόμαστε ότι ψυχολογία είναι επιστήμη, έχει αρχές και κριτήρια επιστημονικότητας, δεν είναι απλώς συμβουλές βασισμένες στην προσωπική εμπειρία του καθενός. Ο θεραπευτής και οποιοσδήποτε επιστήμονας δεν είναι μια βάση δεδομένων, που μόλις του πω «έχω μανιοκατάθλιψη» θα ανατρέξει στη βάση και θα μου πει κάνε το τάδε ή πάρε το δείνα χάπι. Ο θεραπευτής στην επιστήμη της ψυχολογίας είναι ερμηνευτής-θεραπευτής. Αναπτύσσει μια πολλαπλές σχέσεις με τον θεραπευμένο, υπάρχει νοηματοδότηση για το τι μπορεί να έχει ο άλλος, δεν συνδέει απλώς δεδομένα. Αλλά ακριβώς, επειδή πλέον θεωρούμε θεραπευτή οποιονδήποτε μπορεί να δώσει απλώς συμβουλές με βάση την εμπειρία του και στη βάση κάποιων δεδομένων, θεωρούμε ότι μπορούμε να έχουμε σαν θεραπευτή και ένα chatbot. 

Τέλος, γνωρίζουμε ότι τα data centers καταναλώνουν τεράστιες ποσότητες ενέργειας. Πώς θα επηρεάσουν τη μάχη της ανθρωπότητας με την κλιματική κρίση;

Τα data center παρουσιάζονται πολλές φορές ως πρόοδος και αυτό αφορά και την Ελλάδα. Πως θα έρθουν οι εταιρείες να τοποθετήσουν τα κέντρα δεδομένων τους και αυτό θα έχει έναν καλό οικονομικό αποτύπωμα αλλά από τις εν λόγω συζητήσεις απουσιάζουν πάντοτε τα περιβαλλοντικά ζητήματα που ανακύπτουν.  Όπως είπες, ένα data center χρειάζεται πάρα πολύ υψηλή κατανάλωση ενέργειας, για να τεθεί σε ισχύ η υπολογιστική δύναμη, που χρειάζεται η Τ.Ν. και τόνους λίτρων νερού για να ψυχθεί το λειτουργικό σύστημα. Αυτή τη στιγμή έχουμε περίπου 10.000 data centers σε όλο τον κόσμο και ήδη είναι φανερός ο περιβαλλοντικό αντίκτυπος. Όπως λέω και στους φοιτητές μου, ακόμα και να έρθει αυτή η αυτονομημένη Τ.Ν. (AGI), που θα σκέφτεται και θα λύνει προβλήματα σε κάθε τομέα - όπως ένας άνθρωπος, κάπου πρέπει «να πατάει».  Πρέπει να υπάρχει ένας κόσμος. Αν πρέπει να φτάσουμε στα 20.000 ή στα 30.000 data centers, ώστε να ανακύψει η AGI, το μόνο σίγουρο είναι θα είναι ένας κόσμος κατά πολύ κατεστραμμένος.