ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ:  ΗΘΙΚΕΣ ΕΚΤΙΜΗΣΕΙΣ

ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ:  ΗΘΙΚΕΣ ΕΚΤΙΜΗΣΕΙΣ
Χρόνος Ανάγνωσης: 8 λεπτά

Τεχνητή Νοημοσύνη: Ηθικές Εκτιμήσεις

Εισαγωγή

Η Ορθόδοξη Εκκλησία έχει γενικά την άποψη ότι η τεχνολογία δεν είναι ούτε καλή ούτε κακή από μόνη της, αλλά τόσο οι εφαρμογές όσο και ο τρόπος με τον οποίο αναπτύχθηκε η όποια τεχνολογία είναι οι παράμετροι εκείνοι που καθορίζουν τις ηθικές επιπτώσεις.[1] Επιπλέον, υπάρχουν πολλά παραδείγματα που καταδεικνύουν ότι η επιστήμη μπορεί να επηρεάσει  κάποιες πτυχές της ηθικής σκέψης πίσω από τις αποφάσεις.  Για παράδειγμα, όταν ανακαλύφθηκε για πρώτη φορά το AIDS, θεωρήθηκε ηθικό να μπαίνουν οι άνθρωποι σε καραντίνα και να τοποθετούνται σε εγκαταστάσεις που ήταν απομονωμένες από άλλους ανθρώπους- όταν όμως η επιστήμη ανακάλυψε ότι το AIDS προκαλείται από τον ιό της ανθρώπινης ανοσοανεπάρκειας και ότι η καραντίνα δεν ήταν απαραίτητη υπό αυτή την συνθήκη, η ηθική σκέψη  σχετικά με τον καλύτερο τρόπο χειρισμού των ασθενών με AIDS άλλαξε και έτσι επιτράπηκε στους ασθενείς να ζουν με τους συνανθρώπους τους, επιβάλλοντας απλώς περιορισμούς γύρω από το φαγητό και το ποτό.  Η επιστήμη λοιπόν καθοδήγησε την ηθική σε αυτή την περίπτωση, όπως κάνει σε πολλές περιπτώσεις.  Το γεγονός αυτό θα  ληφθεί υπόψη καθώς θα προβληματιστούμε σχετικά με την Τεχνητή Νοημοσύνη (ΤΝ) και την   Μηχανική Μάθηση.

Τεχνητή νοημοσύνη και η Μηχανική Μάθηση

Η μηχανική μάθηση βασίζεται στην ιδέα ότι μπορεί κανείς να «εκπαιδεύσει» τις μηχανές με μεγάλα σύνολα δεδομένων ώστε να «μάθουν» πώς να εκτελούν ορισμένες λειτουργίες- αυτά τα σύνολα δεδομένων είναι τόσο μεγάλα που δεν μπορούν να κατανοηθούν από ένα άτομο, αλλά η μηχανική μάθηση επιτρέπει στην υπολογιστική ισχύ να εργαστεί για να μειώσει τα πολύπλοκα δεδομένα σε μορφές που να είναι διαχειρίσιμες από τον άνθρωπο.  Ένα τυπικό παράδειγμα μηχανικής μάθησης  αφορά (για παράδειγμα) εκατοντάδες χιλιάδες ακτινολογικά αποτελέσματα από μαστογραφίες  τα οποία δίνονται σε υπολογιστές για να εντοπίσουν μοτίβα που θα επέτρεπαν την καλύτερη διάκριση του καρκίνου από τον φυσιολογικό ιστό, χωρίς την ανάγκη δεύτερης πιο λεπτομερούς εξέτασης.  Αυτό γίνεται επί του παρόντος σε ιατρικά περιβάλλοντα με την ελπίδα να μειωθεί ο αριθμός των πρόσθετων εξετάσεων που χρειάζονται οι ασθενείς καθώς και  ο χρόνος που ξοδεύουν οι ακτινολόγοι για την ανάγνωση τέτοιων εξετάσεων.

Εκπαιδεύεται να ακολουθεί μια οδηγία κατόπιν προτροπής και στη συνέχεια να παρέχει μια λεπτομερή απάντηση.  Οι επιστήμονες προσπάθησαν να εξετάσουν περιλήψεις από  ένα σύνολο που περιλάμβανε κάποιες που είχαν γραφτεί από ΤΝ και δεν μπόρεσαν να εντοπίσουν ποιες είχαν γραφτεί από πραγματικούς ανθρώπους και ποιες από ΤΝ.[3] Μια πρόσφατη ανησυχία που συζητήθηκε στη δική μου πανεπιστημιούπολη  αφορούσε τους φοιτητές που χρησιμοποιούσαν το Chatgpt για να γράψουν τις εργασίες τους, μια ανησυχία που αποδείχθηκε αληθινή.  Οι υποθέσεις ακαδημαϊκής ακεραιότητας αφορούν επί του παρόντος φοιτητές που υπέβαλαν εργασίες γραμμένες από το Chatgpt, αλλά αυτό είναι δύσκολο να διαπιστωθεί ακόμη και εάν χρησιμοποιηθεί λογισμικό που πρόκειται να ελέγξει τη χρήση του.  Από την άποψη της εκπαίδευσης αυτό θα είναι μια πρόκληση.

Η ΤΝ είναι λίγο πιο σύνθετη από τη μηχανική μάθηση- βασίζεται στην ιδέα ότι οι υπολογιστές και οι μηχανές μπορούν να αξιοποιηθούν για να μιμηθούν τις ικανότητες επίλυσης προβλημάτων και λήψης αποφάσεων του ανθρώπινου μυαλού.  Κανένα ανθρώπινο μυαλό δεν μπορεί να περιέχει όλα τα δεδομένα που μπορεί να περιέχει η ΤΝ, ο χρόνος επεξεργασίας είναι συνήθως γρήγορος και οι αξιολογήσεις και οι αποφάσεις μπορούν να ληφθούν με βάση μεγάλα σύνολα δεδομένων που είναι διαθέσιμα στην ΤΝ.  Οι τρέχουσες χρήσεις της ΤΝ περιλαμβάνουν την τεχνολογία αναγνώρισης προσώπου, η οποία επιτρέπει τον γρήγορο προσδιορισμό του ονόματος και της ταυτότητας ατόμων που έχουν αναγνωριστεί ως «ενδιαφέροντα» από βίντεο ή φωτογραφίες.  Πολλοί από τους φωνητικούς  και τους εικονικούς βοηθούς, που χρησιμοποιούνται από νοσοκομεία και εταιρείες, χρησιμοποιούν τεχνολογία ΤΝ κατά την αντιμετώπιση των ερωτήσεων που τίθενται.  Μεγάλο μέρος της κυβερνοασφάλειας και της τεχνολογίας μετάφρασης εξαρτάται από την ΤΝ.[2]

Αν και έχουν κάπως διαφορετικές εφαρμογές, οι προσεγγίσεις για τη μηχανική μάθηση και την ΤΝ συχνά σχετίζονται.  Σε πολλές περιπτώσεις, η μηχανική μάθηση μπορεί να αποτελέσει το προοίμιο για την ανάπτυξη συγκεκριμένων προσεγγίσεων ΤΝ.  Ως εκ τούτου, οι τεχνολογίες αυτές πρέπει να εξετάζονται μαζί.

Chatgpt

Μια από τις πιο δημοφιλείς μορφές τεχνητής νοημοσύνης που χρησιμοποιούνται σήμερα είναι το Chatgpt, ένας αλγόριθμος τεχνητής νοημοσύνης που αναπτύσσει κείμενο (ιστορίες, άρθρα, κείμενα ταινιών κ.λπ.) με βάση ένα περιορισμένο μόνο ποσό εισαγωγής δεδομένων από άνθρωπο.  Υπάρχουν διάφορα διαθέσιμα συστήματα, τα περισσότερα από τα οποία έχουν  μία δωρεάν  εφαρμογή για περιορισμένη χρήση και μία επί πληρωμή  για πιο προηγμένες δυνατότητες.  Εκπαιδεύεται να ακολουθεί μια οδηγία κατόπιν προτροπής και στη συνέχεια να παρέχει μια λεπτομερή απάντηση.  Οι επιστήμονες προσπάθησαν να εξετάσουν περιλήψεις από  ένα σύνολο που περιλάμβανε κάποιες που είχαν γραφτεί από ΤΝ και δεν μπόρεσαν να εντοπίσουν ποιες είχαν γραφτεί από πραγματικούς ανθρώπους και ποιες από ΤΝ.[3] Μια πρόσφατη ανησυχία που συζητήθηκε στη δική μου πανεπιστημιούπολη  αφορούσε τους φοιτητές που χρησιμοποιούσαν το Chatgpt για να γράψουν τις εργασίες τους, μια ανησυχία που αποδείχθηκε αληθινή.  Οι υποθέσεις ακαδημαϊκής ακεραιότητας αφορούν επί του παρόντος φοιτητές που υπέβαλαν εργασίες γραμμένες από το Chatgpt, αλλά αυτό είναι δύσκολο να διαπιστωθεί ακόμη και εάν χρησιμοποιηθεί λογισμικό που πρόκειται να ελέγξει τη χρήση του.  Από την άποψη της εκπαίδευσης αυτό θα είναι μια πρόκληση.

Ένα άλλο πρόβλημα με το Chatgpt είναι ο γενικός χαρακτήρας της απάντησης που λαμβάνεται.  Με μια ομάδα θεολόγων από την Ουκρανία, ζητήσαμε από τον Chatgpt να γράψει ένα κήρυγμα για τη γιορτή της Μεταμόρφωσης του Σωτήρος. Σε αυτό το παράδειγμα, το μεγαλύτερο μέρος του κειμένου που έγραψε ο Chatgpt ήταν ακριβές με μια κατάλληλη περιγραφή της γιορτής.  Παρ’ όλα αυτά, όπως σημείωσαν οι θεολόγοι, το κείμενο για τη γιορτή ήταν «γενικόλογο».  Σημείωσαν ότι ένα κήρυγμα πρέπει να ταιριάζει σε μια συγκεκριμένη ενορία για μια συγκεκριμένη ημέρα, αλλά το κήρυγμα που δημιούργησε ο Chatgpt θα μπορούσε πραγματικά να εφαρμοστεί σε μια ευρεία ποικιλία καταστάσεων.

Το Chatgpt έχει χρησιμοποιηθεί όχι μόνο για τη  σύνταξη εγγράφων, αλλά και για τη δημιουργία έργων τέχνης και για τη συγγραφή σεναρίων ταινιών.  Μέχρι σήμερα, η τέχνη ήταν σχετικά γενική, με μικρή πρωτοτυπία στο ίδιο το έργο.  Γενικά, διαπιστώθηκε ότι η τέχνη υποφέρει από τις προκαταλήψεις του διαδικτύου και δεν είναι τόσο λεπτομερής όσο η ανθρώπινη τέχνη. Ένα κινηματογραφικό σενάριο που γράφτηκε από τον Chatgpt έχει εξελιχθεί σε ταινία με τη χρήση ηθοποιών.[4]   Το κείμενο της ταινίας είναι δύσκολο να το παρακολουθήσει κανείς και συχνά δεν είναι σαφές πώς η μία αφηγηματική γραμμή έπεται της άλλης. 

Μία από τις μεγαλύτερες ανησυχίες που έχει εγείρει η χρήση της ΤΝ είναι η εγγενής προκατάληψη που προέρχεται, είτε από την ίδια την ΤΝ, είτε από τα σύνολα δεδομένων εκπαίδευσης που χρησιμοποιήθηκαν για τη δημιουργία της ΤΝ.  Όταν ζητήθηκε από την ΤΝ να γράψει ένα σκωπτικό πεντάστιχο  για ένα άτομο που δίδασκε την ηθική της ΤΝ σε μια τάξη, το  πεντάστιχο που προέκυψε υπέθεσε ότι ο εκπαιδευτής θεωρούσε την ΤΝ ηθική, παρόλο που αυτό δεν υπήρχε στις οδηγίες .  Όταν ζητήθηκε από την ΤΝ να κάνει μια φωτογραφική αναγνώριση μιας θολής εικόνας του Μπάρακ Ομπάμα, τον παρουσίασε ως λευκό άνδρα αντί να είναι πιστή στο πραγματικό σκούρο χρώμα του δέρματός του.  Άλλες κοινωνικές προκαταλήψεις προκαλούν επίσης ανησυχία στη χρήση της ΤΝ, με ανησυχίες ότι η ΤΝ προ-εκπαιδεύει τα σύνολα δεδομένων για έναν κόσμο όπως πιστεύει κάποιος  ότι «θα έπρεπε να είναι», αντί για τον πραγματικό κόσμο .

Υπάρχουν κλειδιά που θα μπορούσαν να εξεταστούν για τη συνέχιση της χρήσης του Chatgpt: 

1.         Διατήρηση της ανθρώπινης επαλήθευσης-γενικά, η ΤΝ  κάνει πολλά λάθη και η επαλήθευση ότι οι πληροφορίες είναι έγκυρες θα ήταν σημαντική.

2.         Ανάπτυξη κανόνων αποτελεσματικότητας Υπάρχουν κάποια προγράμματα που μπορούν να το ελέγξουν, αλλά αυτά δεν θεωρούνται πλήρως ακριβή σε αυτό το σημείο.

3.         Επένδυση σε ένα πραγματικά ανοικτό σύστημα-Τα περισσότερα συστήματα Chatgpt που χρησιμοποιούνται σήμερα είναι ιδιόκτητα, γεγονός που περιορίζει τη χρήση τους και τη δυνατότητά τους να εφαρμοστούν σε ορισμένα συστήματα.

4.         Διεύρυνση  της συζήτησης για τη συμπερίληψη μεγάλου αριθμού χρηστών-οι περισσότερες συζητήσεις για το Chatgpt γίνονται μόνο εντός της κοινότητας, αυτό πρέπει να διευρυνθεί για να συμπεριλάβει και άλλους.

5.         Βελτίωση της διαφάνειας-δεν είναι σαφές ποια δεδομένα χρησιμοποιούνται για τη δημιουργία της τεχνητής νοημοσύνης και, συνεπώς, δεν είναι σαφείς οι προκαταλήψεις που μπορεί να αποτελούν μέρος του συστήματος.  Πρέπει να παρέχονται περισσότερες πληροφορίες σχετικά με τα δεδομένα εκπαίδευσης.

Περιορισμοί και πλεονεκτήματα για την ΤΝ

Μία από τις μεγαλύτερες ανησυχίες που έχει εγείρει η χρήση της ΤΝ είναι η εγγενής προκατάληψη που προέρχεται, είτε από την ίδια την ΤΝ, είτε από τα σύνολα δεδομένων εκπαίδευσης που χρησιμοποιήθηκαν για τη δημιουργία της ΤΝ.  Όταν ζητήθηκε από την ΤΝ να γράψει ένα σκωπτικό πεντάστιχο  για ένα άτομο που δίδασκε την ηθική της ΤΝ σε μια τάξη, το  πεντάστιχο που προέκυψε υπέθεσε ότι ο εκπαιδευτής θεωρούσε την ΤΝ ηθική, παρόλο που αυτό δεν υπήρχε στις οδηγίες .  Όταν ζητήθηκε από την ΤΝ να κάνει μια φωτογραφική αναγνώριση μιας θολής εικόνας του Μπάρακ Ομπάμα, τον παρουσίασε ως λευκό άνδρα αντί να είναι πιστή στο πραγματικό σκούρο χρώμα του δέρματός του.  Άλλες κοινωνικές προκαταλήψεις προκαλούν επίσης ανησυχία στη χρήση της ΤΝ, με ανησυχίες ότι η ΤΝ προ-εκπαιδεύει τα σύνολα δεδομένων για έναν κόσμο όπως πιστεύει κάποιος  ότι «θα έπρεπε να είναι», αντί για τον πραγματικό κόσμο .

Παρά τις ανησυχίες, υπάρχουν ορισμένα πλεονεκτήματα που καθιστούν την ΤΝ πολύ αξιόλογη ως ανθρώπινη προσπάθεια.  Η ΤΝ, για παράδειγμα, μπορεί να έχει πολύ μεγαλύτερες γνώσεις από ό,τι μπορεί να συγκρατήσει ένας ανθρώπινος εγκέφαλος- χρησιμοποιώντας την ΤΝ μπορεί κανείς να εφαρμόσει όλη την ανθρώπινη γνώση σε ένα πρόβλημα και όχι μόνο  την ποσότητα γνώσης που μπορεί να προσφέρει μόνο ένας  εγκέφαλος.  Η ανάλυση τεράστιων συνόλων δεδομένων  που αφορά εκατομμύρια άτομα είναι δυνατή με την ΤΝ , ενώ δεν ήταν δυνατή με άλλες προσεγγίσεις- οι πληροφορίες που αποκτήθηκαν από αυτήν έχουν επηρεάσει σε τεράστιο βαθμό τις ιατρικές μελέτες, τις διαγνωστικές εργασίες, τις τραπεζικές εργασίες, την ασφάλεια στον κυβερνοχώρο και πολλά άλλα.

Έχουν επίσης επισημανθεί δυσκολίες στον έλεγχο της ΤΝ, με αποτέλεσμα ορισμένοι μελετητές να ανησυχούν για την τεράστια γνώση που μπορεί να συσσωρεύσει .  Ο «νονός» της τεχνητής νοημοσύνης Geoffrey Hinton έχει προειδοποιήσει για τους κινδύνους στους οποίους μπορεί η  ΤΝ  να εκθέσει την ανθρωπότητα.[5]   Ειδικότερα, ανησυχούσε για το γεγονός ότι είδε την ΤΝ να παράγει χιούμορ και να «γελάει» με θέματα, παίρνοντας κάποια ανθρώπινα χαρακτηριστικά.

Ορισμένες άλλες ανησυχίες που έχουν διατυπωθεί σχετικά με την ΤΝ περιλαμβάνουν τις δυσκολίες ελέγχου  της, το γεγονός ότι είναι πιθανό να υπάρξει απώλεια θέσεων εργασίας (αν και τα στοιχεία δεν έχουν δείξει ότι αυτό ισχύει ακόμη),  ενώ ερωτήματα σχετικά με τα δικαιώματα των τεχνητών ή ηλεκτρονικών προσώπων μπορεί να αποτελέσουν ζήτημα.  Για να αντιμετωπιστούν ορισμένες από αυτές τις ανησυχίες, έχουν γίνει ορισμένες προτάσεις για τον έλεγχο της ΤΝ: ρύθμιση συγκατάθεσης για την ΤΝ, ανάπτυξη ενός μέλλοντος να που είναι εξειδικευμένο και όχι γενικευμένο, αποτροπή της ΤΝ από ρόλους λήψης αποφάσεων και μεγάλη προσοχή όσον αφορά τη διατήρηση των νόμων περί προστασίας δεδομένων.

Παρά τις ανησυχίες, υπάρχουν ορισμένα πλεονεκτήματα που καθιστούν την ΤΝ πολύ αξιόλογη ως ανθρώπινη προσπάθεια.  Η ΤΝ, για παράδειγμα, μπορεί να έχει πολύ μεγαλύτερες γνώσεις από ό,τι μπορεί να συγκρατήσει ένας ανθρώπινος εγκέφαλος- χρησιμοποιώντας την ΤΝ μπορεί κανείς να εφαρμόσει όλη την ανθρώπινη γνώση σε ένα πρόβλημα και όχι μόνο  την ποσότητα γνώσης που μπορεί να προσφέρει μόνο ένας  εγκέφαλος.  Η ανάλυση τεράστιων συνόλων δεδομένων  που αφορά εκατομμύρια άτομα είναι δυνατή με την ΤΝ , ενώ δεν ήταν δυνατή με άλλες προσεγγίσεις- οι πληροφορίες που αποκτήθηκαν από αυτήν έχουν επηρεάσει σε τεράστιο βαθμό τις ιατρικές μελέτες, τις διαγνωστικές εργασίες, τις τραπεζικές εργασίες, την ασφάλεια στον κυβερνοχώρο και πολλά άλλα.

 Καταληκτήριο πεντάστιχο από το Chatgpt

Ζητήθηκε από το Chatgpt να γράψει ένα  πεντάστιχο που να συνοψίζει τα πλεονεκτήματα και τα μειονεκτήματα της τεχνητής νοημοσύνης:

Σε έναν κόσμο με την Τεχνητή Νοημοσύνη στο πλευρό μας,

Πλεονεκτήματα που δεν μπορούμε να κρύψουμε,

Η αποδοτικότητα είναι υψηλή,

Οι εργασίες απλοποιούνται, Ω, Θεέ μου!

Ωστόσο, προκύπτουν ανησυχίες, παγκοσμίως.


[1] Βλ.  Ὑπέρ τῆς τοῦ κόσμου ζωῆς. Τὸ κοινωνικό ἦθος τῆς Ὀρθόδοξης Ἐκκλησίας, ανακτημένο από goarch.org/social-ethos (τελευταία προσπέλαση 12 Ιουλίου 2023)

[2] Gathering strength, gathering storms:  The One Hundred Year Study of Artificial Intelligence Gathering Strength, Gathering Storms: The One Hundred Year Study on Artificial Intelligence (AI100) 2021 Study Panel Report | One Hundred Year Study on Artificial Intelligence (AI100) (stanford.edu) (τελευταία προσπέλαση 12 Ιουλίου 2023)

[3] Else, H.  (19 Jan 2023) Περιλήψεις που γράφτηκαν από  ψευδείς επιστήμονες ΤΝ .  Nature 613: 423.

[4] https://www.youtube.com/watch?v=LY7x2Ihqjmc (τελευταία προσπέλαση 12 Ιουλίου 2023)

[5] AI ‘godfather’ Geoffrey Hinton warns of dangers as he quits Google – BBC News, τελευταία προσπέλαση 12 Ιουλίου 2023


Η Dr. Gayle Woloschak έχει διδακτορικό στις Βιοϊατρικές Επιστήμες και DMin στις Ανατολικές Χριστιανικές Σπουδές. Σήμερα είναι καθηγήτρια Ακτινοθεραπευτικής Ογκολογίας και Αναπληρώτρια Κοσμήτορας της Μεταπτυχιακής Σχολής του Πανεπιστημίου Northwestern, καθώς και Καθηγήτρια Επιστήμης και Θρησκείας στη Λουθηρανική Θεολογική Σχολή του Σικάγο.

Το παρόν κείμενο αποτελεί συντομευμένη εκδοχή της εισήγησης της συγγραφέως στο Τέταρτο Θερινό Σχολείο για Ουκρανούς Κληρικούς και Λαϊκούς Θεολόγους που διοργάνωσε η Ακαδημία Θεολογικών Σπουδών Βόλου σε συνεργασία με την Ορθόδοξη Θεολογική Ακαδημία του Βολύν (Ουκρανία), 2-12 Ιουλίου 2023, στον Βόλο.

Μετάφραση από τα Αγγλικά Θεοδώρα Βαλσάμου.

Το εικαστικό θέμα είναι έργο του ιταλικής καταγωγής Αμερικανού καλλιτέχνη Joseph Stella με τίτλο «Battle of Lights» (Η Μάχη των Φώτων), 1913-1914, και φυλάσσεται στην Πινακοθήκη του Πανεπιστημίου Yale.