το περίφημο δίλημμα του τρόλεϊ

Εσύ πόσους θα σκότωνες;

Ένα τρόλεϊ διασχίζει τις ράγες ενώ μπροστά του βρίσκονται πέντε άνθρωποι ανήμποροι να κινηθούν, με αποτέλεσμα να είναι σίγουρος ο θάνατός τους. Για καλή τους τύχη όμως, εσύ παρακολουθείς την σκηνή από το πλάι, έχοντας μπροστά σου έναν μοχλό με τον οποίο μπορείς να αλλάξεις την πορεία του τρόλεϊ, στρέφοντάς το σε μία διακλάδωση όπου υπάρχει μόνο ένας άνθρωπος. Τι κάνεις; Τραβάς τον μοχλό σώζοντας την ζωή πέντε ανθρώπων, θυσιάζοντας όμως τον έναν, ή αφήνεις τα πράγματα να κυλήσουν ως έχουν, παρατηρώντας τον βέβαιο θάνατο των πέντε; Θα σώσεις τον έναν ή τους πέντε; Ποια είναι η ηθικά ορθή πράξη;

Αυτό είναι το περίφημο δίλημμα του τρόλεϊ (The trolley dilemma), ένα νοητικό πείραμα, που παρουσιάστηκε για πρώτη φορά από την φιλόσοφο Philippa Foot το 1967, και έως σήμερα παραμένει επίκαιρο με τις πολλές παραλλαγές του. Στην ουσία, το δίλημμα του τρόλεϊ αφορά την ηθική στάση του ατόμου και την διαμάχη ανάμεσα στις φιλοσοφικές σχολές της συνεπειοκρατίας (ωφελιμισμού) και της ηθικής δεοντολογίας. Η πρώτη συνδέει τις πράξεις μας με τα αποτελέσματα που φέρουν (έχοντας ως γνώμονα την ευτυχία των πολλών), ενώ η δεύτερη προτείνει μια σταθερή και αμετάβλητη στάση θεμελιωμένη στις ηθικές αξίες. Αν επιλέξεις να χρησιμοποιήσεις τον μοχλό είσαι ωφελιμιστής, θεωρείς ότι η ζωή μετριέται με νούμερα, η ζωή των πέντε έχει μεγαλύτερη αξία από του ενός. Αντιθέτως, οι υποστηρικτές της ηθικής δεοντολογίας σέβονται την ζωή όλων. Δεν προξενούν κακό στον έναν, προφυλάσσοντας τους πέντε. Το να σκοτώσεις κάποιον δεν δικαιολογείται, ανεξαρτήτως αποτελέσματος. Ωστόσο, στην πρώτη εκδοχή του διλήμματος του τρόλεϊ οι περισσότεροι τραβούν τον μοχλό χωρίς δεύτερη σκέψη, μετατρέποντας εαυτούς σε «ήρωες».

Το σενάριο έχει συνέχεια. Στην επόμενη φάση, βρίσκεσαι πάνω σε μια γέφυρα και παρακολουθείς την σκηνή, χωρίς να υπάρχει μοχλός. Δίπλα σου όμως στέκεται ένας εύσωμος άνδρας, που με το σώμα του μπορεί να σταματήσει το τρόλεϊ. Ο εύσωμος άντρας αρχίζει και γέρνει επικίνδυνα κοιτώντας προς τα κάτω… Τι κάνεις; Η απόφαση των περισσοτέρων αλλάζει δραματικά. Τώρα η πράξη βαραίνει πιο πολύ από τις συνέπειες, με αποτέλεσμα το μεγαλύτερο ποσοστό των ερωτηθέντων να αφήνει τα πράγματα να κυλήσουν χωρίς προσωπική παρέμβαση.

Αναμφισβήτητα, το σενάριο απέχει πολύ από την καθημερινή ζωή. Ωστόσο, δεν είναι τόσο απόκοσμο όσο ακούγεται. Το δίλημμα του τρόλεϊ γίνεται ακόμη πιο επίκαιρο την εποχή της Τεχνητής Νοημοσύνης, καθώς τα νέα αυτοκινούμενα οχήματα πρέπει να προγραμματιστούν να οδηγούνται μόνα τους, προκειμένου στο μέλλον να αποφευχθούν τα οδικά δυστυχήματα που μετρούν χιλιάδες νεκρούς σε όλη την υφήλιο. Το δίλημμα του τρόλεϊ αποβαίνει γόρδιος δεσμός για τους επιστήμονες οι οποίοι καλούνται να προγραμματίσουν τα εν λόγω οχήματα να λαμβάνουν ηθικές αποφάσεις. Τίνος η ζωή θα έχει προτεραιότητα; Του οδηγού ή των πεζών; Των πεζών ή των επιβαινόντων σε άλλο όχημα;

Πράγματι, το 2014 το ΜΙΤ σχεδίασε ένα πείραμα, την Ηθική Μηχανή (moral machine), με το οποίο επιχειρεί να καταγράψει την αντίδραση των ανθρώπων απέναντι στις ηθικές αποφάσεις των οχημάτων της Τεχνητής Νοημοσύνης. Πρόκειται για ένα «παιχνίδι» (http://moralmachine.mit.edu/) όπου οι «παίκτες» καλούνται να αποφασίσουν το ηθικά ορθό, όσον αφορά την προτεραιότητα της ζωής σε ενδεχόμενα ατυχήματα των αυτοκινούμενων οχημάτων. Στα υποτιθέμενα σενάρια παρελαύνουν άνθρωποι όλων των κατηγοριών που μπορεί να μεταστρέψουν την νέα επικρατούσα ηθική:  Έγκυοι και βρέφη, παιδιά και ηλικιωμένοι, άστεγοι  και πλούσιοι (αλλά και ζώα, γάτες και σκύλοι) είναι τα μελλοντικά θύματα. Ο παίκτης αποφασίζει ποιον θα σκοτώσει, δίνοντας προτεραιότητα π.χ. στη ζωή των πολλών έναντι των λίγων, των ανθρώπων έναντι των ζώων, των παιδιών έναντι των ηλικιωμένων, του οδηγού έναντι των πεζών, ακόμη και των σκύλων έναντι των γάτων.

Μέχρι στιγμής έχουν καταμετρηθεί απαντήσεις περισσότερων από δύο εκατομμυρίων ανθρώπων από 233 χώρες και περιοχές, χωρίς αυτό να σημαίνει ότι η ηθική των αυτοκινούμενων οχημάτων θα καθοριστεί απλώς από την κοινή γνώμη, που, σαφώς, αδυνατεί να διαμορφώσει παγκοσμίως κοινά αποδεκτές ηθικές αρχές. Για παράδειγμα, σε χώρες όπως η Κίνα και η Ιαπωνία, όπου ο σεβασμός απέναντι σε ηλικιωμένους είναι μέρος της κουλτούρας τους, οι άνθρωποι δίνουν προτεραιότητα στους μεγαλύτερους αντί στους νέους. Οι φτωχότερες χώρες δείχνουν μεγαλύτερη ανοχή απέναντι σε ανθρώπους που διασχίζουν παράνομα τον δρόμο, ενώ στις πιο πλούσιες παίζει ρόλο ακόμη και το κοινωνικό στάτους στην επιλογή.

Υπάρχει το απόλυτα ηθικά ορθό ή είναι πολιτιστικό χαρακτηριστικό; Οι ηθικές αξίες δύσκολα θα καθοριστούν σε παγκόσμιο επίπεδο, ώστε να προγραμματιστούν οι μηχανές της Τεχνητής Νοημοσύνης.

Είναι ένας αριθμός η ζωή;

Το τρόλεϊ διασχίζει τις ράγες. Εσύ βρίσκεσαι στο πλάι. Μπροστά σου είναι ένας μοχλός που αλλάζει την πορεία του. Μπορείς να σώσεις τους πέντε, σκοτώνοντας τον έναν. Πώς μετριέται η αξία της ζωής;

Δρ Έλσα Νικολαΐδου – Διδάσκει Φιλοσοφία στο σχολείο Med High.

Το διαβάσαμε στο antikleidi.com καθώς και το παλαιότερο άρθρο, που υπάρχει και το βίντεο του διλήμματος.

Ακόμα ένα βίντεο για το παιχνίδι moral machine

Το παιχνίδι Ηθική Μηχανή