Αλγόριθμος πρόβλεψης ασθένειας και θανάτου: νομικά και ηθικά διλήμματα την εποχή της Τεχνητής Νοημοσύνης

Abstract

Αν είχατε την δυνατότητα μέσω μιας εφαρμογής να πατήσετε το κουμπί ενός προηγμένου τεχνολογικά συστήματος, το οποίο κατόπιν επεξεργασίας συγκεκριμένων ηλεκτρονικών δεδομένων, σε μερικά μόλις δευτερόλεπτα θα μπορούσε να εκτιμήσει την κατάσταση της υγεία σας, να προβλέψει μελλοντικά την εξέλιξη μιας ενδεχόμενης ασθένειας ή και ακόμη να προσδιορίσει την ημέρα και ώρα θανάτου σας, θα το κάνατε; Πώς σας ακούγεται ένα ανθρώπινο δημιούργημα-μία μηχανή, να έχει την δυνατότητα μέσω ενός αλγόριθμου, να προσδιορίζει την ασθένεια σε τέτοιο βαθμό ώστε να προβλέπει το πότε θα πεθάνει ο δημιουργός της; Πλέον στην εποχή μας, η πρόσβαση σε κάθε είδους πληροφορία είναι απλή και πολύ εύκολη, ενώ το δικαίωμα της γνώσης σε αυτή αναφαίρετο. Η παρούσα διπλωματική μελετά τη διερεύνηση της Τεχνητής Νοημοσύνης (ΤΝ) και της προσφυγής της σε εκείνον τον αλγόριθμο που σχετίζεται με την προβλεπτική ιατρική και την πρόβλεψη ασθένειας και θανάτου στον άνθρωπο. Ειδικότερα εξετάζεται αν η συγκεκριμένη πληροφόρηση έχει όρια προσεγγίζοντας την ηθικά, καθώς προκύπτουν διλήμματα αφού ο ασθενής αντιμετωπίζεται ως ψηφιακό στατιστικό δεδομένο εγείροντας θέματα που ερίζουν με την ανθρώπινη αξιοπρέπεια, την ιδιωτικότητα γνωρίζοντας ότι τα ιατρικά δεδομένα είναι από την φύση τους εξαιρετικά ευαίσθητα και χρήζουν ιδιαίτερης διαχείρισης, την αυτονομία και το δικαίωμα στην ενημέρωση του αποτελέσματος πρόβλεψης ασθένειας και θανάτου, και την αξιοπιστία του αλγόριθμου ως προς το εξαγόμενο προϊόν, λαμβάνοντας υπόψη τα προβλήματα που μπορεί να προκύψουν από μία ενδεχόμενη λανθασμένη διάγνωση. Επιπλέον, αναλύονται ηθικά διλήμματα που αφορούν στις ανισότητες ως προς την πρόσβαση σε θεραπεία και τις διακρίσεις που αναδύονται από την συλλογή των δεδομένων υγείας καθώς ο αλγόριθμος μπορεί να λειτουργεί με προκατάληψη ως προς την ηλικία, το φύλο, την γενετική ή εθνοτική προέλευση, ακόμη και το κοινωνικοοικονομικό υπόβαθρο του ατόμου. Ηθικό ζήτημα αποτελεί και ο ρόλος του ιατρού καθώς ένας τέτοιος αλγόριθμος είναι ικανός να διαταράξει την ισορροπία μεταξύ τεχνολογίας και ανθρώπινης κρίσης, προκαλώντας ενδεχομένως τριγμούς στην ιατρική δεοντολογία. Στην παρούσα θα εξετασθούν και τα νομικά ζητήματα που παρουσιάζονται, αρχής γενομένης από τα Συνταγματικά όπου η στάθμιση της ζωής του ανθρώπου με έναν αλγόριθμο προκαλεί συγκεκριμένα θεμελιώδη δικαιώματα όπως αυτό της ζωής, της υγείας και της ανθρώπινης αξιοπρέπειας, ενώ εξίσου νομικό ζήτημα αποτελούν τα ευαίσθητα προσωπικά δεδομένα υγείας του ανθρώπου, διότι απαιτούν προστασία και επιβάλλουν ρητή συγκατάθεση και αυστηρά μέτρα ασφάλειας καθώς υπόκεινται σε αυστηρή αξιολόγηση, με τον αλγόριθμο τους να χαρακτηρίζεται υψηλού κινδύνου σύμφωνα με τον ευρωπαϊκό κανονισμό της ΤΝ και τον ΓΚΠΔ. Τέλος νομικά διλήμματα είναι αναμφίβολα σε γενικότερο πλαίσιο η διαφάνεια με την οποία λειτουργεί ένας αλγόριθμος με τα δεδομένα τα οποία χρησιμοποιεί, η κατάχρηση του αποτελέσματος και ενδεχόμενη χρήση αυτού από μη εξουσιοδοτημένα πρόσωπα, καθώς και η ευθύνη από τυχόν λανθασμένη γνωμάτευσή του. Στόχος μου είναι να θίξω ενδελεχώς τα παραπάνω ζητήματα και να προσφέρω στον αναγνώστη της παρούσης διπλωματικής μία όσο το δυνατόν πληρέστερη εικόνα σχετικά με τον αντίκτυπο του αλγόριθμου πρόβλεψης ασθένειας και θανάτου προσεγγίζοντας ηθικά και νομικά, ώστε να καταλήξω σε ένα ασφαλές συμπέρασμα για το αν ο συγκεκριμένος μπορεί να αποτελέσει σημαντικό εργαλείο για την υγεία και την ποιότητα της ζωής του ανθρώπου και δεν προκαλεί σοβαρούς κινδύνους σύγκρουσης θεμελιωδών δικαιωμάτων, απανθρωποίησης και ψυχικής βλάβης.“Disease and Death Prediction Algorithm: Legal and Ethical Dilemmas in the Age of Artificial Intelligence” Abstract If you were able through an app to press the button of an advanced technological system, which after processing specific electronic data, in just a few seconds could assess your state of health, predict the future development of a possible disease or even determine the day and time of your death, would you do so? How does it sound to you that a human creation-a machine, has the ability, through an algorithm, to determine the disease to such an extent that it predicts when its creator will die? Nowadays, access to all kinds of information is simple and very easy, while the right of knowledge to it is inalienable. This thesis consists of an investigation of Artificial Intelligence (AI) and its recourse to that algorithm related to predictive medicine and the prediction of human death. In particular, it will be examined whether this information has limits approaching morality, as dilemmas arise since the patient is treated as a digital statistical data raising issues that conflict with human dignity, privacy knowing that medical data are by nature extremely sensitive and need special management, autonomy and the right to update the outcome of disease and death prediction, and the reliability of the algorithm as to the exported product, taking into account the problems that may arise from a possible misdiagnosis. Ethical dilemmas related to inequalities in access to treatment and discrimination arising from the collection of health data are also analyzed as the algorithm can operate with bias in terms of age, gender, genetic or ethnic origin, and even socio-economic background of the individual. A further ethical issue is the role of the doctor, as such an algorithm is capable of disturbing the balance between technology and human judgment, potentially causing frustrations in medical ethics. The present paper will also examine the legal issues that are presented, starting with the Constitutional ones, where the balancing of the human life with an algorithm causes specific fundamental rights such as that of life, health and human dignity, while the sensitive personal health data of the human being are also a legal issue.