Στις 21 Απριλίου 2021, η Ευρωπαϊκή Επιτροπή εξέδωσε πρόταση Κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την Τεχνητή Νοημοσύνη και για την τροποποίηση ορισμένων νομοθετικών πράξεων της Ένωσης. Εάν εγκριθεί, ο Κανονισμός θα είναι το πρώτο νομικό πλαίσιο για την Τεχνητή Νοημοσύνη (ΤΝ) και θα επηρεάσει σε σημαντικό βαθμό τον τομέα της υγείας, ο οποίος περνάει μέσα από μια πρωτοφανή διαδικασία ψηφιοποίησης.
Από την (προ)κλινική έρευνα και την ανάπτυξη φαρμάκων μέχρι τις in vitro ιατρικές συσκευές για διάγνωση και θεραπεία, το ρυθμιστικό πλαίσιο για την Τεχνητή Νοημοσύνη επηρεάζει άμεσα τον χώρο του MedTech. Η διαβάθμιση του κινδύνου στις τεχνολογίες υγείας αποτελεί την κυριότερη ανησυχία, καθώς θα φέρει ανακατατάξεις και θα επηρεάσει ακόμα και τα ιατροτεχνολογικά προϊόντα που φέρουν τις απαιτήσεις σήμανσης CE.
Σκοπό της πρότασης αποτελεί η εναρμόνιση των κανόνων για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση των συστημάτων Τεχνητής Νοημοσύνης στην ΕΕ μέσω της απαγόρευσης ορισμένων πρακτικών, της θέσπισης απαιτήσεων για συστήματα ΤΝ υψηλού κινδύνου και της διαφάνειας για συστήματα ΤΝ που αλληλεπιδρούν με φυσικά πρόσωπα. Αυτός ο σκοπός επιτυγχάνεται μέσω της ταξινόμησης του κινδύνου που μπορεί να έχουν τα συστήματα ΤΝ για τις αξίες της Ένωσης και το δημόσιο συμφέρον.
Πεδίο εφαρμογής
Η πρόταση καθορίζει τα συστήματα ΤΝ ως λογισμικά, τα οποία θα πρέπει να πληρούν σωρευτικά δύο προϋποθέσεις. Αφενός να έχουν αναπτυχθεί με μία ή περισσότερες τεχνικές και προσεγγίσεις που αναφέρονται στο Παράρτημα Ι, όπως η μηχανική μάθηση (επιτηρούμενη και μη επιτηρούμενη), συμπεριλαμβανομένης της βαθιάς μάθησης, οι στατιστικές προσεγγίσεις, οι μέθοδοι αναζήτησης και βελτιστοποίησης καθώς και ο επαγωγικός λογικός προγραμματισμός. Αφετέρου να δημιουργούν αποτελέσματα, όπως περιεχόμενο, προβλέψεις, προτάσεις ή αποφάσεις, που προκύπτουν από στόχους καθορισμένους από ανθρώπους και επηρεάζουν το περιβάλλον, με το οποίο αλλελεπιδρούν.
Πρόκειται για ένα διευρυμένο πεδίο εφαρμογής που περιλαμβάνει πληθώρα λογισμικών, τα οποία δεν ρυθμίζονται από το ισχύον νομοθετικό πλαίσιο για τα βιομηχανικά προϊόντα. Συγκεκριμένα, τα συστήματα ΤΝ, όταν αποτελούν συστατικά προϊόντων, όπως για παράδειγμα συμβαίνει στα ιατροτεχνολογικά προϊόντα και στις διαγνωστικές συσκευές, καλύπτονται από το Νέο Νομικό Πλαίσιο (NLF) και τον Κανονισμό (ΕΕ) 2017/745 για τα ιατροτεχνολογικά προϊόντα, όπου και εκεί υπάρχει διαβάθμιση κινδύνου. Υπό αυτή την έννοια, θα υπάρχει αλληλεπίδραση του ισχύοντος νομικού πλαισίου, το οποίο ρυθμίζει θέματα ασφάλειας του προϊόντος σε επίπεδο συνόλου, και του πλαισίου για την ΤΝ, το οποίο θα αφορά τους πιθανούς κινδύνους ασφαλείας που σχετίζονται ειδικότερα με το σύστημα ΤΝ.
Όταν, όμως τα συστήματα ΤΝ λειτουργούν αυτόνομα ως ξεχωριστά προϊόντα, τότε θα καλύπτονται μόνο από το νομικό πλαίσιο για την ΤΝ. Έτσι, η πρόταση ενισχύει την ευθύνη των κατασκευαστών και των παρόχων τέτοιων λογισμικών και οδηγεί σε εκσυγχρονισμό των εθνικών νομοθεσιών, στις οποίες παρατηρείται ο περιορισμός της αστικής ευθύνης στην κατασκευή και προμήθεια λογισμικών.
Η διαβάθμιση του κινδύνου
Η πρόταση Κανονισμού για την ΤΝ βασίζεται στη διαβάθμιση του κινδύνου των συστημάτων ΤΝ στις ευρωπαϊκές αξίες και τα θεμελιώδη δικαιώματα του ανθρώπου. Ειδικότερα, υπάρχουν τέσσερα επίπεδα κινδύνου:
- Μη αποδεκτός κίνδυνος: Πρόκειται για συστήματα ΤΝ που αναπτύσσουν υποσυνείδητες τεχνικές, οι οποίες παρακάμπτουν την ελεύθερη βούληση των ατόμων, εκμεταλλεύονται την ευπάθεια ορισμένων ατόμων, όπως την ηλικία τους, τη σωματική ή διανοητική τους αναπηρία κλπ, ή συνιστούν σαφή απειλή για τα δικαιώματα των ατόμων, όπως για παράδειγμα απομακρυσμένα βιομετρικά συστήματα αναγνώρισης σε πραγματικό χρόνο, τα οποία χρησιμοποιούνται σε χώρους προσβάσιμους στο κοινό. Τα συστήματα αυτά απαγορεύονται χωρίς προϋποθέσεις.
- Υψηλός κίνδυνος: Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου είναι αυτά που έχουν δυνητικά σημαντικές επιβλαβείς επιπτώσεις στην υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των ατόμων. Στον χώρο της υγείας, τέτοια συστήματα ΤΝ είναι αυτά που χρησιμοποιούνται σε χειρουργική επέμβαση με ρομπότ, αυτά που καθορίζουν την προτεραιότητα πρόσβασης στις υπηρεσίες υγείας έκτακτης ανάγκης, καθώς και αυτά που προορίζονται για την αξιολόγηση από τις δημόσιες αρχές του κινδύνου υγείας που φέρει ένα φυσικό πρόσωπο, το οποίο προτίθεται να εισέλθει ή έχει ήδη εισέλθει σε έδαφος κράτους-μέλους της ΕΕ.
Τα συστήματα αυτά δεν απαγορεύονται, αλλά υπόκεινται σε αυστηρούς περιορισμούς, με κυριότερο την υποχρέωση αξιολόγησης και εκτίμησης του κινδύνου από τρίτο, ανεξάρτητο φορέα, αλλά και την εναρμόνιση με τη σχετική νομοθεσία, η οποία αναφέρεται στο Παράρτημα ΙΙ, όπως για παράδειγμα ο Κανονισμός (ΕΕ) 2016/425 για τα μέσα ατομικής προστασίας, ο Κανονισμός (ΕΕ) 2017/745 για τα ιατροτεχνολογικά προϊόντα και ο Κανονισμός (ΕΕ) 2017/746 για τα in vitroδιαγνωστικά ιατροτεχνολογικά προϊόντα.
- Περιορισμένος κίνδυνος: Πρόκειται για συστήματα ΤΝ που αλληλεπιδρούν με τον άνθρωπο ή δημιουργούν και χειρίζονται περιεχόμενο, το οποίο ενδέχεται να εξαπατήσει τον χρήστη. Τα συστήματα αυτά υπόκεινται σε πιο περιορισμένο καθεστώς συμμόρφωσης, το οποίο αφορά κυρίως προδιαγραφές διαφάνειας. Παρά όλ’ αυτά, η πρόταση ενθαρρύνει την εθελοντική συμμόρφωση με τα αυστηρά πρότυπα για τα συστήματα ΤΝ υψηλού κινδύνου.
- Ελάχιστος κίνδυνος: Τα συστήματα ΤΝ ελάχιστου κινδύνου δεν υπόκεινται σε νέες υποχρεώσεις σύμφωνα με την πρόταση Κανονισμού, καθώς δεν επάγονται κινδύνους για την ασφάλεια και τα θεμελιώδη δικαιώματα των χρηστών.
Ενισχυμένα πρότυπα συμμόρφωσης των συστημάτων υψηλού κινδύνου
Η πρόταση του Κανονισμού για την ΤΝ αφιερώνει ένα σημαντικό μέρος της, για να καθορίσει τις αυξημένες υποχρεώσεις συμμόρφωσης των συστημάτων ΤΝ υψηλού κινδύνου, συμπεριλαμβανομένης της ειδικής σήμανσης CE. Τα εν λόγω ενισχυμένα πρότυπα συμμόρφωσης ισχύουν για όλα τα συστήματα ΤΝ υψηλού κινδύνου, ανεξάρτητα από το αν αυτά είναι αυτόνομα προϊόντα ή ενσωματώνονται σε άλλα ιατροτεχνολογικά προϊόντα.
Τα πρότυπα αυτά είναι:
- Διαχείριση δεδομένων: Τα συστήματα ΤΝ που χρησιμοποιούν τεχνικές που περιλαμβάνουν την κατάρτιση μοντέλων με βάση συγκεκριμένα δεδομένα πρέπει να τηρούν καθορισμένα κριτήρια ποιότητας στη δοκιμή και την επικύρωση αυτών των δεδομένων.
- Τεχνική τεκμηρίωση: Η τεχνική τεκμηρίωση θα πρέπει να περιλαμβάνει όλες τις απαραίτητες πληροφορίες για τις αρχές που ελέγχουν τη συμμόρφωση με τις απαιτήσεις που ορίζονται στον προτεινόμενο κανονισμό. Στη περίπτωση των ιατροτεχνολογικών προϊόντων, πρέπει να καταρτίζεται μια ενιαία τεχνική τεκμηρίωση, η οποία θα περιλαμβάνει όλα τα απαραίτητα στοιχεία σύμφωνα με την πρόταση για την ΤΝ αλλά και αυτά που απαιτούνται βάσει της ισχύουσας νομοθεσίας (π.χ. του Κανονισμού (ΕΕ) 2017/745).
- Καταγραφή δραστηριοτήτων: Τα συστήματα ΤΝ υψηλού κινδύνου πρέπει να σχεδιάζονται και να αναπτύσσονται με χαρακτηριστικά που επιτρέπουν την αυτόματη καταγραφή των συμβάντων καθ’ όλη τη διάρκεια του κύκλου ζωής τους. Ιδιαίτερη προσοχή πρέπει να δίνεται στην εμφάνιση συμβάντων που ενδέχεται να οδηγήσουν σε δυσλειτουργία με κίνδυνο για την υγεία και την ασφάλεια του χρήστη, καθώς και στην παρακολούθηση του συστήματος μετά την αγορά.
- Διαφάνεια και παροχή πληροφοριών στους χρήστες: Τα συστήματα ΤΝ υψηλού κινδύνου πρέπει να σχεδιάζονται και να αναπτύσσονται επί τη βάσει της εξασφάλισης επαρκούς διαφάνειας που επιτρέπει στους χρήστες την ερμηνεία των αποτελεσμάτων τους και την κατάλληλη χρήση τους. Για τον σκοπό αυτό, το σύστημα που εμπίπτει σε αυτή την κατηγορία κινδύνου θα πρέπει να συνοδεύεται από ικανοποιητικές και κατανοητές οδηγίες σε ψηφιακή μορφή.
- Ανθρώπινη εποπτεία: Ο σχεδιασμός των συστημάτων ΤΝ υψηλού κινδύνου πρέπει να συμπεριλαμβάνει τα κατάλληλα εργαλεία διεπαφής ανθρώπου-μηχανής που επιτρέπει την αποτελεσματική εποπτεία από φυσικά πρόσωπα. Η εποπτεία αυτή στοχεύει στην πρόληψη ή την ελαχιστοποίηση των κινδύνων για την υγεία και την ασφάλεια ή τα θεμελιώδη δικαιώματα εντός της προβλεπόμενης χρήσης ή υπό συνθήκες εύλογης προβλέψιμης κατάχρησης. Ο πρόταση Κανονισμού αναγνωρίζει ότι αυτό μπορεί να είναι δυνατό μόνο σε περιπτώσεις, όπου το φυσικό πρόσωπο κατανοεί πλήρως τις δυνατότητες και τους περιορισμούς του συστήματος και είναι σε θέση να παρακολουθεί τις δραστηριότητές του, ώστε να ανιχνεύει τυχόν δυσλειτουργίες ή απροσδόκητα συμβάντα.
- Ποιότητα και κυβερνοασφάλεια: Τα συστήματα ΤΝ υψηλού κινδύνου πρέπει να εξασφαλίζουν ένα κατάλληλο επίπεδο ακρίβειας, ανθεκτικότητας και κυβερνοασφάλειας, η οποία παραμένει σε σταθερό επίπεδο καθ’ όλη τη διάρκεια του κύκλου ζωής τους. Οι μετρήσεις ακριβείας πρέπει να παρέχονται στις οδηγίες, ενώ ταυτόχρονα πρέπει να υπάρχει ένα πρότυπο ανθεκτικότητας ως προς τα σφάλματα, τις ασυνέπειες αλλά και τις προσπάθειες των μη εξουσιοδοτημένων τρίτων μερών να τροποποιούν τη χρήση ή την απόδοση του συστήματος μέσω της εκμετάλλευσης των δυνητικών του δυσλειτουργιών.
Επιστέγασμα των παραπάνω κανόνων συμμόρφωσης είναι η σήμανση CE για τα συστήματα ΤΝ υψηλού κινδύνου, η οποία θα πρέπει να λαμβάνεται από τους παρόχους, προτού αυτά κυκλοφορήσουν στην αγορά, είτε με εσωτερικό έλεγχο είτε από νεοσυσταθέντες φορείς. Πρόκειται για μια απαίτηση που θα επηρεάσει σημαντικά τον χώρο της υγείας, καθώς θα υπάρξουν καθυστερήσεις για την είσοδο στην αγορά των προϊόντων που χαρακτηρίζονται ως υψηλού κινδύνου, αν και θα υπάρξει μια μεταβατική περίοδος δύο ετών μετά την έναρξη ισχύος του Κανονισμού, ώστε οι κατασκευαστές να έχουν χρόνο να προετοιμαστούν.
Ελλείψεις και προβληματισμοί
Παρά, πάντως, την αδιαμφισβήτητη υψηλότερη προστασία που θα απολαμβάνουν οι χρήστες υπό το νέο αυστηροποιημένο πλαίσιο, αρκετά είναι και τα προβλήματα που έχουν επισημανθεί και αφορούν είτε τα τελικά δικαιώματα των ατόμων είτε την περιπλοκότητα των αδειοδοτήσεων, με ό,τι αυτό συνεπάγεται για την προώθηση της καινοτομίας.
Η έλλειψη ανθρωποκεντρικής προσέγγισης προκύπτει από το γεγονός ότι η πρόταση του Κανονισμού φαίνεται να αγνοεί την προοπτική των τελικών χρηστών, αυτών δηλαδή που κατεξοχήν επηρεάζονται από τη δράση των συστημάτων ΤΝ στον τομέα της υγείας. Οι κανόνες που ορίζονται αφορούν κυρίως τους δημιουργούς και τους χειριστές αυτών των συστημάτων, υποχρεώνοντάς τους σε συγκεκριμένα πρότυπα συμμόρφωσης.
Όμως, δεν παρέχει αποτελεσματικά και εκτελεστά δικαιώματα στα άτομα, τα οποία δέχονται τις τυχόν επιζήμιες επιπτώσεις των συστημάτων ΤΝ, όπως ισχύει για παράδειγμα στον Γενικό Κανονισμό για την Προστασία των Δεδομένων. Στο υγειονομικό και κλινικό πλαίσιο, όπου τα άτομα είναι ιδιαίτερα ευαίσθητα στους κινδύνους της τεχνητής νοημοσύνης λόγω των εγγενών ασυμμετριών εξάρτησης και πληροφόρησης στη σχέση ιατρού-ασθενούς, αυτή η έλλειψη αποτυπώνει ένα σημαντικό κενό στην αποτελεσματική προστασία των θεμελιωδών δικαιωμάτων των ατόμων.
Από την άλλη, γίνεται σαφές ότι η εναρμόνιση της προτεινόμενης νομοθεσίας με την ήδη υπάρχουσα και ειδικότερα τον Κανονισμό 2017/745 για τα ιατροτεχνολογικά προϊόντα (MDR) είναι προβληματική. Εφόσον η πρόταση υιοθετηθεί ως έχει, τότε θα απαιτούνται πολλαπλές πιστοποιήσεις στους κατασκευαστές ιατρικής τεχνολογίας ΤΝ με σημαντικό βαθμό αλληλοεπικάλυψης. Προφανώς, μια τέτοια πολυπλοκότητα θα έχει αρνητικές συνέπειες στην επιχειρηματική ανάπτυξη στον χώρο της ιατρικής πρωτοπορίας αλλά και στην έγκαιρη πρόσβαση των πολιτών στη σύγχρονη ιατρική τεχνολογία.
Ασφάλεια ή καινοτομία;
Ο προβληματισμός, πάντως, για τη σχέση ανάμεσα στο αυστηρό πλαίσιο συμμόρφωσης και την ύπαρξη επαρκούς χώρου για την καινοτομία δεν είναι κάτι καινούριο και έχει ευρύτερες προεκτάσεις. Στον χώρο της υγείας, όπου εκ των πραγμάτων τα περισσότερα συστήματα ΤΝ κατατάσσονται ως υψηλού κινδύνου, καθώς άπτονται άμεσα της ζωής και της υγείας των ατόμων, ζητούμενο είναι να βρεθεί η ιδανική ισορροπία ανάμεσα στην ασφάλεια των χρηστών και την καινοτομία. Η εξίσωση, στην οποία πρέπει να ληφθούν υπόψη η ασφάλεια και η υγεία του ασθενούς, η ιδιωτικότητα αλλά και η πρόοδος της τεχνολογίας προς επίλυση δύσκολων προβλημάτων, είναι αρκετά πολύπλοκη.
Πάντως, δεδομένου του επιχειρησιακού αντίκτυπου και των έντονων περιορισμών που θα έχει ο Κανονισμός αυτός, η Επιτροπή στην πρότασή της προβλέπει τη δημιουργία ρυθμιστικών sandboxes για την προώθηση της καινοτομίας στην Τεχνητή Νοημοσύνη. Πρόκειται για τον καθορισμό απομονωμένου και καθορισμένου περιβάλλοντος, όπου θα δοκιμάζονται καινοτόμες τεχνολογίες για περιορισμένο χρονικό διάστημα και στο οποίο θα έχουν προτεραιότητα οι μικρομεσαίες και νεοσύστατες επιχειρήσεις.
Το κατά πόσον κάτι τέτοιο είναι αρκετό ως μέση λύση που συνδυάζει την πρόοδο και τον απαραίτητο πειραματισμό της με την ασφάλεια και τον σεβασμό των θεμελιωδών ανθρώπινων δικαιωμάτων είναι κάτι που θα το διαπιστώσουμε στην πορεία.
Ιωάννα Μιχαλοπούλου, Δικηγόρος LL.M., Health, Pharma, Food & Life Sciences Specialist
«H εγκριτική διαδικασία βάσει του Κανονισμού 2017/745 για τα ιατροτεχνολογικά προϊόντα (MDR) εξαρτάται από την ταξινόμηση του ιατροτεχνολογικού προϊόντος. Για τα ιατροτεχνολογικά προϊόντα χαμηλότερου κινδύνου (Κατηγορία I) ο κατασκευαστής έχει την αποκλειστική ευθύνη για τη διενέργεια αξιολογήσεων συμμόρφωσης με τους κανονισμούς. Τα ιατροτεχνολογικά προϊόντα στις τάξεις υψηλότερου κινδύνου (IIa, IIb, III) και τα περισσότερα in-vitro διαγνωστικά βοηθήματα (IVD) αξιολογούνται από Κοινοποιημένους Οργανισμούς. Αυτό πρακτικά σημαίνει ότι πολλά προϊόντα ΤΝ, στο πλαίσιο του MDR απαιτούν έλεγχο από Κοινοποιημένους Οργανισμούς.
Αυτό περαιτέρω συνεπάγεται ότι α) οι Επαγγελματίες Υγείας θα πρέπει να είναι προσεκτικοί και να ζητούν πάντα από τον κατασκευαστή μιας συσκευής κατηγορίας Ι τα κλινικά στοιχεία του, β) οι κατασκευαστές δεν δύνανται να προωθούν άλλες χρήσεις πλην αυτών που αναφέρονται στην προβλεπόμενη χρήση για την οποία πραγματοποιήθηκε η αξιολόγηση της συμμόρφωσης.
Το μέλλον των ιατρικών συσκευών που βασίζονται σε Τεχνητή Νοημοσύνη και κατ’ επέκταση σε MachineLearning θέτει σημαντικές προκλήσεις για την συμμόρφωση κατασκευαστών, ρυθμιστικών οργανισμών με τους Κανονισμούς MDR, IVDR, GDPR και το νέο Artificial Intelligence Act αλλά και των ίδιων των Επαγγελματιών Υγείας, αποφασίζοντας μόνοι εντέλει τον τρόπο θεραπείας του ασθενή τους με ή χωρίς τη χρήση εργαλείων ΤΝ.»
Παρασκευή Σακελλαρίδη, Attorney at law, LLM, MSc, Senior Legal Counsel, Elpen Pharmaceutical Co. Inc.
- Πώς κρίνετε το προταθέν ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη; Πώς θα επηρεάσει τον χώρο της υγείας και την παροχή καινοτόμων ιατροτεχνολογικών υπηρεσιών;
Η πρόταση κανονισμού ΕΕ για την Τεχνητή Νοημοσύνη (ΤΝ) αποτελεί τομή στη νομοθετική πλαισίωση των καταιγιστικών τεχνολογικών εξελίξεων και των πιθανών εφαρμογών τους στο πεδίο αυτό. Η ΤΝ -μεταξύ άλλων- χρησιμοποιείται για την ανάπτυξη και παραγωγή φαρμακευτικών και ιατροτεχνολογικών προϊόντων ως και τη θεραπεία και πρόληψη προβλημάτων υγείας, καθώς και την περίθαλψη και τη φροντίδα των ασθενών.
Επομένως, στους τομείς αυτούς, η επένδυση στην ΤΝ μπορεί να οδηγήσει στη βελτιστοποίηση της αποδoτικότητας των σχετικών διαδικασιών και την εξοικονόμηση πόρων για το μέλλον. Παράλληλα, όμως, το διακύβευμα για τη ζωή, την υγεία και την προστασία της ατομικότητας είναι ιδιαίτερα υψηλό.
Το βασικότερο επίτευγμα της πρότασης Κανονισμού είναι ότι αποτελεί ένα συνεκτικό πλέγμα προτεινόμενων κανόνων για την επερχόμενη ρύθμιση τόσο των εκφάνσεων όσο και των κινδύνων της ΤΝ, πεδίο το οποίο -μέχρι σήμερα- ήταν ως επί το πλείστον αχαρτογράφητο. Η πρόταση υποδεικνύει την ανάγκη νομοθετικής ρύθμισης των νέων τεχνολογιών, μέσω της ταξινόμησης των κινδύνων που εμπερικλείει η καθεμία από αυτές και της καθιέρωσης διαδικασιών αξιολόγησης και συμμόρφωσης.
Είναι σαφές ότι κεντρικό ρόλο παίζει η ενίσχυση της εμπιστοσύνης προς τις νέες τεχνολογίες. Τούτο επιτυγχάνεται με την εξασφάλιση της προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, καθώς και με τη λήψη μέτρων αντιμετώπισης των αναφυόμενων ζητημάτων. Μέτρα, όπως η υποχρέωση καθιέρωσης συστημάτων διαχείρισης κινδύνων, τήρησης αρχείων και εξασφάλισης της ύπαρξης ανθρώπινης εποπτείας, εγγυώνται την αξιοπιστία και ακρίβεια των αποτελεσμάτων που παράγουν τα λειτουργούντα συστήματα βάσει ΤΝ.
Η καθιέρωση ενός ενιαίου ευρωπαϊκού πλαισίου σχετικά με την ΤΝ προωθεί την καινοτομία στον τομέα της υγείας, μέσω της ενθάρρυνσης των επενδύσεων και της υιοθέτησης των τεχνολογιών ΤΝ από τις επιχειρήσεις και τους πολίτες και αίρει ζητήματα ανασφάλειας δικαίου και κινδύνων σχετικοποίησης των κανόνων προστασίας του ατόμου λόγω έλλειψης ή αδιαφάνειας των σχετικών διαδικασιών.
Βασιλική Σταύρου, Legal and Compliance Officer, Genesis Pharma
- Πώς κρίνετε το προταθέν ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη; Πώς θα επηρεάσει τον χώρο της υγείας και την παροχή καινοτόμων ιατροτεχνολογικών υπηρεσιών;
Τον Απρίλιο 2021 η Ευρώπη έκανε ένα δυναμικό βήμα στο «πολυκριθέν» πλαίσιο της τεχνητής νοημοσύνης, μέσω της παρουσίασης σχεδίου Κανονισμού. Βασιζόμενη στις ευρωπαϊκές αξίες, από ουραγός, καθίσταται πρωταγωνιστής των διεθνών εξελίξεων, εστιάζοντας στην «ανθρωποκεντρική» και βιώσιμη τεχνητή νοημοσύνη, μέσω καινοτόμων προτύπων, με στόχο να θεμελιωθεί η εμπιστοσύνη στην τεχνητή νοημοσύνη και να διασφαλιστεί η ισορροπία μεταξύ αυτής και των θεμελιωδών δικαιωμάτων του ανθρώπου.
Ο νέος Κανονισμός έχει ως πρωταρχικό στόχο, την πρόληψη και τον περιορισμό κάθε πιθανής βλάβης, που μπορεί να προκύψει από τη χρήση της τεχνητής νοημοσύνης, μέσω κατηγοριοποίησης των συστημάτων αυτής, ανάλογα με τον κίνδυνο που περιέχουν. Συστήματα που θα φέρουν τον χαρακτηρισμό «μη αποδεκτού κινδύνου», θα απαγορεύονται, ως σαφή απειλή για την ασφάλεια, τον βιοπορισμό και τα δικαιώματα των ατόμων, ενώ για τα συστήματα «υψηλού» και «περιορισμένου κινδύνου», θα τίθενται αυστηροί περιορισμοί κυκλοφορίας.
Όπως ήταν αναμενόμενο, έχει ήδη ξεκινήσει ένας έντονος διάλογος διεθνώς, γύρω από το ζήτημα ορισμού των κατηγοριών των κινδύνων, καθώς και τον τρόπο και το πεδίο εφαρμογής του Κανονισμού, ενώ είναι ιδιαιτέρως λεπτή και εύθραυστη η ισορροπία και η συμβατότητα των συστημάτων ΤΝ με το πλήθος αρχών και νομικών κειμένων εθνικού και υπερεθνικού χαρακτήρα, που διασφαλίζουν θεμελιώδη δικαιώματα, όπως η ισότητα, η διαφάνεια, η προστασία των προσωπικών δεδομένων.
Το μόνο σίγουρο είναι ότι τα πρότυπα που σχεδιάζονται με τον Κανονισμό θα διαδραματίσουν σημαντικό ρόλο, μεταξύ άλλων, στον χώρο της υγείας. Ήδη, μελετώνται συστήματα ανάλυσης δεδομένων υγείας προς ταχύτατη διάγνωση σοβαρών, θανατηφόρων ασθενειών ή επιδημιών, άμεσης αναζήτησης και ανάλυσης ιατρικών πληροφοριών, ρομποτικής χειρουργικής, νευρωνικών δικτύων, προσωπικών βοηθών φροντίδας υγείας, τηλεϊατρικής κ.α.
Οι εξελίξεις σίγουρα θα είναι ραγδαίες στον τομέα αυτό, αλλά δεν θα πρέπει να παραβλέπονται και οι κίνδυνοι που εμφιλοχωρούν, κυρίως ως προς τις σχεδιαστικές προδιαγραφές των συστημάτων, την κατανόηση περίπλοκων παραμέτρων, τα ζητήματα διαφάνειας, ευθύνης και ασφάλειας και την ανάγκη ανθρώπινης επίβλεψης.
