Αγγελική Λαχανά

Τεταρτοετής φοιτήτρια της Νομικής σχολής του ΕΚΠΑ.

Η Τεχνητή Νοημοσύνη (ΤΝ) μιμείται ανθρώπινες νοητικές λειτουργίες, από την επίλυση τεχνικών και λογικών προβλημάτων έως την ψυχολογική, φιλοσοφική και αφηρημένη ανάλυση. Ένας σημαντικός κλάδος είναι η Παραγωγική ΤΝ (Generative AI), η οποία μπορεί να δημιουργεί η ίδια έργα πνευματικά όπως τέχνης ή νομικά έγγραφα όπως εμφανίζεται εξελικτικά στην πρακτική.

Για να κατανοήσουμε τη σύνδεση της Generative AI με τη νομική επιστήμη, πρέπει να κατανοήσουμε πώς λειτουργεί. Η ΤΝ εκπαιδεύεται αλγοριθμικά σε τρία στάδια: συλλογή δεδομένων, εντοπισμός μοτίβων και δημιουργία. Συλλέγει δεδομένα, εντοπίζει κοινά χαρακτηριστικά  και τα χρησιμοποιεί για να δημιουργήσει αυτόνομα νέες παραστάσεις δικής του σύνθεσης – κατόπιν εντολής του χρήστη της ΤΝ.

Αυτή η διαδικασία επαναλαμβάνεται μέσω συστημάτων GNA’s (Generative Adversarial Network), όπου ένας Generator δημιουργεί και ένας Discriminator ελέγχει και βελτιώνει τα αποτελέσματα. Το αποτέλεσμα είναι η ικανότητα της ΤΝ να παράγει ρεαλιστικές αναπαραστάσεις πολλών πτυχών της ανθρώπινης ζωής, όπως εικόνες, βίντεο και φωνές.

Ποιές επιπτώσεις έχει αυτή η ρεαλιστικότητα της Παραγωγικής ΤΝ στην νομική επιστήμη; 

Με έναυσμα την υπόθεση Mendones v. Cushman , ΗΠΑ 2025 γεννώνται ερωτήματα για την παρείσφρηση της ΤΝ στη νομική διαδικασία ως παράγοντα παρακωλυτικό της ανεύρεσης της αλήθειας και απονομής της δικαιοσύνης. Στην ως άνω υπόθεση επεχειρήθηκε χρησιμοποίηση ως αποδεικτικού υλικού βίντεο εξ ολοκλήρου δημιουργημένο απο ΤΝ που απεικόνιζε μάρτυρα της δίκης να ομιλεί για την υπόθεση. Το τεχνητώς παραγόμενο βίντεο έγινε αντιληπτό απο το δικαστήριο και εξ αυτού απορρίφθηκε. Τί θα συνέβαινε όμως εάν η ΤΝ είχε επιτύχει μη ανιχνεύσιμο,  ρεαλιστικό υλικό ; Ποιά δικαιώματα θα βλάπτονταν και με ποιά νομική βάση θα μπορούσαν να προστατευθούν; Ποιό νομικό φάσμα μπορεί να καλύψει αυτές τις περιπτώσεις; 

Το αντικείμενο που καλούμαστε να αντιμετωπίσουμεσυνοψίζεται με τον όρο «AI Hallucinations». Ο όρος, καλύπτει κάθε «φανταστικό» δημιούργημα της τεχνητής νοημοσύνης , δηλαδή κάθε τι που η ΤΝ παράγει χωρίς να ανταποκρίνεται σε πραγματικές παραστάσεις είτε αυτό έγκειται σε οπτική είτε σε ηχητική παράσταση ή ακόμη και σε ανύπαρκτα δεδομένα. Χαρακτηριστικό και πολυσυζητημένο παράδειγμα, αποτελούν τα deepfakesπου συνίστανται σε παραποίηση εικόνων και βίντεο ως προς το υποδεικνυόμενο σε αυτά πρόσωπο ώστε να φαίνεται ως υποκείμενο πρόσωπο άλλο από το πραγματικό. Τα deepfakes απασχολούν τη νομική επιστήμη ιδίως στον τομέα της πορνογραφίας όπου διαμορφώνεται υλικό σεξουαλικής φύσεως μεπροσαρμογή σε αυτό προσώπων μη μετεχόντων χάρη στην τεχνολογία του AI. Επίσης, αναφορικά στο νομικό επάγγελμα , έχουν εμφανισθεί περιπτώσεις όπου δικηγόροι, προς ενίσχυση των ισχυρισμών τους και προς υπεράσπιση της υποθέσεώς τους, στρεφόμενοι στην ΤΝ για αναζήτηση νομολογιακών παραδειγμάτων , βρέθηκαν αντιμέτωποι με ανύπαρκτες υποθέσεις υποδεικνυόμενες από την ΤΝ. Ωστόσο, κέντρο του προβληματισμού του παρόντος άρθρου αποτελεί η εμπλοκή στις νομικές διαδικασίες όχι μόνοπαραποιημένων δεδομένων, αλλά και εξ ολοκλήρου κατασκευασμένων στερούμενων οποιασδήποτε πραγματικής βάσης.  

Με πόλο το ελληνικό και ευρωπαϊκό δίκαιο καλούμαστε να εντάξουμε τα ανωτέρω φαινόμενα στα υπάρχοντα νομοθετικά ερείσματα με στόχο την προστασία της προσωπικότητας του ατόμου και των προσωπικών του δεδομένων, αλλά και να εξετάσουμε την επάρκεια και αποτελεσματικότητα αυτών.

ΤΟ ΔΙΚΑΙΟ ΤΩΝ ΠΡΟΣΩΠΙΚΩΝ ΔΕΔΟΜΕΝΩΝ 

Ως προσωπικό δεδομένο νοείται κάθε πληροφορία ικανή να οδηγήσει σε ταυτοποίηση κάποιου φυσικούπροσώπου, ενώ είναι αδιάφορη η πηγή, ο τύπος και η μορφή που λαμβάνει η πληροφορία , αρκεί αυτή να συνδέεται με άτομο τόσο στενά ώστε να οδηγεί στην εξακρίβωση της ταυτότητάς του. Τα δεδομένα αυτά συνθέτουν την προσωπικότητα του ανθρώπου, με γενικήβάση προστασίας τη διάταξη του Σ9 και Σ5 για προστασία της ιδιωτικής ζωής και προσωπικότητας.

Ωστόσο, θεσπίστηκε ειδική διάταξη, το άρθρο Σ9Α το οποίο απαγορεύει την χρήση, συλλογή και επεξεργασία των προσωπικών δεδομένων συγκεκριμένα. Η εν λόγω διάταξη παρουσιάζει αυτοτέλεια έναντι των γενικών Σ5 και Σ9 λόγω του ειδικού της χαρακτήρα, όχι όμως και έναντι ευρωπαϊκής και διεθνούς ισχύος διατάξεων ως προς τις οποίες είναι εναρμονισμένη.

Τη μεγαλύτερη σημασία παρουσιάζει το άρθρο 16 παρ.2 της Συνθήκης Λειτουργίας της ΕΕ , το οποίο αποτέλεσε το έρεισμα θέσπισης της κυριότερης πηγής ρυθμίσεως των δεδομένων προσωπικού χαρακτήρα : του Γενικού Κανονισμού Προστασίας Δεδομένων. Σκοπός τουκανονισμού (εφεξής ΓΚΠΔ) αποτελεί η διαμόρφωσηνομικού πλαισίου είναι η ομοιόμορφη και ενιαία προστασία εντός της Ένωσης επομένως και της Ελλάδας.Το άρθρο 9Α του Συντάγματος δεν εφαρμόζεται αυτοτελώς, αλλά σύμφωνα με όσα ορίζει ο ΓΚΠΔ και ερμηνεύεται βάσει αυτού. 

ΠΩΣ ΕΠΗΡΕΑΖΕΙ Η ΠΑΡΑΓΩΓΙΚΗ ΤΝ ΤΗΝ ΠΡΟΣΤΑΣΙΑ ΤΩΝ ΠΡΟΣΩΠΙΚΩΝ ΔΕΔΟΜΕΝΩΝ;

Ο ΓΚΠΔ προστατεύει -μεταξύ άλλων- τα προσωπικά δεδομένα από τη μη σύννομη επεξεργασία , της οποίας ο ορισμός δίδεται στο αρ.4 παρ. 2 του Κανονισμού κατά ευρύ τρόπο, ώστε περικλύει κάθε πράξη επί προσωπικών δεδομένων και εξειδικεύεται με μία ενδεικτική απαρίθμηση πράξεων όπως η προσαρμογή, η χρήση, η διάθεση κ.ά. Στην περίπτωση των deepfakes, ευχερώς μπορεί κανείς να υπαγάγει την μεταβολή του φερόμενου προσώπου οπτικής απεικόνισης σε κάποιο άλλο στην περίπτωση της προσαρμογής, οπότε και στοιχειοθετείται αδιαμφισβήτητα επεξεργασία , της οποίας η νομιμότητα θα κριθεί ανάλογα με την ύπαρξη ή μη βάσεως νομιμότητας όπως θα αναλυθεί στη συνέχεια. 

Από την οριοθέτηση της έννοιας της επεξεργασίας γίνεται αντιληπτό ότι αυτή εντοπίζεται σε πράξεις τελούμενες επί ήδη υπαρχόντων προσωπικών δεδομένων που οδηγούν σε ταυτοποίηση φυσικού προσώπου από κάποια πληροφορία στερούμενηςνομίμου βάσεως,  ανεξάρτητα από την ανταπόκρισή τηςστην πραγματικότητα. 

Πώς θα «χωρέσουμε» στην ανωτέρω έννοια της επεξεργασίας την περίπτωση της δημιουργίας εκ μέρους της ΤΝ ενός επινοήματος που μπορεί μεν να οδηγήσει σε ταυτοποίηση του προσώπου, αλλά δεν συνιστά πράξη σε ήδη υπάρχον δεδομένο;

Εννοιολογικώς, η προστασία στις περιπτώσεις αυτές φαίνεται να μην βρίσκει έρεισμα στους ορισμούς του Κανονισμού με αποτέλεσμα να ερχόμαστε αντιμέτωποι με κενό προστασίας, το οποίο καλύπτεται ερμηνευτικά κατά διασταλτικό τρόπο, με διεύρυνση της έννοιας της επεξεργασίας εντάσσοντας σε αυτή και την παραγωγή «φαινομένων» προσωπικών δεδομένων. 

Έπειτα, ανακύπτουν ζητήματα εφαρμογής των λοιπών διατάξεων του ΓΚΠΔ καθώς δεν στοιχειοθετείται άνευ ετέρου με κάθε επεξεργασία προσβολή προσωπικών δεδομένων.Η προσβολή προϋποθέτει η επεξεργασία να έχει γίνει χωρίς νόμιμη βάση, χωρίς δηλαδήδικαιολογητικό λόγο που ανάγεται από τον Κανονισμό σε νομιμοποιητικό.

Πέραν της συγκατάθεσης του προσώπου στην επεξεργασία που δύναται να αποτελέσει νόμιμη βάση, προβληματική για την έννομη τάξη παρουσιάζεται η βάση της δικαιοδοτικής λειτουργίας των δικαστηρίων.

Καταρχήν, με σκοπό τη διαφύλαξη της προσωπικότητας του προσώπου και προς εναρμόνιση με τις θεμελιώδειςδιατάξεις Σ5, Σ2 , θεσπίστηκε ειδική απαγορευτική ρύθμιση με το άρθρο 19 παρ.3 του Συντάγματος. Με το άρθρο αυτό αποκλείονται από την αποδεικτική διαδικασία μέσα που αντιβαίνουν στα άρθρα 9 και 9^Α, ήτοι που παραβιάζουν τα προσωπικά δεδομένα. Παρά τον απαγορευτικό της χαρακτήρα και την υπέρτερη τυπική ισχύ της, η διάταξη δεν είναι άκαμπτη. 

Ιδίως στο πλαίσιο της ποινικής δίκης, κατά το ίδιο το άρθρο 19 παρ. 1 Σ και κατά 177 ΚΠΔ, κάμπτεται η απαγόρευση όταν το αποδεικτικό μέσο συνιστά αφενός τον μοναδικό τρόπο υπεράσπισης υπέρτερων εννόμων συμφερόντων και αφετέρου  προσανατολίζονται στην απονομή δικαιοσύνης για ιδιαίτερα σοβαρά εγκλήματα. Μάλιστα, η νομολογία στρέφει την ως άνω εξαίρεσηιδίως υπέρ του κατηγορουμένου, προς απόδειξη της αθωότητάς του. 

Έστω, λοιπόν, ότι κάποια περίπτωση δικαστικής διαμάχης πληροί τις προϋποθέσεις της εξαιρέσεως και γίνονται δεκτά στη δίκη μέσα απόδειξης που αντίκεινται στα προσωπικά δεδομένα. Ποια εγγύηση παρέχεται στους αποδέκτες της δικαστικής κρίσεως ότι τοπροσαχθέν υλικό- μία μαγνητοφωνική ή εικονική απεικόνιση- δεν αποτελεί παρά πλασματικό προϊόν προερχόμενο της  παραγωγικής τέχνης της εξελιγμένης ΤΝ; Λαμβάνοντας υπόψη την ραγδαία εξέλιξη της ΤΝ, ευλόγως γεννάται προβληματισμός για τη δυνατότητα ανίχνευσης της εικονικότητας του αποδεικτικού μέσουαπό τον δικαστή, ο οποίος στερείται εξειδικευμένων τεχνικών γνώσεων που απαιτούνται εν όψει της αληθοφάνειας των δημιουργημάτων της ΤΝ σήμερα και στο μέλλον σε υψηλότερο βαθμό.

Ελλείψει ειδικών προστατευτικών μέτρων στο ποινικό δικονομικό πλαίσιο, το αποδεικτό μέσο θα εκτιμάται -κατά τον γενικό κανόνα- ελεύθερα από τον ποινικό δικαστή (177 ΚΠΔ) στον οποίο παρέχεται η δυνατότητα  να αμφισβητήσει τη γνησιότητά του, επιστρατεύοντας την τεχνική κρίση ειδικού πραγματογνώμονα ( 183επ.ΚΠΔ) ο οποίος θα αποφανθεί περί της πλαστότητας ή μη του μέσου. Κατά τον ίδιο τρόπο μπορεί και ο διάδικος να προσβάλει το μέσο – ή ακριβέστερα την ψηφιακή εγγραφή- που θεωρεί ότι δεν είναι γνήσιο. 

AI ACT : ΚΑΝΟΝΙΣΜΟΣ 2024/1689 ΡΥΘΜΙΣΕΩΣ ΖΗΤΗΜΑΤΩΝ ΤΕΧΝΗΤΗΣ ΝΟΗΟΣΥΝΗΣ ΕΝΤΟΣ ΕΕ.

Ζητήματα αναφορικά στην χρήση της ΤΝ ανέλαβε να ρυθμίσει το ενωσιακό δίκαιο με τον Κανονισμό2024/1689 γνωστό ως «AI ACΤ». Το ευρωπαϊκής ισχύος νομοθέτημα ανέλαβε να θέσει γενικούς κανόνες ασφαλούς χρήσης της ΤΝ με κεντρικό άξονα τη διάκριση συστημάτων σε υψηλού, περιορισμένου και ελάχιστου κινδύνου και την επιβολή υποχρεώσεως διαφάνειας. Ως προς την προσβολή προσωπικών δεδομένων ο Κανονισμός ρητώς παραπέμπει τον ΓΚΠΔ ο οποίος εξακολουθεί να ισχύει και συμπληρώνεται από τον AIACT μόνο στην περίπτωση συστημάτων ΤΝ υψηλού κινδύνου.

Ως υψηλού κινδύνου σύστημα ΤΝ θεωρείται μεταξύ άλλων και αυτό που χρησιμοποιείται υποβοηθητικά προς τη δικαστική διαδικασία. Ωστόσο, ο AI Act δεν θεσπίζει ειδικό δικονομικό μηχανισμό προληπτικού ελέγχου αυθεντικότητας αποδεικτικών μέσων ούτε πρότυπο πιστοποίησης έναντι τεχνητής αλλοίωσης. Ρυθμίζει τη νόμιμη ανάπτυξη και διάθεση συστημάτων ΤΝ, όχι την αποδεικτική αξιολόγηση εντός της δίκης.

ΚΑΤΑΛΗΚΤΙΚΟΣ ΠΡΟΒΛΗΜΑΤΙΣΜΟΣ 

Ανακύπτει, επομένως, προβληματισμός ως προς το κατά πόσον το υφιστάμενο πλαίσιο επαρκεί απέναντι στην αυξανόμενη αληθοφάνεια των προϊόντων ΤΝ. Η απονομή της δικαιοσύνης στηρίζεται στην αξιοπιστία του αποδεικτικού υλικού, ώστε εάν η ανίχνευση τεχνητής κατασκευής απαιτεί εξειδικευμένες και διαρκώς εξελισσόμενες τεχνικές γνώσεις, ενδέχεται να δημιουργηθεί έλλειμμα εγγυήσεων. Το ζήτημα δεν αφορά μόνο την προστασία προσωπικών δεδομένων, αλλά και τον πυρήνα της δίκαιης δίκης και της ασφάλειας δικαίου, καθιστώντας επίκαιρη τη συζήτηση περί θέσπισης ειδικών προληπτικών μηχανισμών ελέγχου αυθεντικότητας στην ποινική διαδικασία.