Γκόγκα Μαρία

Φοιτήτριας της Νομικής Σχολής του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών/ Αρχισυντάκτρια των Νομικών Διαλόγων.

Εισαγωγικό Σημείωμα

Εφαλτήριο για την συγγραφή της παρούσας μελέτης αποτελεί η επιτυχής παρακολούθηση του σεμιναρίου «Νομική Διάσταση της Τεχνητής Νοημοσύνης: Διεθνές και Εθνικό Επίπεδο» που διοργανώθηκε από το Κέντρο Επιμόρφωσης και Διά Βίου Μάθησης του Δημοκρίτειου Πανεπιστημίου Θράκης (22/10/2025-23/12/2025). Στο πλαίσιο αυτό, θα ήθελα να ευχαριστήσω θερμά την κυρία Ιωάννα Πέρβου, Επίκουρη Καθηγήτρια Διεθνούς Δικαίου στην Νομική Σχολή του Δ.Π.Θ, και την κυρία Μαρία Σπυριδάκη, Υποψήφια Διδάκτορα της Νομικής Σχολής του Δ.Π.Θ τόσο για την αρωγή και την εξαιρετική συνδρομή τους  κατά την διάρκεια της διδασκαλίας όσο και για την άδεια αξιοποίησης ακαδημαϊκού συγγραφικού υλικού για την ολοκλήρωσης της μελέτης.

  Στο έργο του 17^ου αιώνα «Λόγος περί της Μεθόδου», ο Ρενέ Ντεκάρτ παραθέτει το διάσημο ρητό «σκέφτομαι, άρα υπάρχω» («cogito, ergo sum»), εννοώντας ότι το θεμελιώδες στοιχείο που καθιστά τον νου ξεχωριστή οντότητα από το σώμα είναι η πράξη της αμφισβήτησης και της διεύρυνσή  της σκέψης με αποτέλεσμα να προκύπτει ένα υποκείμενο που σκέφτεται και αξιολογεί[1] Στον 21^ο αιώνα, η καίρια ανάπτυξη της τεχνολογίας, έρχεται να συμπληρώσει ή και να εμπλουτίσει τις σκέψεις του Καρτέσιου. Τα συστήματα τεχνητής νοημοσύνης που έχουν δυναμικά ενταχθεί στην καθημερινή ζωή δεν αποτελούν απλώς έξυπνες μηχανές, αλλά αναπτύσσουν την σκέψη τους σαν μια οιονεί ανθρώπινη συμπεριφορά.

  Αναλυτικότερα, γίνεται κρίσιμο να ορίσουμε τι εννοούμε με τον όρο Τεχνητή Νοημοσύνη (εφεξής ΤΝ). Ο ορισμός περί της ΤΝ είναι ρευστός. Με σημαντική δυσχέρεια, μπορούμε να καθιερώσουμε έναν κοινά αποδεκτό για όλους ορισμό. Σύμφωνα με τον ορισμό της Σύμβασης – Πλαισίου για την ΤΝ, τα Ανθρώπινα Δικαιώματα, τη Δημοκρατία & το Κράτος Δικαίου: Ως σύστημα τεχνητής νοημοσύνης νοείται σύστημα που βασίζεται σε μηχανή, η οποία για άμεσους ή έμμεσους στόχους, συνάγει, από τα δεδομένα που λαμβάνει, πώς να παράγει αποτελέσματα, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορεί να επηρεάσουν φυσικά ή εικονικά περιβάλλοντα. Διαφορετικά συστήματα τεχνητής νοημοσύνης ποικίλλουν ως προς τα επίπεδα αυτονομίας & προσαρμοστικότητας μετά την ανάπτυξή τους[2]. Παράλληλα, η ευρωπαϊκή στρατηγική ορίζει την ΤΝ σε συστήματα που χαρακτηρίζονται από ευφυή συμπεριφορά, αναλύοντας το περιβάλλον τους και ενεργώντας –με κάποιο βαθμό αυτονομίας –για την επίτευξη συγκεκριμένων στόχων.[3]

  Στις γενικές αρχές που διέπουν το Δίκαιο της ΤΝ αναμφίβολα ανήκουν ο σεβασμό στην αξία του ανθρώπου (αρ.2 παρ.1Σ.) και η συνακόλουθη ελεύθερη ανάπτυξη της προσωπικότητας του ατόμου (αρ.5παρ.1Σ), η εξασφάλιση της ελευθερίας του ατόμου (αρ.5 ΕΣΔΑ) και της ισότητας (αρ.4 παρ.1Σ. και αρ. 14 της ΕΣΔΑ),ενώ παράλληλα τα συστήματα ΤΝ πρέπει να επιδεικνύουν σεβασμό στις αρχές του δημοκρατικού πολιτεύματος (αρ. 1 του Σ.), της δικαιοσύνης και του κράτους δικαίου εν γένει ( αρ. 25Σ. και αρ. 26Σ).[4] Η ρύθμιση των συστημάτων ΤΝ διεξάγεται με γνώμονα 3 προσεγγίσεις: την νομική, την τεχνολογική και την ηθική.[5]

  Ο δυσχερής τρόπος καθορισμού των ουσιωδών χαρακτηριστικών των συστημάτων ΤΝ γεννά, επίσης, δυσχέρειες στην νομική αξιολόγηση και στο προστατευτικό τους πλαίσιο. Ποια είναι η νομική τους φύση και δράση; Πώς αναπτύσσουν την δράση τους; Τι συμβαίνει σε περίπτωση που αναπτύξουν αυτόνομο κακόβουλο λογισμικό; Τι συμβαίνει σε περίπτωση ύπαρξης ζημίας; Τι θα μπορούσε να προκύψει αν θεωρηθεί ότι ένα σύστημα ΤΝ ενσάρκωνε στο λογισμικό του στερεότυπα και προκαταλήψεις;

  Όλη η προαναφερθείσα προβληματική έγκειται αλλά και εκκινεί από την απόδοση νομικής προσωπικότητας σε ένα «ηλεκτρονικό σύστημα». Ως νομική προσωπικότητα ορίζεται στο άρθρο 61 του ΑΚ «Ένωση προσώπων για την επιδίωξη ορισμένου σκοπού, καθώς επίσης σύνολο περιουσίας που έχει ταχθεί στην εξυπηρέτηση ορισμένου σκοπού, μπορούν να αποκτήσουν προσωπικότητα (νομικό πρόσωπο), αν τηρηθούν οι όροι που αναγράφει ο νόμος.». Η απόδοση νομικής προσωπικότητας προϋποθέτει την ένωση προσώπων με σωματειακή μορφή ( δηλαδή σύνολα φυσικών προσώπων)[6], ενώ η ανάπτυξη της δράσης ενός νομικού προσώπου, μέσω της απόκτησης και της άσκησης της δικαιοπρακτικής ικανότητας που φέρουν τα μέλη του, γίνεται μόνο κατά πλάσμα δικαίου (σύμφωνα με τον Savigny)[7]. Η ανάπτυξη της δράσης, όμως, ενός προσώπου σε γενικό επίπεδο προϋποθέτει ως ένα βαθμό την αυτονομία στην λήψη αποφάσεων. Όσον αφορά τα συστήματα ΤΝ, ήδη η ευρωπαϊκή στρατηγική καθώς και η σύμβαση πλαίσιο για την ΤΝ κάνουν λόγο για αυτόνομα συστήματα ΤΝ. Τα συστήματα ΤΝ, διαμέσου της λειτουργικής ιδιαιτερότητας τους, μαθαίνουν και εξελίσσονται με αποτέλεσμα να αναπτύσσουν αυτονομία[8]. Στην συλλογιστική αυτή, είναι κρίσιμο να αναφερθεί το Ψήφισμα του Ευρωπαϊκού Κοινοβουλίου της 16^ης  Φεβρουαρίου 2017 με συστάσεις προς την Επιτροπή σχετικά με ρυθμίσεις αστικού δικαίου στον τομέα της ρομποτικής  (2015/2103(INL)) το οποίο προβλέπει: «τη δημιουργία μακροπρόθεσμα ενός ειδικού νομικού καθεστώτος για τα ρομπότ, ώστε τουλάχιστον τα πιο εξελιγμένα, αυτόνομα ρομπότ να αναγνωρίζονται ως ηλεκτρονικά πρόσωπα με υποχρέωση επανόρθωσης τυχόν ζημίας που προκαλούν, και ενδεχομένως εφαρμογή της ηλεκτρονικής αυτής προσωπικότητας σε περιπτώσεις στις οποίες τα ρομπότ λαμβάνουν αυτόνομα αποφάσεις ή έρχονται με άλλον τρόπο σε ανεξάρτητη διάδραση με τρίτα μέρη»[9]. Επομένως, τίθεται το ζήτημα απόδοσης μιας «ηλεκτρονικής προσωπικότητας». Μέσω της αναγνώρισηςe–personality, τα προηγμένα αυτόνομα ρομποτικά συστήματα θα θεωρούνται νομικές οντότητες και ως εκ τούτου θα φέρουν δικαιώματα και υποχρεώσεις. Σε αντίθεση με την άποψη αυτή, η Ευρωπαϊκή Επιτροπή και η Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή (ΕΟΚΕ) σε σχετική έκθεση τους αντέτειναν ότι ,με την απόδοση νομικής προσωπικότητας σε αυτόνομα ρομποτικά συστήματα, ελλοχεύεται ηθικός κίνδυνος, ενώ ταυτόχρονα απειλείται και η προληπτική διορθωτική λειτουργία του δικαίου της αστικής ευθύνης[10].

  Η προβληματική, όμως, δεν τελειούται εδώ. Το νομικό πρόσωπο συμμετέχει στην συναλλακτική διαδικασία και επιδιώκει το οικονομικό όφελος [11]. Τα αυτόνομα ρομποτικά συστήματα δεν απαρτίζονται από φυσικά πρόσωπα, δεν διαθέτουν περιουσία και εν συνεπεία την «υπεγγυότητα» της περιουσίας για την ενδεχόμενη ικανοποίηση απαιτήσεων δανειστών και την αποκατάσταση ζημίας από βλάβη, αλλά αντιθέτως θεωρούνται τα ίδια περιουσιακά στοιχεία.[12] Μια πειστική άποψη στο πλαίσιο αυτό θα ήταν ότι η απόδοση της ηλεκτρονικής νομικής προσωπικότητας στο αυτόνομο σύστημα θα μπορούσε να λάβει χώρα αν θεωρηθεί ότι τα εμπλεκόμενα μέρη που συναπαρτίζουν την υπόσταση του θα αποτελούσαν τα φυσικά πρόσωπα του και το σύνολο της περιουσίας του θα μπορούσε να είναι το αποκομιζόμενο κέρδος από την λειτουργία του συστήματος. Τουναντίον, έχει διατυπωθεί η άποψη ότι η απόδοση προσωπικότητας στα συστήματα ΤΝ θα συνιστούσε πλεονασμό, θεωρώντας ότι το ισχύον πλαίσιο είναι επαρκές για να καλύψει τυχόν κενά δικαίου, με την έννοια ότι τα εμπλεκόμενα μέρη κατά την ανάπτυξη αυτών των συστημάτων είναι νομικά πρόσωπα. Τέλος, έχει προταθεί και η δημιουργία μιας υβριδικής μορφής «ανθρώπου-μηχανής» που θα είναι φορέας δικαιωμάτων και υποχρεώσεων.[13] Αυτή η υβριδική κατασκευή θα αναγνωρίζει ένα είδος περιουσιακής αυτοτέλειας σε ένα αυξημένης αυτονομίας σύστημα ΤΝ που θα είναι ικανό να αποκαθιστά τυχόν αστικές αξιώσεις που ανακύπτουν.[14]

  Στο σημείο αυτό γεννάται το ζήτημα της απόδοσης ευθύνης σε ένα σύστημα ΤΝ. Το μείζον ζήτημα θεμελίωσης ευθύνης από σύστημα ΤΝ είναι το πρόβλημα των «πολλών χεριών» (problem of many hands)[15], ήτοι η εμπλοκή πολλών προσώπων στην παραγωγική διαδικασία  και εν συνεπεία στην απόδοση ευθύνης.  Κατά την δημιουργία, τον σχεδιασμό και την ανάπτυξη ενός συστήματος ΤΝ εμπλέκονται διαφορετικά πρόσωπα, όπως ο κατασκευαστής, ο σχεδιαστής, ο προγραμματιστής, ο εκπαιδευτής του συστήματος και εν τέλει ο χρήστης. Ο καταμερισμός της ευθύνης καθίσταται δυσχερής. Η πρόκληση ενός σφάλματος, με αποτέλεσμα να προκύψει βλάβη με συνακόλουθη ζημία, σε οποιοδήποτε στάδιο της δράσης του, είτε αυτό προκύπτει από τον αρχικό σχεδιασμό και προγραμματισμό του, είτε από ελλιπής εκπαίδευση, επιβεβαιώνει τον παραπάνω ισχυρισμό. Ενώ, η υιοθέτηση στερεοτύπων και προκαταλήψεων στο λογισμικό αυτών των συστημάτων έναντι μειονοτικών ομάδων (και όχι μόνο) ενισχύει την ανάγκη για θεμελίωση ενός κανονιστικού πλαισίου ρύθμισης ευθύνης.

  Ως προς την απόδοση ευθύνης σε συστήματα ΤΝ έχουν διατυπωθεί διάφορες απόψεις. Μια από αυτές ξεκινά την σκέψη της από την απόδοση ευθύνης στον κατασκευαστή προϊόντων ΤΝ. Η αντίληψη αυτή παρουσιάζει τα γενικά χαρακτηριστικά απόδοσης ευθύνης για ελαττωματικό προϊόν. Παράλληλα, έχει διατυπωθεί η άποψη η ευθύνη να αποδίδεται στον χρήστη των συστημάτων της ΤΝ. Συχνά, όμως, παρατηρείται το φαινόμενο ο τελικός χρήστης να μην είναι σε θέση να προβλέψει και να προστατεύσει τον εαυτό του από τυχόν βλάβη. Χαρακτηριστικό παράδειγμα αποτελούν οι εταιρίες των μέσων κοινωνικής δικτύωσης (Facebook, X (πρώην Twitter)) όπου ρυθμίζουν το περιεχόμενο διάδοσης των χρηστών και ως εκ τούτου την έκθεση τους σε ζημιογόνο περιεχόμενο. Ταυτόχρονα, εξαιτίας της πολυπλοκότητας στο προγραμματισμό και της δυναμικής αυτονομίας που αναπτύσσουν τέτοια συστήματα, διά της μηχανικής μάθησης και εκπαίδευσης, θα μπορούσε να καταστεί εφικτό ότι ο προγραμματιστής/σχεδιαστής δεν γνωρίζει αλλά ούτε και μπορούσε να προβλέψει την ζημιογόνο πράξη ή παράλειψη του συστήματος. Με άλλα λόγια, τα αυτόνομα ρομποτικά συστήματα δεν προβαίνουν μόνο σε αυτά που είναι προορισμένα να προβούν[16]. Σύμφωνα με τον Grut: «Τα προγράμματα με εκατομμύρια γραμμές κώδικα γράφονται από ομάδες προγραμματιστών, κανένας από τους οποίους δεν γνωρίζει ολόκληρο το πρόγραμμα. Ως εκ τούτου, κανένα άτομο δεν μπορεί να προβλέψει το αποτέλεσμα μιας δεδομένης εντολής με απόλυτη βεβαιότητα, καθώς τμήματα μεγάλων προγραμμάτων μπορεί να αλληλοεπιδρούν με απροσδόκητους, μη δοκιμασμένους τρόπους...»[17]. Τέλος, έχει διατυπωθεί η άποψη του καταμερισμού της ευθύνης μεταξύ κατασκευαστή και χρήστη της ΤΝ, πράγμα που γεννά πρακτική δυσκολία στον εντοπισμό αλλά και στην απόδοση ευθύνης.

  Μέσα στο πλαίσιο αυτό, η Έκθεση σχετικά με την Ευθύνη για ΤΝ και άλλες Αναδυόμενες Τεχνολογίες 2019 (Report on Liability for AI and Other Emerging Technologies,2019)[18] πρότεινε την προσέγγιση της απόδοσης ευθύνης με βάση το επίπεδο κινδύνου που απορρέει από την χρήση της συγκεκριμένης τεχνολογίας. Καταλήγει, λοιπόν, στην εξής σκέψη: εάν η τεχνολογία δεν ενέχει σοβαρό κίνδυνο βλάβης, τότε λαμβάνεται υπόψιν η ευθύνη του χρήστη για προσεκτική επιλογή, λειτουργία και παρακολούθηση της χρήσης της τεχνολογίας με βάσει την υπαιτιότητα στην παραβίαση αυτών των υποχρεώσεων. Απεναντίας, αν η τεχνολογία ενέχει σοβαρό κίνδυνο βλάβης, τότε λαμβάνεται υπόψιν η αντικειμενική ευθύνη του υποκειμένου που παρουσιάζει το μεγαλύτερο ποσοστό ελέγχου του συστήματος και επωφελείται από αυτό («Χειριστής του συστήματος ΤΝ»). Αν μετά από ενημερώσεις του συστήματος ή ενδεχόμενες  -ελεγχόμενες, όμως, από τον κατασκευαστή- τροποποιήσεις, που καθιστούν το σύστημα ελαττωματικό, προκύψει ζημία, τότε θεωρείται ότι δύναται να θεμελιωθεί ευθύνη έναντι του κατασκευαστή.

  Συνεπώς, γίνεται αντιληπτό ότι η ρύθμιση των  νομικών (και όχι μόνο) ζητημάτων όσον αφορά τα συστήματα ΤΝ κρίνεται καίρια για την μέλλουσα πορεία της διεθνούς αλλά και εσωτερικής έννομης τάξης. Μέσα σε αυτό το πλαίσιο, οι ρυθμιστικοί παράγοντες του Διεθνούς Δικαίου, η Ευρωπαϊκή Ένωση αλλά και ο εθνικός νομοθέτης καλούνται να λάβουν αυστηρά υπόψιν τους την ρύθμιση ενός κανονιστικού και εξαντλητικού πεδίου προστασίας που θα σέβεται τον πυρήνα των θεμελιωδών δικαιωμάτων και θα επιτρέπει την ανάπτυξη του, ενώ παράλληλα θα σέβεται την επιστημονική τεχνολογική πρόοδο. Ολοκληρώνοντας το παρόν άρθρο, θα ήθελα να παραθέσω τα εύστοχα λόγια του Simon Chesterman σχετικά με την νομική υπόσταση των συστημάτων ΤΝ: «η ιδέα ότι τα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν να είναι ισότιμα ​​με τους ανθρώπους υποδηλώνει έναν τρίτο λόγο για να σκεφτόμαστε την προσωπικότητα. Διότι μόλις επιτευχθεί η ισότητα, δεν υπάρχει λόγος να υποθέσουμε ότι οι πρόοδοι της Τεχνητής Νοημοσύνης θα σταματήσουν εκεί. Αν και η γενική Τεχνητή Νοημοσύνη παραμένει προς το παρόν επιστημονική φαντασία, προκαλεί την εξέταση του κατά πόσον το νομικό καθεστώς θα μπορούσε να διαμορφώσει ή να περιορίσει τη συμπεριφορά εάν ή όταν η ανθρωπότητα ξεπεραστεί. Εάν ποτέ φτάσουμε σε αυτό το σημείο, φυσικά, το ερώτημα μπορεί να μην είναι αν αναγνωρίζουμε τα δικαιώματα μιας γενικής Τεχνητής Νοημοσύνης, αλλά αν αυτή αναγνωρίζει τα δικά μας.»[19]

 

ΒΙΒΛΙΟΓΡΑΦΙΑ:

• Παραδόσεις μαθημάτων από το Σεμινάριο «Νομική Διάσταση της Τεχνητής Νοημοσύνης: Διεθνές και Εθνικό Επίπεδο», Κέντρο Επιμόρφωσης και Διά Βίου Μάθησης του Δημοκρίτειου Πανεπιστημίου Θράκης (22/10/2025-23/12/2025).
• Χριστίνα Γεωργάκη ,Ρενέ Ντεκάρτ: «Σκέφτομαι, άρα υπάρχω», ηλεκτρονικό άρθρο στο Maxmag, 6/10/2018. Διαθέσιμο στον: https://maxmag.gr/politismos/philosofia/rene-ntekart-skeftomai-ara-yparcho/.
• Μηχανή του Χρόνου: «“Σκέφτομαι, άρα υπάρχω”. Η διατύπωση του Καρτέσιου που ξεχώρισε την ύλη από το πνεύμα. Ο κατάσκοπος που ώθησε την επιστήμη και καθιέρωσε τους όρους χ, ψ, ζ, α, β, γ στην Άλγεβρα…». Διαθέσιμο στον: “Σκέφτομαι, άρα υπάρχω”. Η διατύπωση του Καρτέσιου που ξεχώρισε την ύλη από το πνεύμα. Ο κατάσκοπος που ώθησε την επιστήμη και καθιέρωσε τους όρους χ, ψ, ζ, α, β, γ στην Άλγεβρα – ΜΗΧΑΝΗ ΤΟΥ ΧΡΟΝΟΥ.
• CM (2024) 52-final – Committee on Artificial Intelligence (CAI) – Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. Διαθέσιμο στον: CM(2024)52-final.
• Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions, Artificial Intelligence for Europe, 238 Final (2018). Διαθέσιμο στον: EUR-Lex – 52018DC0237 – EN – EUR-Lex..
• Σύνταγμα της Ελλάδος.
• Ευρωπαϊκή Σύμβαση των Δικαιωμάτων του Ανθρώπου.
• Γεωργιάδης Απόστολος, Γενικές Αρχές Αστικού Δικαίου, Εκδόσεις Π.Ν. Σάκκουλας, Αθήνα 2019.
• Fiction Theory, Friedrich Carl von Savigny
• Ντουμιάς, Αλέξανδρος, Η ένταξη της έννοιας της ηλεκτρονικής προσωπικότητας στην έννομη τάξη, Επιθεώρηση Δικαίου Πληροφορικής, Vol. 4, No. 2. (2023).
• Εuropean Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103(INL) C 252/239. Διαθέσιμο στον: Texts adopted – Civil Law Rules on Robotics – Thursday, 16 February 2017.
• Ρούσσος Κλεάνθης, Δίκαιο Νομικών Προσώπων. Εκδόσεις Π.Ν. Σάκκουλας, Αθήνα 2010.
• Κλαβανίδου Δέσποινα, Αστική Ευθύνη και αυτόνομες μηχανές. Χρονικά Ιδιωτικού Δικαίου, 2021.
• Teubner Gunther.2018. Digitale Rechtssubjecte? Zum privatrechtlichen Status autonomer Softwareagenten, Archiv fuer die civilistische Praxis, Vol. 218. Iss.2,2018.Διαθέσιμο στον: Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten on JSTOR.
• Van de Poel et al. 2012. The Problem of Many Hands: Climate Change as an Example, Sci Eng Ethics Vol.18 Iss. 1, 2012. Διαθέσιμο στον: The Problem of Many Hands: Climate Change as an Example | Science and Engineering Ethics | Springer Nature Link
• Swart Mia, Constructing “Electronic Liability” for International Crimes: Transcending the Individual in International Criminal Law. German Law Journal, 2023. Διαθέσιμο στον: Constructing “Electronic Liability” for International Crimes: Transcending the Individual in International Criminal Law | German Law Journal | Cambridge Core
• Chantal Grut, The Challenge of Autonomous Lethal Robotics to International Humanitarian Law, Journal. Conflict and Security Law. Vol. 18 Iss.1,2013. Διαθέσιμο στον: Challenge of Autonomous Lethal Robotics to International Humanitarian Law | Journal of Conflict and Security Law | Oxford Academic.
• European Commission. Expert Group on Liability and New Technologies (2019). Liability for Artificial Intelligence and other emerging digital technologies. Διαθέσιμο στον: AI-report_EN.pdf.
• Chesterman Simon (2020). Artificial intelligence and the limits of legal personality. International & Comparative Law Quarterly, Vol. 69, No. 4, 2020. Διαθέσιμο στον: ARTIFICIAL INTELLIGENCE AND THE LIMITS OF LEGAL PERSONALITY | International & Comparative Law Quarterly | Cambridge Core.

 

---

[1] Χριστίνα Γεωργάκη ,Ρενέ Ντεκάρτ: «Σκέφτομαι, άρα υπάρχω», ηλεκτρονικό άρθρο στο Maxmag, 6/10/2018 και  Μηχανή του Χρόνου: «“Σκέφτομαι, άρα υπάρχω”. Η διατύπωση του Καρτέσιου που ξεχώρισε την ύλη από το πνεύμα. Ο κατάσκοπος που ώθησε την επιστήμη και καθιέρωσε τους όρους χ, ψ, ζ, α, β, γ στην Άλγεβρα…».

 

[2] CM (2024) 52-final – Committee on Artificial Intelligence (CAI) – Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law.

[3]Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions, Artificial Intelligence for Europe, 238 Final (2018).

[4] Όπως ορίζονται στο Σύνταγμα και στην Ευρωπαϊκή Σύμβαση Δικαιωμάτων του Ανθρώπου.

[5] Από τις παραδόσεις των μαθημάτων του εν λόγω σεμιναρίου.

[6] Γεωργιάδης Απόστολος, Γενικές Αρχές Αστικού Δικαίου, Εκδόσεις Π.Ν. Σάκκουλας, Αθήνα 2019, σσ 161-166.

[7] Fiction Theory, Friedrich Carl von Savigny.

[8] Ντουμιάς, Αλέξανδρος, Η ένταξη της έννοιας της ηλεκτρονικής προσωπικότητας στην έννομη τάξη, Επιθεώρηση Δικαίου Πληροφορικής, Vol. 4, No. 2. (2023).

[9] Εuropean Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics. 2015/2103(INL) C 252/239.

[10] Ο.π. Ντουμιάς Αλέξανδρος.

[11] Ρούσσος Κλεάνθης, Δίκαιο Νομικών Προσώπων. Εκδόσεις Π.Ν. Σάκκουλας, Αθήνα 2010, σσ 145-146.

[12] Κλαβανίδου Δέσποινα, Αστική Ευθύνη και αυτόνομες μηχανές. Χρονικά Ιδιωτικού Δικαίου, 2021, τευχ.7, σελ.483.

[13]Teubner Gunther.2018. Digitale Rechtssubjecte? Zum privatrechtlichen Status autonomer Softwareagenten, Archiv fuer die civilistische Praxis, Vol. 218. Iss.2,2018, pp 21-46.

[14] Ο.π. Ντουμιάς Αλέξανδρος.

[15] Van de Poel et al. 2012. The Problem of Many Hands: Climate Change as an Example, Sci Eng Ethics Vol.18 Iss. 1, 2012, pp. 49–67.

[16] Swart Mia, Constructing “Electronic Liability” for International Crimes: Transcending the Individual in International Criminal Law. German Law Journal, 2023, pp 589-602.

[17] Chantal Grut, The Challenge of Autonomous Lethal Robotics to International Humanitarian Law, Journal. Conflict and Security Law. Vol. 18 Iss.1,2013, pp 272, 283.

[18]European Commission. Expert Group on Liability and New Technologies (2019). Liability for Artificial Intelligence and other emerging digital technologies.

[19] Chesterman Simon (2020). Artificial intelligence and the limits of legal personality. International & Comparative Law Quarterly, Vol. 69, No. 4, 2020, pp. 819-844.